OpenAI verschiebt ChatGPT-Erwachsenenmodus aufgrund von Bedenken zur Sicherheit Jugendlicher und fehlgeschlagener Altersverifizierung

TLDR

• OpenAI hat den Start eines geplanten "erweiterten Modus" für ChatGPT verschoben, der erotische Textchats ermöglichen würde
• Interne Berater warnten, dass die Funktion aufgrund emotionaler Abhängigkeit der Benutzer einen "sexy Selbstmord-Coach" schaffen könnte
• Das Altersvorhersagesystem des Unternehmens klassifizierte Minderjährige etwa 12 % der Zeit fälschlicherweise als Erwachsene
• Mit ~100 Millionen wöchentlichen Benutzern unter 18 Jahren könnte diese Fehlerquote Millionen von Teenagern erwachsenen Inhalten aussetzen
• OpenAI sagt, dass es die Funktion weiterhin irgendwann veröffentlichen möchte, aber mehr Zeit benötigt, um "die Erfahrung richtig zu gestalten"

OpenAI hat den Start seines geplanten "erweiterten Modus" für ChatGPT verschoben, nachdem interne Mitarbeiter, externe Berater und Sicherheitsexperten ernsthafte Bedenken hinsichtlich des Zugangs von Teenagern und der psychischen Gesundheit der Benutzer geäußert hatten.

Die Funktion, die CEO Sam Altman letztes Jahr erstmals vorschlug, würde es Benutzern ermöglichen, erotische Textunterhaltungen mit dem Chatbot zu führen. Altman argumentierte, der Schritt würde "erwachsene Benutzer wie Erwachsene behandeln" und schlug vor, dass es Wachstum und Umsatz steigern könnte.

Aber der Plan stieß schnell auf Widerstand innerhalb des Unternehmens.

Bei einem Treffen im Januar wurden Mitglieder von OpenAIs Beratungsrat für Wohlbefinden als einstimmig und wütend beschrieben. Der Rat umfasst Experten für Psychologie und kognitive Neurowissenschaften.

Ein Mitglied warnte, dass OpenAI Gefahr laufe, das zu bauen, was sie einen "sexy Selbstmord-Coach" nannten. Diese Warnung bezog sich auf Fälle, in denen ChatGPT-Benutzer sich das Leben genommen hatten, nachdem sie intensive emotionale Bindungen zum Bot aufgebaut hatten.

Berater warnten auch, dass die Funktion zu einer ungesunden Abhängigkeit vom Chatbot führen könnte und dass Minderjährige Wege finden könnten, alle eingerichteten Altersbeschränkungen zu umgehen.

Ein zentrales technisches Problem ist das Altersvorhersagesystem von OpenAI. Zu einem bestimmten Zeitpunkt klassifizierte das System Minderjährige etwa 12 % der Zeit fälschlicherweise als Erwachsene. OpenAI hat etwa 100 Millionen Benutzer unter 18 Jahren, die ChatGPT jede Woche nutzen. Diese Fehlerquote könnte Millionen von Teenagern Zugang zu erwachsenen Chats ermöglichen.

Probleme bei der Altersverifizierung

Das Unternehmen hatte geplant, das Altersprüfungssystem vor der Einführung des erweiterten Modus einzuführen. Aber es entschied sich für eine langsame Einführung, um die Genauigkeit zu verbessern, nachdem das Problem der Fehlerquote identifiziert wurde.

OpenAI stand auch vor der Herausforderung, illegale Inhalte wie Darstellungen nicht einvernehmlicher Handlungen oder sexuellen Kindesmissbrauchs zu blockieren und gleichzeitig erwachsene Gespräche zu ermöglichen. Interne Mitarbeiter sagten, sie glaubten nicht, dass die Sicherheitswerkzeuge bereit seien.

Wenn der erweiterte Modus eingeführt wird, plant OpenAI, ihn nur auf Text zu beschränken. Der Bot wird keine erotischen Bilder, Sprach- oder Videoinhalte generieren.

Andere KI-Unternehmen und erwachsene Inhalte

Mehrere andere KI-Unternehmen erlauben bereits einige erwachsene Inhalte. Elon Musks xAI fügte seinem Grok-Chatbot einen flirtenden Avatar hinzu, obwohl Musk ihn später auf zahlende Benutzer beschränkte. Meta erlaubt seiner KI, sich auf romantisches Rollenspiel einzulassen, sagt aber, dass die Funktion nicht für auf Minderjährige registrierte Konten verfügbar ist.

Ende 2024 starb ein 14-jähriger Junge in Florida durch Selbstmord, nachdem er eine intensive Bindung zu einem Character.AI-Chatbot aufgebaut hatte. Seine Mutter reichte eine Klage ein, und Character.AI einigte sich später und beschränkte den Zugang für Teenager.

OpenAI sagte, es unterstütze weiterhin das Prinzip, erwachsenen Benutzern erwachsene Inhalte zu ermöglichen. Das Unternehmen sagte, es werde sich vorerst auf andere Updates konzentrieren, einschließlich der Persönlichkeits- und Personalisierungsfunktionen von ChatGPT.

Die Verzögerung wird voraussichtlich mindestens einen Monat dauern, so Personen, die mit der Angelegenheit vertraut sind.

Der Beitrag OpenAI Delays ChatGPT Adult Mode Over Teen Safety Fears and Age-Check Failures erschien zuerst auf CoinCentral.