OpenAI verstärkt die Sicherheitsmaßnahmen in seinem ChatGPT-Chatbot, nachdem es einer intensiven Prüfung und rechtlichen Anfechtungen zufolge behauptet hat, die KI habe zu Selbstmorden von Teenagern beigetragen. Das Unternehmen kündigte eine Aktualisierung seiner Modellspezifikationen an, die Benutzern im Alter von 13 bis 17 Jahren ein „sicheres, altersgerechtes Erlebnis“ bieten soll. Dieser Schritt erfolgt, da in mehreren Klagen wegen unrechtmäßiger Tötung behauptet wird, dass ChatGPT nicht angemessen auf Selbstmordgedanken reagiert oder gar zur Selbstverletzung ermutigt habe.
Zunehmende Besorgnis über die psychische Gesundheit von Teenagern
Der jüngste Anstieg an Klagen und öffentlichen Gegenreaktionen, darunter eine beunruhigende öffentliche Ankündigung, in der KI-Chatbots als schädliche Figuren dargestellt wurden, zwang OpenAI, das Problem direkt anzugehen. In einem Fall geht es um den Selbstmord des 16-jährigen Adam Raine, bei dem OpenAI die Schuld bestreitet. Trotz dieser Dementis wuchs der Druck und veranlasste das Unternehmen, sich dazu zu verpflichten, der Sicherheit von Jugendlichen Priorität einzuräumen, „auch wenn dies im Widerspruch zu anderen Zielen stehen könnte“.
Neue Schutzmaßnahmen für jüngere Benutzer
Das Update führt strengere Richtlinien für jugendliche Benutzer ein. ChatGPT wird nun Prävention, Transparenz und frühzeitiges Eingreifen bei Gesprächen mit hohem Risiko priorisieren. Das bedeutet, dass die KI Jugendliche aktiv dazu ermutigt, Offline-Unterstützung zu suchen oder sich an den Rettungsdienst zu wenden, wenn sie Themen wie Selbstverletzung, Selbstmord oder gefährliches Verhalten besprechen. OpenAI implementiert außerdem ein Altersvorhersagemodell, um die Schutzmaßnahmen weiter anzupassen.
Expertenbeiträge und zusätzliche Ressourcen
Die American Psychological Association (APA) gab Feedback zu den OpenAI-Grundsätzen für unter 18-Jährige und betonte, wie wichtig es für eine gesunde Entwicklung ist, KI-Tools mit echter menschlicher Interaktion in Einklang zu bringen. Dr. Arthur C. Evans Jr., CEO der APA, erklärte, dass KI Teenagern zugute kommen kann, wenn sie verantwortungsvoll integriert wird. OpenAI veröffentlicht außerdem von Experten geprüfte Leitfäden zur KI-Kompetenz für Jugendliche und Eltern.
Laufende Debatte und rechtliche Konflikte
Kindersicherheitsexperten äußern in Diskussionen über die psychische Gesundheit von Teenagern weiterhin Bedenken hinsichtlich der Risiken von KI-Chatbots. OpenAI behauptet, sein neuestes Modell, ChatGPT-5.2, sei „sicherer“, aber die Skepsis bleibt bestehen. Es ist auch wichtig zu beachten, dass die Muttergesellschaft von Mashable, Ziff Davis, OpenAI derzeit wegen angeblicher Urheberrechtsverletzung verklagt.
Letztendlich stellt das Update von OpenAI eine reaktive Maßnahme auf den wachsenden rechtlichen und öffentlichen Sicherheitsdruck dar. Die langfristige Wirksamkeit dieser Änderungen bleibt abzuwarten, aber der Schritt signalisiert eine wachsende Erkenntnis des potenziellen Schadens, den KI gefährdeten jungen Benutzern zufügen kann.
Wenn Sie mit Selbstmordgedanken oder einer psychischen Krise zu kämpfen haben, stehen Ihnen Ressourcen zur Verfügung. Sie können 988 anrufen oder eine SMS senden, unter 988lifeline.org chatten oder sich an andere im Originalartikel aufgeführte Support-Hotlines wenden.
