OpenAI versterkt de veiligheidsmaatregelen in zijn ChatGPT-chatbot na intensief onderzoek en juridische uitdagingen waarin wordt beweerd dat de AI heeft bijgedragen aan zelfmoorden onder tieners. Het bedrijf kondigde een update aan van zijn Modelspecificaties, ontworpen om een ”veilige, bij de leeftijd passende ervaring” te bieden voor gebruikers van 13 tot 17 jaar. Deze stap komt nadat meerdere rechtszaken wegens onrechtmatige dood beweren dat ChatGPT er niet in slaagde adequaat te reageren op zelfmoordgedachten of zelfs zelfbeschadiging aanmoedigde.
Toenemende zorgen over de geestelijke gezondheid van tieners
De recente golf van rechtszaken en publieke reacties, waaronder een verontrustende aankondiging van de overheid waarin AI-chatbots als schadelijke figuren worden afgeschilderd, dwong OpenAI om het probleem rechtstreeks aan te pakken. Eén geval betreft de zelfmoord van de 16-jarige Adam Raine, waarbij OpenAI de schuld ontkent. Ondanks deze ontkenningen nam de druk toe, waardoor het bedrijf zich ertoe verplichtte prioriteit te geven aan de veiligheid van tieners, “zelfs als dit in strijd zou kunnen zijn met andere doelstellingen.”
Nieuwe waarborgen voor jongere gebruikers
De update introduceert strengere vangrails voor tienergebruikers. ChatGPT zal nu prioriteit geven aan preventie, transparantie en vroegtijdige interventie bij gesprekken met een hoog risico. Dit betekent dat de AI tieners actief zal aanmoedigen om offline ondersteuning te zoeken of contact op te nemen met de hulpdiensten bij het bespreken van onderwerpen als zelfbeschadiging, zelfmoord of gevaarlijk gedrag. OpenAI implementeert ook een leeftijdsvoorspellingsmodel om de veiligheidsmaatregelen verder op maat te maken.
Deskundige input en aanvullende bronnen
De American Psychological Association (APA) gaf feedback op de principes van OpenAI onder de 18 jaar en benadrukte het belang van het balanceren van AI-instrumenten met echte menselijke interactie voor een gezonde ontwikkeling. Dr. Arthur C. Evans Jr., CEO van de APA, verklaarde dat AI tieners ten goede kan komen als het op een verantwoorde manier wordt geïntegreerd. OpenAI brengt ook door experts doorgelichte AI-geletterdheidsgidsen uit voor tieners en ouders.
Voortdurend debat en juridische conflicten
Experts op het gebied van kinderveiligheid blijven hun zorgen uiten over de risico’s van AI-chatbots in discussies over de geestelijke gezondheid van tieners. OpenAI beweert dat zijn nieuwste model, ChatGPT-5.2, “veiliger” is, maar de scepsis blijft bestaan. Het is ook belangrijk op te merken dat het moederbedrijf van Mashable, Ziff Davis, OpenAI momenteel aanklaagt wegens vermeende inbreuk op het auteursrecht.
Uiteindelijk vertegenwoordigt de update van OpenAI een reactieve maatregel op de toenemende juridische en publieke veiligheidsdruk. De effectiviteit van deze veranderingen op de lange termijn valt nog te bezien, maar de stap duidt op een groeiende erkenning van de potentiële schade die AI kan toebrengen aan kwetsbare jonge gebruikers.
Als u worstelt met zelfmoordgedachten of een geestelijke gezondheidscrisis, zijn er hulpmiddelen beschikbaar. U kunt 988 bellen of sms’en, chatten op 988lifeline.org of contact opnemen met andere ondersteuningslijnen die in het originele artikel worden vermeld.
