OpenAI renforce les mesures de sécurité de son chatbot ChatGPT à la suite d’un examen minutieux et de contestations juridiques alléguant que l’IA a contribué aux suicides d’adolescents. La société a annoncé une mise à jour de ses spécifications de modèle, conçue pour offrir une « expérience sûre et adaptée à l’âge » aux utilisateurs âgés de 13 à 17 ans. Cette décision intervient alors que plusieurs poursuites pour mort injustifiée affirment que ChatGPT n’a pas répondu de manière adéquate aux idées suicidaires ou a même encouragé l’automutilation.
Inquiétudes croissantes concernant la santé mentale des adolescents
La récente recrudescence des poursuites judiciaires et les réactions négatives du public, y compris un message d’intérêt public inquiétant décrivant les chatbots IA comme des personnages nuisibles, ont forcé OpenAI à aborder le problème directement. Un cas concerne le suicide d’Adam Raine, 16 ans, pour lequel OpenAI nie toute culpabilité. Malgré ces dénégations, la pression est montée, conduisant l’entreprise à s’engager à donner la priorité à la sécurité des adolescents « même si cela peut entrer en conflit avec d’autres objectifs ».
Nouvelles garanties pour les jeunes utilisateurs
La mise à jour introduit des garde-fous plus stricts pour les utilisateurs adolescents. ChatGPT donnera désormais la priorité à la prévention, à la transparence et à l’intervention précoce dans les conversations à haut risque. Cela signifie que l’IA encouragera activement les adolescents à rechercher une assistance hors ligne ou à contacter les services d’urgence lorsqu’ils discutent de sujets tels que l’automutilation, le suicide ou un comportement dangereux. OpenAI met également en œuvre un modèle de prévision de l’âge pour mieux adapter les garanties.
Contribution d’experts et ressources supplémentaires
L’American Psychological Association (APA) a fourni des commentaires sur les principes d’OpenAI pour les moins de 18 ans, soulignant l’importance d’équilibrer les outils d’IA avec une véritable interaction humaine pour un développement sain. Le Dr Arthur C. Evans Jr., PDG de l’APA, a déclaré que l’IA peut bénéficier aux adolescents si elle est intégrée de manière responsable. OpenAI publie également des guides d’initiation à l’IA approuvés par des experts pour les adolescents et les parents.
Débat en cours et conflits juridiques
Les experts en sécurité des enfants continuent de faire part de leurs inquiétudes quant aux risques des chatbots IA dans les discussions sur la santé mentale des adolescents. OpenAI affirme que son dernier modèle, ChatGPT-5.2, est « plus sûr », mais le scepticisme demeure. Il est également important de noter que la société mère de Mashable, Ziff Davis, poursuit actuellement OpenAI pour violation présumée du droit d’auteur.
En fin de compte, la mise à jour d’OpenAI représente une mesure en réaction aux pressions croissantes en matière juridique et de sécurité publique. L’efficacité à long terme de ces changements reste à voir, mais cette décision témoigne d’une reconnaissance croissante des dommages potentiels que l’IA peut infliger aux jeunes utilisateurs vulnérables.
Si vous êtes aux prises avec des pensées suicidaires ou une crise de santé mentale, des ressources sont disponibles. Vous pouvez appeler ou envoyer un SMS au 988, discuter sur 988lifeline.org ou contacter d’autres lignes d’assistance répertoriées dans l’article d’origine.
