OpenAI posiluje bezpečnostní opatření na svém chatbotu ChatGPT po kontrole a soudních sporech, které tvrdí, že umělá inteligence přispěla k sebevraždám mladistvých. Společnost oznámila aktualizaci své modelové specifikace, která je navržena tak, aby uživatelům ve věku 13 až 17 let poskytovala „bezpečný a věkově odpovídající zážitek“. Tento krok následuje po řadě soudních sporů o neoprávněné smrti, podle nichž ChatGPT nedokázal adekvátně reagovat na sebevražedné myšlenky nebo dokonce podporoval sebepoškozování.
Rostoucí obavy o duševní zdraví dospívajících
Nedávný nárůst soudních sporů a veřejné kritiky, včetně znepokojivých oznámení veřejné služby vykreslujících chatboty AI jako škodlivé entity, donutil OpenAI řešit tento problém přímo. V jednom z případů jde o sebevraždu 16letého Adama Reina, kde OpenAI jakékoliv pochybení popírá. Navzdory těmto odmítnutím tlak vzrostl, což vedlo společnost k tomu, aby se zavázala upřednostňovat bezpečnost teenagerů, „i když je to v rozporu s jinými cíli“.
Nová bezpečnostní opatření pro mladé uživatele
Aktualizace zavádí přísnější omezení pro teenagery. ChatGPT nyní bude u vysoce rizikových konverzací upřednostňovat prevenci, transparentnost a včasný zásah. To znamená, že AI bude aktivně povzbuzovat teenagery, aby při diskuzi o tématech, jako je sebepoškozování, sebevražda nebo nebezpečné chování, vyhledávali tváří v tvář podporu nebo pohotovostní služby. OpenAI také implementuje model zjišťování věku, který dále přizpůsobuje bezpečnostní opatření.
Odborné recenze a další zdroje
Americká psychologická asociace (APA) poskytla zpětnou vazbu k principům OpenAI pro uživatele mladší 18 let a zdůraznila důležitost rovnováhy mezi nástroji AI a interakcí mezi lidmi v reálném světě pro zdravý vývoj. Dr. Arthur C. Evans Jr., generální ředitel APA, uvedl, že umělá inteligence může být přínosem pro dospívající *pouze v případě, že je integrována zodpovědně. OpenAI také vydává recenzované průvodce gramotností umělé inteligence pro dospívající a rodiče.
Probíhající debaty a právní konflikty
Odborníci na bezpečnost dětí i nadále vyjadřují obavy z rizik, která představují chatboti s umělou inteligencí v diskusích o duševním zdraví dospívajících. OpenAI tvrdí, že jeho nejnovější model, ChatGPT-5.2, je „bezpečnější“, ale skepticismus zůstává. Je také důležité poznamenat, že mateřská společnost Mashable, Ziff Davis, v současné době žaluje OpenAI za údajné porušení autorských práv.
Aktualizace OpenAI v konečném důsledku představuje reakci na rostoucí právní a veřejný tlak na bezpečnost. Dlouhodobá účinnost těchto změn zůstává nejasná, ale tento krok signalizuje rostoucí uznání potenciálních škod, které AI může způsobit zranitelným mladým uživatelům.
Pokud máte sebevražedné myšlenky nebo jste v krizi duševního zdraví, je k dispozici pomoc. Můžete zavolat nebo poslat SMS na číslo 988, chatovat na 988lifeline.org nebo kontaktovat další služby podpory uvedené v původním článku.
