OpenAI посилює заходи безпеки для свого чат-бота ChatGPT після перевірки та судових процесів, які стверджують, що ШІ сприяв самогубствам підлітків. Компанія оголосила про оновлення своєї специфікації моделі, розроблене для забезпечення «безпечного та відповідного віку досвіду» для користувачів віком від 13 до 17 років. Цей крок послідував за низкою протиправних позовів про смерть, які стверджували, що ChatGPT не зміг адекватно відреагувати на суїцидальні думки або навіть заохочував до самоушкодження.
Зростає занепокоєння щодо психічного здоров’я підлітків
Нещодавній сплеск судових позовів і публічної критики, включно з тривожними оголошеннями громадських служб, які зображають чат-ботів зі штучним інтелектом як шкідливих суб’єктів, змусив OpenAI негайно вирішити цю проблему. Один із випадків стосується самогубства 16-річного Адама Рейна, де OpenAI заперечує будь-які правопорушення. Незважаючи на ці заперечення, тиск посилився, що змусило компанію взяти на себе зобов’язання приділяти пріоритет безпеці підлітків, «навіть якщо це суперечить іншим цілям».
Нові заходи безпеки для молодих користувачів
Оновлення вводить жорсткіші обмеження для підлітків. ChatGPT тепер надаватиме пріоритет запобіганню, прозорості та ранньому втручанню в розмови з високим ризиком. Це означає, що штучний інтелект буде активно заохочувати підлітків шукати особисту підтримку або екстрену допомогу під час обговорення таких тем, як самоушкодження, самогубство або небезпечна поведінка. OpenAI також реалізує модель визначення віку для подальшого адаптації заходів безпеки.
Огляди експертів і додаткові ресурси
Американська психологічна асоціація (APA) надала відгук про принципи OpenAI для користувачів віком до 18 років, наголошуючи на важливості балансу між інструментами штучного інтелекту та взаємодією людей у реальному світі для здорового розвитку. Доктор Артур К. Еванс-молодший, генеральний директор APA, заявив, що штучний інтелект може принести користь підліткам тільки якщо його інтегрувати відповідально. OpenAI також публікує рецензовані посібники з навчання AI для підлітків і батьків.
Поточні дебати та юридичні конфлікти
Експерти з безпеки дітей продовжують висловлювати занепокоєння щодо ризиків, які становлять чат-боти зі штучним інтелектом під час обговорень психічного здоров’я підлітків. OpenAI стверджує, що його остання модель, ChatGPT-5.2, «безпечніша», але скептицизм залишається. Також важливо зазначити, що материнська компанія Mashable, Зіфф Девіс, наразі подає до суду на OpenAI за нібито порушення авторських прав.
Зрештою, оновлення OpenAI є відповіддю на зростаючий правовий і суспільний тиск на безпеку. Довгострокова ефективність цих змін залишається незрозумілою, але цей крок свідчить про зростаюче визнання потенційної шкоди, яку ШІ може завдати вразливим молодим користувачам.
Якщо ви відчуваєте суїцидальні думки або перебуваєте в кризі психічного здоров’я, допомога доступна. Ви можете зателефонувати або надіслати текстове повідомлення на номер 988, поспілкуватися на сайті 988lifeline.org або зв’язатися з іншими службами підтримки, переліченими в оригінальній статті.
