OpenAI усиливает меры безопасности в своем чат-боте ChatGPT после пристального внимания и судебных разбирательств, в которых утверждается, что ИИ способствовал подростковым самоубийствам. Компания объявила об обновлении своей Модельной Спецификации, предназначенной для обеспечения «безопасного и соответствующего возрасту опыта» для пользователей в возрасте от 13 до 17 лет. Этот шаг последовал за рядом исков о причинении смерти, в которых утверждается, что ChatGPT не смог адекватно отреагировать на суицидальные мысли или даже поощрял членовредительство.
Растущая Обеспокоенность по Поводу Психического Здоровья Подростков
Недавний всплеск судебных исков и общественной критики, включая тревожную социальную рекламу, изображающую ИИ-чат-ботов как вредные сущности, заставил OpenAI напрямую решить эту проблему. Один из случаев связан с самоубийством 16-летнего Адама Рейна, где OpenAI отрицает свою вину. Несмотря на эти отрицания, давление усилилось, что привело к тому, что компания взяла на себя обязательство отдавать приоритет безопасности подростков «даже если это противоречит другим целям».
Новые Меры Безопасности для Молодых Пользователей
Обновление вводит более строгие ограничения для подростков. ChatGPT теперь будет уделять приоритетное внимание профилактике, прозрачности и раннему вмешательству в разговорах с высоким риском. Это означает, что ИИ будет активно призывать подростков обращаться за очной поддержкой или в службы экстренной помощи при обсуждении таких тем, как членовредительство, самоубийство или опасное поведение. OpenAI также внедряет модель определения возраста для дальнейшей адаптации мер безопасности.
Экспертные Оценки и Дополнительные Ресурсы
Американская Психологическая Ассоциация (APA) предоставила свои отзывы о принципах OpenAI для пользователей младше 18 лет, подчеркнув важность баланса между ИИ-инструментами и реальным человеческим взаимодействием для здорового развития. Доктор Артур К. Эванс-младший, генеральный директор APA, заявил, что ИИ может принести пользу подросткам только если он интегрирован ответственно. OpenAI также публикует проверенные экспертами руководства по ИИ-грамотности для подростков и родителей.
Продолжающиеся Дебаты и Юридические Конфликты
Эксперты по безопасности детей продолжают выражать обеспокоенность по поводу рисков, связанных с ИИ-чат-ботами в обсуждениях психического здоровья подростков. OpenAI утверждает, что ее последняя модель, ChatGPT-5.2, «безопаснее», но скептицизм сохраняется. Также важно отметить, что материнская компания Mashable, Ziff Davis, в настоящее время судится с OpenAI за предполагаемое нарушение авторских прав.
В конечном счете, обновление OpenAI представляет собой реакцию на растущее юридическое и общественное давление в отношении безопасности. Эффективность этих изменений в долгосрочной перспективе остается неясной, но этот шаг сигнализирует о растущем признании потенциального вреда, который ИИ может нанести уязвимым молодым пользователям.
Если вы испытываете суицидальные мысли или находитесь в кризисной ситуации в отношении психического здоровья, помощь доступна. Вы можете позвонить или отправить текстовое сообщение по номеру 988, пообщаться на сайте 988lifeline.org или обратиться в другие службы поддержки, перечисленные в оригинальной статье.
