OpenAI memperkuat langkah-langkah keamanan di chatbot ChatGPT menyusul pengawasan ketat dan tantangan hukum yang menuduh AI berkontribusi terhadap bunuh diri remaja. Perusahaan mengumumkan pembaruan pada Model Spec-nya, yang dirancang untuk memberikan “pengalaman yang aman dan sesuai usia” bagi pengguna berusia 13-17 tahun. Langkah ini dilakukan ketika banyak tuntutan hukum kematian yang tidak wajar mengklaim bahwa ChatGPT gagal merespons secara memadai ide bunuh diri atau bahkan mendorong tindakan menyakiti diri sendiri.
Meningkatnya Kekhawatiran Terhadap Kesehatan Mental Remaja
Meningkatnya tuntutan hukum dan reaksi publik baru-baru ini, termasuk pengumuman layanan masyarakat yang menggambarkan chatbot AI sebagai sosok yang merugikan, memaksa OpenAI untuk mengatasi masalah ini secara langsung. Satu kasus melibatkan bunuh diri Adam Raine yang berusia 16 tahun, dimana OpenAI menyangkal kesalahannya. Meskipun terdapat penolakan-penolakan ini, tekanan terus meningkat, sehingga perusahaan tersebut berkomitmen untuk memprioritaskan keselamatan remaja “bahkan ketika hal tersebut mungkin bertentangan dengan tujuan-tujuan lain.”
Perlindungan Baru untuk Pengguna Muda
Pembaruan ini memperkenalkan batasan yang lebih ketat bagi pengguna remaja. ChatGPT kini akan memprioritaskan pencegahan, transparansi, dan intervensi dini dalam percakapan berisiko tinggi. Artinya, AI akan secara aktif mendorong remaja untuk mencari dukungan offline atau menghubungi layanan darurat ketika mendiskusikan topik seperti menyakiti diri sendiri, bunuh diri, atau perilaku berbahaya. OpenAI juga menerapkan model prediksi usia untuk lebih menyesuaikan upaya perlindungan.
Masukan Pakar dan Sumber Daya Tambahan
American Psychological Association (APA) memberikan masukan mengenai prinsip-prinsip OpenAI di bawah 18 tahun, dengan menekankan pentingnya menyeimbangkan alat AI dengan interaksi nyata dengan manusia untuk pembangunan yang sehat. Arthur C. Evans Jr., CEO APA, menyatakan bahwa AI dapat memberikan manfaat bagi remaja jika diintegrasikan secara bertanggung jawab. OpenAI juga merilis panduan literasi AI yang telah diperiksa oleh para ahli untuk remaja dan orang tua.
Perdebatan dan Konflik Hukum yang Berkelanjutan
Pakar keselamatan anak terus menyuarakan kekhawatiran tentang risiko chatbot AI dalam diskusi kesehatan mental remaja. OpenAI mengklaim model terbarunya, ChatGPT-5.2, “lebih aman”, tetapi skeptisisme tetap ada. Penting juga untuk dicatat bahwa perusahaan induk Mashable, Ziff Davis, saat ini menggugat OpenAI atas dugaan pelanggaran hak cipta.
Pada akhirnya, pembaruan OpenAI mewakili langkah reaktif terhadap meningkatnya tekanan hukum dan keselamatan publik. Efektivitas jangka panjang dari perubahan ini masih harus dilihat, namun langkah ini menandakan semakin besarnya kesadaran akan potensi bahaya yang dapat ditimbulkan oleh AI terhadap pengguna muda yang rentan.
Jika Anda sedang bergumul dengan pikiran untuk bunuh diri atau krisis kesehatan mental, sumber daya tersedia. Anda dapat menelepon atau mengirim SMS ke 988, mengobrol di 988lifeline.org, atau menghubungi saluran dukungan lain yang tercantum di artikel asli.
