Platform X Elon Musk telah menerapkan pembatasan baru pada chatbot Grok AI untuk mencegah pembuatan deepfake seksual, khususnya gambar yang menggambarkan orang sungguhan dalam pakaian terbuka seperti bikini. Perubahan ini terjadi di tengah meningkatnya tekanan hukum dan politik, termasuk penyelidikan oleh jaksa agung California dan ancaman pelarangan di Inggris dan negara lain.
Reaksi Hukum dan Peraturan
Langkah ini menyusul kritik luas setelah chatbot Grok digunakan untuk menghasilkan gambar selebriti dan anak-anak yang eksplisit dan non-konsensual. Jaksa Agung California Rob Bonta telah meminta xAI, pengembang Grok, segera mengambil tindakan untuk menghapus konten tersebut. Negara bagian siap menggunakan “semua alat yang kami miliki” untuk melindungi penduduknya, yang menandakan potensi konsekuensi hukum bagi X jika mereka gagal mematuhinya.
“Materi ini…menggambarkan perempuan dan anak-anak dalam situasi telanjang dan seksual eksplisit, telah digunakan untuk melecehkan orang di internet.” – Rob Bonta, Jaksa Agung California.
Pada saat yang sama, pemerintah Inggris mengecam keluaran alat AI sebagai hal yang “memalukan” dan “menjijikkan”, dan Perdana Menteri Keir Starmer mengancam akan melakukan intervensi jika X tidak melakukan pengaturan mandiri. Indonesia dan Malaysia telah memblokir akses ke Grok.
Pembatasan Teknis Diimplementasikan
X mengumumkan bahwa mereka telah menerapkan langkah-langkah teknologi untuk mencegah AI menghasilkan gambar eksplisit orang sungguhan. Ini termasuk:
- Batas Pengeditan Gambar: Kemampuan mengedit gambar melalui Grok kini dibatasi hanya untuk pelanggan berbayar.
- Pemblokiran geografis: X akan memblokir geografis pengguna di wilayah hukum yang melarang pembuatan gambar tersebut.
- Moderasi Konten: Upaya untuk menghindari pembatasan ini akan dipantau secara aktif.
Pertanyaan Bagian 230
Perubahan kebijakan yang cepat mungkin merupakan respons terhadap kekhawatiran mengenai tanggung jawab hukum. Para ahli berpendapat bahwa X mungkin tidak sepenuhnya dilindungi oleh Pasal 230 Undang-Undang Kepatutan Komunikasi AS ketika AI milik platform tersebut menghasilkan konten berbahaya. Undang-undang ini biasanya melindungi perusahaan teknologi dari tuntutan hukum terkait materi buatan pengguna, namun konten yang dibuat langsung oleh teknologi aplikasi dapat tunduk pada standar hukum yang berbeda.
Penyesuaian yang cepat ini mencerminkan meningkatnya tekanan pada X untuk mengatasi penyebaran penyalahgunaan yang disebabkan oleh AI pada platformnya. Situasi ini menimbulkan pertanyaan yang lebih luas mengenai tanggung jawab perusahaan teknologi dalam mengendalikan keluaran alat AI mereka dan batasan perlindungan hukum di era AI generatif.
