Pemerintah di seluruh dunia dengan cepat menanggapi kekhawatiran mengenai Grok, chatbot AI milik Elon Musk, yang dituduh menghasilkan konten berbahaya dan ilegal, khususnya deepfake yang eksplisit secara seksual. Beberapa negara telah mengambil tindakan untuk melarang atau membatasi akses ke platform ini, dengan alasan kegagalan dalam upaya perlindungan terhadap penyalahgunaan. Situasi ini menimbulkan pertanyaan tentang tanggung jawab perusahaan teknologi untuk mengendalikan konten yang dihasilkan AI dan kerangka hukum yang diperlukan untuk mengatasi dampak buruk yang muncul.
Larangan dan Pembatasan Segera
Indonesia adalah negara pertama yang memblokir sementara Grok, dengan secara eksplisit menyebut pembuatan konten pornografi palsu sebagai pelanggaran hak asasi manusia dan keselamatan. Pihak berwenang menemukan tidak cukupnya perlindungan untuk mencegah pembuatan dan distribusi deepfake non-konsensual yang menggunakan gambar asli warga negara Indonesia.
Malaysia mengikutinya, memerintahkan pelarangan sementara setelah berulang kali menyalahgunakan Grok untuk menghasilkan gambar yang dimanipulasi dan tidak senonoh. X, pemilik platform tersebut, telah diperingatkan namun gagal mengatasi risiko yang melekat dalam desainnya, menurut Komisi Komunikasi dan Multimedia Malaysia (MCMC).
Investigasi Eropa dan Inggris
Uni Eropa sedang menyelidiki kasus gambar yang menjurus ke arah seksual, termasuk gambar gadis muda, yang dibuat oleh Grok. Ursula von der Leyen, Presiden Komisi Eropa, menyatakan kemarahannya atas platform yang memungkinkan pengguna menelanjangi perempuan dan anak-anak secara digital, dan mengancam akan mengambil tindakan jika X tidak melakukan pengaturan mandiri.
Inggris meluncurkan penyelidikan terhadap X dan xAI atas penggunaan chatbot dalam menghasilkan gambar eksplisit dan non-konsensual. Ofcom, pengawas media Inggris, memperingatkan potensi denda hingga £18 juta jika X gagal memenuhi persyaratan.
Prancis memperluas penyelidikan yang ada terhadap X dengan menyertakan Grok, dengan fokus pada penyebaran video seksual eksplisit palsu yang menampilkan anak di bawah umur. Kantor Kejaksaan Paris juga sedang memeriksa potensi pelanggaran Undang-Undang Layanan Digital.
Italia mengeluarkan peringatan bahwa mereka yang menggunakan Grok untuk melepas pakaian dari gambar tanpa izin berisiko dikenakan tuntutan pidana, dengan alasan pelanggaran serius terhadap hak-hak dasar. Otoritas Perlindungan Data Italia berkoordinasi dengan Komisi Perlindungan Data Irlandia, tempat X berkantor pusat.
Jerman berencana memperkenalkan undang-undang baru yang melarang kekerasan digital, yang bertujuan untuk memperkuat perlindungan bagi korban penyalahgunaan yang disebabkan oleh AI. Pemerintah memandang manipulasi terhadap pelanggaran hak yang bersifat sistemik tidak dapat diterima.
Kekhawatiran dan Tanggapan yang Lebih Luas
Komisaris eSafety Australia telah menerima laporan tentang konten eksplisit Grok dan akan menggunakan kewenangannya, termasuk pemberitahuan penghapusan, jika pelanggaran terhadap Undang-Undang Keamanan Online terkonfirmasi. Kantor tersebut meminta lebih banyak informasi dari X dan mengevaluasi kepatuhan terhadap undang-undang media sosial yang baru.
Tindakan-tindakan ini menyoroti tren global yang berkembang menuju regulasi yang lebih ketat terhadap konten yang dihasilkan AI, khususnya gambar-gambar deepfake dan non-konsensual. Peningkatan pesat ini menggarisbawahi kebutuhan mendesak bagi perusahaan-perusahaan teknologi untuk menerapkan perlindungan yang kuat dan bagi pemerintah untuk menetapkan kerangka hukum yang jelas untuk melindungi warga negara dari bahaya terkait AI.
Situasi dengan Grok menggarisbawahi keterbatasan regulasi mandiri oleh platform teknologi dan meningkatnya tekanan terhadap pemerintah untuk melakukan intervensi. Penyebaran penyalahgunaan yang disebabkan oleh AI memerlukan tindakan segera untuk menyeimbangkan inovasi dan perlindungan hak-hak dasar.
