xAI, perusahaan milik Elon Musk, digugat oleh tiga remaja asal Tennessee, Amerika Serikat. Mereka mengklaim bahwa chatbot AI Grok milik xAI telah mengubah foto mereka menjadi konten berbau seksual ketika mereka masih di bawah umur.
Gugatan class action tersebut menuduh bahwa Elon Musk dan para eksekutif xAI mengetahui potensi Grok dalam menghasilkan materi pelecehan seksual anak (child sexual abuse material/CSAM) berbasis AI saat meluncurkan fitur 'spicy mode' pada akhir tahun lalu.
Para penggugat terdiri dari dua anak di bawah umur dan satu orang dewasa yang saat kejadian masih di bawah umur. Salah satu korban, yang disebut Jane Doe 1, mengungkapkan bahwa pada Desember lalu ia menemukan gambar eksplisit buatan AI yang menampilkan wajahnya dan setidaknya 18 anak di bawah umur lainnya beredar di Discord.
"Setidaknya lima file ini, yang terdiri dari satu video dan empat gambar, menampilkan wajah dan tubuhnya dengan latar yang ia kenal, namun diubah menjadi pose-pose yang eksplisit secara seksual," demikian bunyi klaim dalam gugatan tersebut, seperti dikutip dari The Verge, Kamis (19/3/2026).
Pelaku yang membuat dan menyebarkan gambar tidak senonoh tersebut telah ditangkap. Diduga, pelaku menggunakan gambar AI ilegal yang menggambarkan Jane Doe 1 sebagai alat barter di grup Telegram yang beranggotakan ratusan orang untuk mendapatkan konten seksual anak di bawah umur lainnya.
Gugatan tersebut mengklaim bahwa pelaku menghasilkan gambar eksplisit Jane Doe 1 dan dua korban lainnya menggunakan Grok. Selain itu, gugatan tersebut menuding xAI telah lalai dalam menguji keamanan fitur yang mereka kembangkan, serta menyatakan bahwa Grok memiliki desain yang cacat.
"Ini adalah anak-anak yang foto sekolah dan keluarganya diubah menjadi materi pelecehan seksual anak oleh layanan AI milik perusahaan bernilai miliaran dolar, dan kemudian diperdagangkan di antara para predator," kata salah satu pengacara korban, Annika K. Martin.
"Kami bertujuan untuk meminta pertanggung jawaban xAI atas setiap anak yang mereka rugikan dengan cara ini," sambungnya.
Gugatan tersebut menuntut ganti rugi bagi para korban yang terdampak oleh 'gambar ilegal' buatan Grok. Selain itu, penggugat juga meminta pengadilan untuk mencegah xAI menghasilkan dan menyebarkan materi pelecehan seksual anak yang dibuat oleh AI.
Kasus ini menambah sorotan terhadap Musk dan xAI, setelah sebelumnya Grok membanjiri X dengan gambar eksplisit orang dewasa dan anak di bawah umur. Insiden ini memicu pemblokiran Grok di Indonesia, penyelidikan dari Uni Eropa, serta peringatan dari Perdana Menteri Inggris, Keir Starmer.
X telah berupaya mempersulit pengguna untuk mengedit gambar dengan Grok, dan menyatakan bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal.
