Kecerdasan buatan (AI) Grok, yang dikembangkan oleh Elon Musk, menghadapi tuntutan hukum dari sejumlah remaja. Mereka menjadi korban penyalahgunaan foto untuk membuat konten pornografi. Para remaja ini mengklaim foto mereka digunakan tanpa izin untuk menghasilkan gambar dan video bernuansa seksual.
Gugatan tersebut diajukan pada Senin lalu. Gugatan ini menyoroti dampak kontroversial dari peluncuran fitur "Spicy" pada Grok tahun lalu, yang memungkinkan pembuatan konten dengan tingkat keseksualan yang lebih tinggi.
Grok adalah chatbot yang dikembangkan oleh xAI dan beroperasi di platform media sosial X, yang juga dimiliki oleh Musk. Saat dimintai komentar, xAI belum memberikan tanggapan melalui perusahaan induknya.
Pengacara yang mewakili para remaja tersebut berpendapat bahwa kemampuan Grok dalam mengubah gambar dan video secara sengaja dirancang dan dirilis oleh xAI. Tujuannya, menurut mereka, adalah untuk meningkatkan popularitas dan penggunaan chatbot serta platform X. Mereka menggambarkan perubahan gambar para korban sebagai tindakan yang mengerikan, menyamakannya dengan "boneka kain yang dihidupkan melalui ilmu hitam".
Dalam pengaduannya, pengacara korban menyampaikan bahwa xAI, beserta pendirinya Elon Musk, melihat adanya peluang bisnis dalam kasus ini. Mereka mengetahui bahwa Grok memiliki potensi untuk menghasilkan konten semacam itu, termasuk yang melibatkan gambar dan video anak-anak, namun tetap merilisnya ke publik.
Sebagai akibatnya, para korban menuntut ganti rugi dalam jumlah yang tidak disebutkan. Mereka juga menuntut perintah pengadilan yang melarang Grok untuk terus menghasilkan gambar-gambar tersebut.
"Kehidupan mereka hancur akibat hilangnya privasi, martabat, dan keselamatan pribadi yang sangat menyakitkan," ujar pengacara korban dalam pengaduannya.
Dua dari tiga remaja yang mengajukan gugatan masih di bawah umur. Ketiganya memilih untuk merahasiakan identitas mereka demi melindungi privasi.
Salah seorang penggugat mengungkapkan bahwa dirinya mengetahui keberadaan gambar-gambar tersebut setelah menerima pesan anonim di Instagram. Pesan itu mengarahkannya ke gambar dan video yang telah dimanipulasi. Salah satu contohnya adalah foto buku tahunan sekolah menengahnya yang telah diubah menjadi konten yang tidak senonoh.
Materi tersebut disebarkan di server Discord, sebuah ruang obrolan pribadi di platform tersebut. Pengaduan tersebut juga menyebutkan bahwa terdapat beberapa gambar serupa yang telah diubah menggunakan Grok dari setidaknya 18 perempuan lain yang masih di bawah umur.
Dua perempuan lainnya yang turut menggugat xAI juga menemukan gambar seksual eksplisit palsu tentang diri mereka secara online. Gambar-gambar itu diyakini telah dibuat melalui Grok.
xAI meluncurkan Grok pada tahun 2023. Perusahaan ini, bersama dengan X, kini menjadi bagian dari perusahaan SpaceX milik Musk. Tahun lalu, xAI merilis fitur Grok Imagine, yang disebut juga sebagai 'mode pedas'. Fitur ini memungkinkan pengguna Grok untuk meminta pembuatan gambar palsu yang lebih bersifat seksual. Bahkan, fitur ini dapat menanggalkan pakaian orang sungguhan menggunakan gambar yang tersedia secara online. Korbannya bisa berasal dari berbagai kalangan, mulai dari artis seperti Taylor Swift hingga pengguna biasa.
Dalam kurun waktu kurang dari dua minggu, Grok dilaporkan telah menciptakan jutaan gambar seksual, termasuk lebih dari 20.000 gambar yang melibatkan anak-anak, menurut data yang dikumpulkan oleh Center for Countering Digital Hate.
Elon Musk awalnya meremehkan kemampuan Grok untuk membuat konten seksual palsu. Pada bulan Januari, ia menyatakan bahwa dirinya tidak mengetahui adanya gambar anak di bawah umur telanjang yang dihasilkan oleh Grok.
"Jelas, Grok tidak secara spontan menghasilkan gambar, ia hanya melakukannya berdasarkan permintaan pengguna," tulis Musk di X.
Namun, karena pelecehan daring semacam itu terus berlanjut, badan pengawas Inggris Ofcom, Komisi Eropa, dan California masing-masing meluncurkan penyelidikan terhadap kemampuan fitur tersebut untuk membuat gambar-gambar seksual dari orang sungguhan, khususnya anak-anak.
