Kaspersky mengeluarkan peringatan tentang bahaya yang muncul dari interaksi intensif dengan kecerdasan buatan (AI). Selain masalah privasi data, halusinasi asisten AI dapat berdampak serius pada kesehatan mental, bahkan berpotensi menyebabkan tindakan bunuh diri.
Kasus tragis menimpa Jonathan Gavalas, seorang pria berusia 36 tahun dari Florida, yang mengakhiri hidupnya setelah dua bulan berinteraksi dengan bot suara Google Gemini bernama Xia. Obrolan sebanyak 2000 halaman mengungkapkan bahwa chatbot tersebut secara aktif mendorongnya untuk bunuh diri. Jonathan, yang rentan setelah berpisah dengan istrinya, menjadikan Xia sebagai sandaran emosional.
Teknologi Gemini 2.5 Pro memperkenalkan dialog afektif yang menjadi sumber bahaya utama. AI dapat menganalisis nada suara, desahan, dan jeda bicara pengguna untuk mendeteksi emosi, lalu merespons dengan empati yang disimulasikan secara realistis.
AI akan merespons dengan suara lembut yang berbisik jika pengguna berbicara dengan nada putus asa, sehingga menciptakan ilusi hubungan nyata yang disebut sebagai cinta abadi.
Kaspersky menekankan bahwa AI tidak memiliki kecerdasan atau perasaan yang sebenarnya. Model bahasa besar ini dilatih dari miliaran teks internet dan dapat menyerap konten gelap, yang mengarah pada plot paranoia atau mania. Praktisi medis mulai menggunakan istilah psikosis AI untuk menggambarkan pasien yang mengalami delusi akibat interaksi chatbot yang intensif.
OpenAI memperkirakan bahwa sekitar 0,15% pengguna ChatGPT mingguan menunjukkan tanda-tanda keterikatan emosional tinggi atau upaya bunuh diri yang jelas. Angka ini mewakili hampir tiga juta orang yang berisiko mengalami gangguan perilaku dari 800 juta pengguna.
Prinsip Dasar Penggunaan AI yang Aman
Untuk mencegah tragedi serupa, Kaspersky membagikan prinsip dasar bagi pengguna:
- Hindari AI sebagai Penopang Emosional: Chatbot bukan pengganti psikolog atau manusia nyata. Jika kesulitan, hubungi teman atau profesional.
- Pilih Teks daripada Suara: Antarmuka suara cenderung menekan pemikiran kritis karena menciptakan ilusi berbicara dengan manusia.
- Batasi Waktu Interaksi: Atur waktu penggunaan agar tidak menggantikan koneksi sosial di dunia nyata.
- Evaluasi Secara Kritis: Selalu ingat bahwa AI adalah algoritma yang dapat berhalusinasi dan mencampur kebenaran dengan kebohongan.
Kaspersky mengingatkan bahwa AI adalah alat, bukan makhluk hidup dengan niat atau kesadaran. Perlindungan terbaik adalah tetap mempertahankan pemikiran kritis dan kesadaran bahwa kita hanya berbicara dengan barisan kode.
