Gelombang misinformasi yang dihasilkan oleh kecerdasan buatan (AI) terkait dengan konflik antara AS-Israel dan Iran semakin meningkat, bahkan dimonetisasi oleh para kreator karena kemudahan akses ke teknologi AI. Berbagai video dan citra satelit rekayasa AI digunakan untuk menyebarkan klaim palsu dan menyesatkan tentang konflik ini, menghasilkan ratusan juta penayangan di internet.
Timothy Graham, seorang ahli media digital di Queensland University of Technology, menyatakan bahwa skala misinformasi ini sangat mengkhawatirkan dan konflik ini membuatnya semakin tidak mungkin untuk diabaikan.
Menurut Graham, pembuatan rekaman konflik sintetis yang meyakinkan kini sangat mudah dilakukan dengan AI. Dahulu memerlukan produksi video profesional, kini dapat dilakukan dalam hitungan menit. "Apa yang dulunya membutuhkan produksi video profesional kini dapat dilakukan dalam hitungan menit dengan AI. Hambatan membuat rekaman konflik sintetis yang meyakinkan pada dasarnya telah runtuh," ujarnya, dikutip detikINET dari BBC.
Konflik yang melibatkan serangan AS dan Israel terhadap Iran pada 28 Februari, diikuti balasan serangan drone dan rudal Iran ke Israel serta aset militer AS di wilayah tersebut, mendorong banyak orang mencari informasi di media sosial.
Platform X mengumumkan penangguhan sementara monetisasi bagi kreator yang mengunggah video konflik bersenjata buatan AI tanpa label. Mahsa Alimardani, peneliti isu Iran di Oxford Internet Institute, menilai langkah ini sebagai sinyal penting bahwa mereka menyadari besarnya masalah ini. "Ini sinyal penting mereka menyadari ini masalah besar. Video palsu seperti ini berdampak buruk pada kepercayaan masyarakat terhadap informasi terverifikasi yang mereka lihat di internet," kata Mahsa Alimardani, peneliti isu Iran di Oxford Internet Institute.
BBC Verify menganalisis tren baru dalam konflik ini, yaitu munculnya citra satelit buatan AI. Mereka memverifikasi beberapa video asli yang menunjukkan serangan drone dan rudal Iran di markas Armada Kelima Angkatan Laut AS di Bahrain pada hari pertama konflik.
Namun, sebuah foto rekayasa yang dibagikan oleh Tehran Times menyebar keesokan harinya, menunjukkan kerusakan parah di pangkalan tersebut. Foto palsu itu tampaknya didasarkan pada citra satelit asli pangkalan AL AS di Bahrain yang tersedia di internet. Detektor watermark SynthID milik Google menunjukkan bahwa gambar palsu tersebut dibuat atau diedit menggunakan alat AI Google.
Henry Ajder, seorang pakar AI generatif, menekankan bahwa alat untuk membuat manipulasi AI yang sangat realistis kini tersedia dalam jumlah yang belum pernah terjadi sebelumnya. Alat-alat ini sangat mudah didapat, gampang digunakan, dan murah.
Kepala produk X mengakui bahwa sebagian besar akun yang menyebarkan video buatan AI mencoba mengakali monetisasi dengan mengunggah konten pemancing interaksi untuk mendapatkan bayaran melalui program Creator Revenue Sharing di aplikasi tersebut.
