Meta saat ini sedang mengembangkan alat deteksi konten AI untuk mengidentifikasi materi yang dibuat oleh kecerdasan buatan (AI) di platform mereka. Langkah ini diambil sebagai respons terhadap peningkatan fenomena "AI slop".
Fenomena AI Slop, seperti dikutip dari Digital Trends, mengacu pada banjir konten berkualitas rendah yang dihasilkan oleh sistem generatif dan tersebar luas di internet dan media sosial. Perkembangan teknologi AI generatif, ironisnya, menjadi pemicu sebagian dari lonjakan konten ini.
Kemudahan dalam menciptakan gambar, teks, dan video melalui AI telah menyebabkan peningkatan drastis volume konten sintetis di platform digital. Hal ini mempersulit pengguna untuk membedakan antara konten asli dan yang dihasilkan oleh mesin.
Alat pendeteksi AI ini masih dalam tahap pengembangan internal di Meta AI. Fungsinya adalah membantu pengguna mengidentifikasi apakah konten di platform Meta dibuat menggunakan AI atau tidak.
Jika dirilis secara resmi, teknologi ini berpotensi meningkatkan transparansi di platform seperti Facebook, Instagram, dan Threads. Hal ini penting mengingat meningkatnya kekhawatiran terkait penyebaran deepfake dan informasi yang menyesatkan.
Deteksi konten yang dihasilkan AI bukanlah hal yang mudah. Sistem generatif modern mampu menciptakan gambar atau teks yang sangat realistis, sehingga sulit dibedakan dari konten buatan manusia. Beberapa platform media sosial telah mulai menggunakan label khusus untuk konten yang dibuat atau dimodifikasi dengan AI untuk meningkatkan transparansi.
Namun, pendekatan ini menghadapi tantangan, termasuk konten AI yang dibuat menggunakan alat pihak ketiga yang tidak selalu meninggalkan jejak metadata atau watermark yang mudah dideteksi.
Pengembangan alat pendeteksi AI ini merupakan bagian dari upaya yang lebih luas untuk mengatasi risiko misinformasi, deepfake, dan manipulasi digital di platform media sosial. Perusahaan teknologi mencari cara baru untuk meningkatkan transparansi dan menjaga kepercayaan pengguna terhadap informasi yang beredar di internet, seiring dengan meningkatnya volume konten AI.
Implementasi teknologi ini diharapkan menjadi langkah penting dalam membantu pengguna membedakan konten yang dibuat oleh manusia dan sistem kecerdasan buatan.
