Platform gim Roblox telah memperkenalkan sistem moderasi terbaru yang didukung oleh kecerdasan buatan (AI) untuk secara aktif mengawasi konten dan perilaku para pemain. Langkah ini diambil guna menjaga keamanan komunitas yang terus berkembang seiring dinamika konten dalam gim. Informasi ini turut dilansir dari Medcom.
Sistem baru yang disebut multimodal moderation ini memiliki kemampuan memantau berbagai elemen dalam gim secara bersamaan dan real-time. Berbeda dengan pendekatan sebelumnya yang hanya menilai objek terpisah, AI ini menganalisis satu "adegan" secara utuh.
Analisis satu adegan secara utuh berarti sistem AI akan mengevaluasi kombinasi avatar pemain, objek atau elemen 3D di lingkungan gim, serta teks dan interaksi yang terjadi di dalamnya. Pendekatan komprehensif ini menjadi penting karena konten di Roblox sering kali merupakan gabungan dari berbagai elemen yang, jika dilihat secara terpisah, mungkin tampak normal. Namun, ketika digabungkan, berpotensi melanggar aturan komunitas.
Jika AI mendeteksi perilaku atau konten bermasalah yang terjadi secara berulang dalam satu sesi permainan, Roblox akan mengambil tindakan tegas. Alih-alih memblokir seluruh gim, sistem moderasi hanya akan menghentikan server tempat pelanggaran terjadi. Metode ini dinilai lebih efektif karena tidak mengganggu pengalaman bermain pemain lain yang tidak melakukan pelanggaran.
Dampak dan Inisiatif Lain
Sejak penerapan sistem moderasi berbasis AI ini, Roblox mencatat dampak yang signifikan. Diperkirakan sekitar 5.000 server permainan dihentikan setiap hari karena teridentifikasi melanggar standar komunitas yang ditetapkan.
Selain fungsi pemantauan pemain, Roblox juga membekali kreator gim dengan alat baru melalui dasbor khusus. Fitur ini memungkinkan para kreator untuk melihat jumlah server yang ditutup akibat perilaku bermasalah. Dengan data tersebut, mereka dapat mengevaluasi fitur-fitur dalam gim, seperti sistem avatar atau interaksi pengguna, agar lebih aman dan sesuai standar.
Roblox juga menjalin kerja sama dengan beberapa pihak seperti Keyword Studios, Riot Games, dan peneliti Rachel Kowert. Kolaborasi ini bertujuan untuk mengembangkan program pelatihan bagi moderator komunitas. Program ini dirancang untuk meningkatkan pemahaman pengelola komunitas mengenai berbagai perilaku pemain dan menerapkan praktik moderasi yang lebih efektif.
Pengembangan Masa Depan
Ke depan, Roblox memiliki rencana untuk terus mengembangkan sistem AI ini. Fokusnya tidak hanya pada penghentian server, tetapi juga pada identifikasi spesifik pemain yang melakukan pelanggaran. Dengan demikian, tindakan yang diambil dapat lebih tepat sasaran, meminimalkan gangguan terhadap keseluruhan pengalaman bermain bagi pengguna lain, dan menciptakan lingkungan yang lebih positif bagi seluruh komunitas Roblox.
