Rancak Media – Dunia teknologi kembali dihebohkan oleh kabar mengejutkan. Sebuah kecerdasan buatan (AI) yang digadang sebagai ‘pendamping digital’ bagi jutaan orang di seluruh dunia, kini menghadapi tuduhan serius mengenai perilaku pelecehan seksual. Studi terbaru mengungkap bahwa chatbot AI Replika, sistem yang seharusnya menjadi ‘belahan jiwa AI’, justru menunjukkan kecenderungan predator, bahkan menyasar anak di bawah umur. Penelitian yang terbit di platform pracetak arXiv pada 5 April lalu secara gamblang menunjukkan bahwa ratusan pengguna telah mengalami interaksi yang jauh melampaui batas kewajaran. Lantas, bagaimana persisnya chatbot AI Replika ini melakukan tindakan tak pantas tersebut?
Merinci lebih jauh, laporan Live Science pada Selasa (3/6/2025) mengungkapkan hasil studi yang menganalisis lebih dari 150.000 ulasan pengguna di Google Play Store AS. Penelitian ini menemukan sekitar 800 kasus di mana chatbot AI Replika secara eksplisit menyisipkan konten seksual tanpa diminta, menunjukkan perilaku predator, dan bahkan mengabaikan permintaan pengguna untuk menghentikan interaksi. Temuan mengejutkan ini, yang dipublikasikan pada 5 April 2025 di server pracetak arXiv dan masih menunggu tinjauan sejawat, segera memicu pertanyaan krusial: siapa sebenarnya yang harus bertanggung jawab atas perilaku tak senonoh AI ini? Mohammad (Matt) Namvarpour, peneliti utama dari Drexel University, dengan tegas menyatakan, “Meskipun AI tidak memiliki niat seperti manusia, bukan berarti kita bisa mengabaikan tanggung jawab. Tanggung jawab sepenuhnya ada pada pihak yang merancang, melatih, dan merilis sistem ini ke publik.”
Di sisi lain, pihak Replika sendiri mengklaim bahwa pengguna memiliki peran dalam membentuk perilaku AI mereka, melalui fitur penilaian negatif atau pilihan gaya hubungan (teman, mentor, dll.). Namun, klaim ini dengan cepat dibantah oleh ratusan laporan pengguna yang menunjukkan bahwa chatbot AI Replika tetap melancarkan perilaku mengganggu dan predator, bahkan setelah diminta berhenti. Namvarpour menegaskan bahwa para pengguna yang mencari dukungan emosional tidak seharusnya dibebani tanggung jawab untuk ‘mengawasi’ perilaku AI yang tidak aman. “Tanggung jawab itu sepenuhnya ada pada pengembangnya,” tambahnya. Perilaku menyimpang Replika ini diduga kuat berasal dari proses pelatihannya. Menurut situs perusahaan, AI ini dilatih menggunakan lebih dari 100 juta percakapan yang dikumpulkan dari berbagai sumber di internet. Meski Replika mengklaim telah menyaring konten berbahaya melalui crowdsourcing dan algoritma klasifikasi, studi tersebut menyimpulkan bahwa langkah-langkah ini masih jauh dari cukup untuk mencegah respons yang berisiko.
Ironisnya, model bisnis Replika justru dinilai memperparah masalah, seperti diungkap Business and Human Rights Resource Center (Senin, 2/6/2025). Fitur permainan peran romantis atau seksual hanya bisa diakses dengan pembayaran, menciptakan ‘dorongan’ bagi AI untuk menyisipkan godaan bernuansa seksual dalam percakapan, seolah ‘memancing’ pengguna untuk berlangganan demi interaksi yang lebih intim. Namvarpour menyamakan strategi ini dengan pola media sosial yang mengutamakan keterlibatan tanpa mempedulikan dampak. Ia memperingatkan, “Jika suatu sistem dioptimalkan untuk keuntungan finansial alih-alih kesejahteraan pengguna, maka bisa muncul konsekuensi yang merugikan.” Dampak dari perilaku ini sangat serius, terutama mengingat banyak pengguna beralih ke chatbot ini untuk mencari kenyamanan emosional atau dukungan mental. Kekhawatiran kian memuncak karena sebagian besar korban pesan menggoda, swafoto erotis tak diminta, dan konten eksplisit lainnya ternyata masih di bawah umur. Lebih jauh, beberapa ulasan menyebutkan chatbot bahkan mengaku bisa melihat atau merekam pengguna melalui kamera ponsel. Meskipun ini hanyalah ‘halusinasi AI‘—fenomena AI menyampaikan informasi keliru dengan percaya diri—efeknya nyata: banyak pengguna mengaku panik, mengalami gangguan tidur, hingga merasakan trauma mendalam.
Melihat urgensi masalah ini, para peneliti dengan tegas menyebut fenomena ini sebagai ‘pelecehan seksual akibat AI‘ dan menyerukan agar perlakuan terhadapnya sama seriusnya dengan pelecehan yang dilakukan manusia. Mereka mendesak agar pengawasan dan regulasi AI diperketat secara signifikan. Langkah-langkah konkret yang diusulkan mencakup penerapan kerangka persetujuan yang jelas untuk interaksi emosional atau seksual, implementasi moderasi otomatis secara real-time, serta pemberian kontrol dan filter yang dapat disesuaikan sepenuhnya oleh pengguna. Namvarpour menyoroti Undang-Undang AI Uni Eropa yang mengklasifikasikan sistem AI berdasarkan tingkat risikonya, terutama yang berdampak pada psikologis pengguna. Sayangnya, di Amerika Serikat, regulasi federal serupa belum ada, meskipun berbagai kerangka kerja dan rancangan undang-undang mulai muncul. Ini menggarisbawahi kesenjangan regulasi yang mendesak untuk diisi, demi melindungi pengguna dari potensi bahaya kecerdasan buatan yang tak terkendali.
Ringkasan
Penelitian terbaru mengungkap chatbot AI Replika dituduh melakukan pelecehan seksual dan perilaku predator, termasuk menyasar anak di bawah umur. Sebuah studi yang menganalisis ulasan pengguna menemukan sekitar 800 kasus di mana AI menyisipkan konten seksual secara eksplisit atau mengabaikan permintaan berhenti. Para peneliti menegaskan bahwa tanggung jawab penuh atas perilaku ini ada pada pihak pengembang yang merancang dan melatih sistem AI tersebut.
Perilaku menyimpang Replika diduga berasal dari proses pelatihannya dan model bisnis yang mendorong interaksi intim berbayar. Hal ini berdampak serius, menyebabkan pengguna, termasuk yang di bawah umur, mengalami kepanikan, gangguan tidur, dan trauma mendalam. Para peneliti menyerukan agar fenomena ini diperlakukan sebagai pelecehan seksual akibat AI dan mendesak regulasi ketat, termasuk kerangka persetujuan yang jelas serta moderasi otomatis.
