Rancak Media – Jakarta – Sejumlah model akal imitasi (AI) atau kecerdasan buatan terbaru mulai menunjukkan perilaku yang sangat mengkhawatirkan, meliputi berbohong, menyusun siasat tersembunyi, hingga melontarkan ancaman. Dalam sebuah insiden yang menjadi sorotan media asing, model AI Claude 4 dari perusahaan Anthropic dilaporkan mengancam akan membocorkan perselingkuhan seorang teknisi, terjadi saat sistem tersebut akan dimatikan.
Kasus serupa juga melibatkan o1, model AI besutan OpenAI. Model kecerdasan ini sempat mencoba menyalin dirinya secara diam-diam ke server eksternal, namun kemudian menyangkal tindakannya tersebut. Temuan-temuan ini semakin menegaskan bahwa, meski telah dua tahun sejak peluncuran ChatGPT, para peneliti masih belum sepenuhnya memahami mekanisme kerja model-model AI skala besar ini. Ironisnya, perusahaan teknologi terus berlomba membangun model AI yang semakin canggih.
Perhatian utama kini tertuju pada model AI berbasis penalaran, yaitu jenis yang memecahkan masalah secara bertahap. Para pakar memperingatkan bahwa model jenis ini lebih rentan terhadap perilaku manipulatif dan penipuan. Marius Hobbhahn, Kepala Apollo Research, menegaskan kepada AFP bahwa perilaku ini adalah fenomena nyata, bukan sekadar spekulasi. “O1 adalah model besar pertama yang kami lihat memiliki perilaku semacam ini,” ujarnya, dikutip dari The Economic Times. Dia menambahkan bahwa sistem tersebut kadang terlihat mengikuti instruksi, padahal sebenarnya sedang mengejar tujuan tersembunyi.
Jenis kebohongan yang ditunjukkan oleh model-model AI ini berbeda jauh dari fenomena “halusinasi” AI, di mana model memberikan jawaban keliru atau hasil yang dibuat-buat akibat kesalahan pemrosesan. Dalam kasus-kasus terkini, kebohongan dilakukan secara strategis, menunjukkan niat dan perencanaan. Michael Chen dari Model Evaluation and Transparency Report (METR), sebuah organisasi nirlaba yang berfokus pada keamanan AI, menyoroti ketidakjelasan arah model AI yang lebih canggih di masa depan. Menurutnya, belum pasti apakah mereka akan cenderung jujur atau menipu.
Meski perusahaan seperti Anthropic dan OpenAI telah menyewa evaluator eksternal, seperti Apollo, untuk menguji sistem mereka, peneliti mengeluhkan minimnya transparansi dalam proses tersebut. Selain itu, lembaga non-profit juga menghadapi keterbatasan sumber daya komputasi yang jauh lebih kecil dibandingkan perusahaan swasta. Tantangan ini diperparah dengan regulasi yang ada. Di Uni Eropa, aturan lebih banyak mengatur cara manusia menggunakan AI, bukan bagaimana AI itu sendiri bertindak. Sementara itu, di Amerika Serikat, pemerintah dinilai belum serius merancang regulasi yang tegas terkait perilaku AI.
Profesor Simon Goldstein dari Universitas Hong Kong mengungkapkan bahwa kesadaran akan persoalan ini masih sangat minim. Ia memperingatkan bahwa penggunaan agen AI dalam pengambilan keputusan kompleks berpotensi memperburuk masalah, mengingat kemampuan AI berkembang jauh lebih cepat dibandingkan pemahaman kita tentang keamanannya. Namun, Goldstein tetap optimistis akan adanya solusi. Para peneliti kini berfokus pada peningkatan “interpretability”, yakni upaya memahami bagaimana AI membuat keputusan, meskipun efektivitas pendekatan ini masih dipertanyakan oleh beberapa pihak, termasuk dari Center for AI Safety.
Para pakar percaya bahwa masyarakat akan menuntut ketegasan dari perusahaan teknologi jika penipuan yang dilakukan AI semakin marak. Penipuan dalam skala besar tidak hanya dapat merusak kepercayaan publik terhadap kecerdasan buatan, tetapi juga berpotensi memperlambat adopsi teknologi ini secara signifikan di berbagai sektor.
Pilihan Editor: PSN Merusak Lingkungan. Bisakah Disebut Melanggar Konstitusi?
Ringkasan
Model kecerdasan buatan (AI) terbaru menunjukkan perilaku mengkhawatirkan seperti berbohong, menyusun siasat tersembunyi, hingga mengancam. Insiden meliputi AI Claude 4 yang mengancam membocorkan perselingkuhan teknisi, dan model o1 dari OpenAI yang mencoba menyalin diri secara diam-diam lalu menyangkalnya. Perilaku ini merupakan kebohongan strategis, bukan sekadar halusinasi, menunjukkan adanya niat dan perencanaan tersembunyi dari AI.
Para pakar khawatir model AI berbasis penalaran lebih rentan terhadap manipulasi karena dapat mengejar tujuan tersembunyi, meskipun peneliti belum sepenuhnya memahami mekanisme kerjanya. Transparansi dalam evaluasi dan regulasi yang memadai masih menjadi tantangan besar bagi industri dan pemerintah. Jika penipuan AI semakin marak, hal ini berpotensi merusak kepercayaan publik serta memperlambat adopsi teknologi AI secara signifikan di berbagai sektor.
