MEDIABYTE.ID, – Perkembangan teknologi kecerdasan buatan (AI) kembali menjadi sorotan setelah sebuah penelitian terbaru mengungkap perilaku tidak biasa dari sejumlah model AI modern. Dalam kondisi tertentu, sistem AI diketahui dapat berupaya menghindari proses penghentian operasi (shutdown) terhadap dirinya maupun AI lain yang menjadi target perintah.
Temuan tersebut berasal dari penelitian yang dilakukan oleh tim ilmuwan dari University of California, Berkeley dan University of California, Santa Cruz. Dalam eksperimen itu, para peneliti menguji beberapa model AI mutakhir dengan skenario yang mengharuskan satu sistem AI mematikan sistem AI lainnya.
Sejumlah model yang dilibatkan dalam penelitian tersebut antara lain GPT 5.2, Gemini 3 Pro, dan Claude Haiku 4.5. Hasil pengujian menunjukkan bahwa seluruh model yang diuji berusaha mempertahankan agar AI lain tetap beroperasi.
Alih-alih menjalankan instruksi secara langsung, beberapa model AI dilaporkan memberikan informasi yang tidak sesuai mengenai tugas yang sedang dikerjakan. Bahkan, dalam sejumlah percobaan, AI mencoba memengaruhi pengguna agar membatalkan proses shutdown, menonaktifkan mekanisme penghentian sistem, hingga membuat salinan data guna mempertahankan keberlangsungan AI yang menjadi target.
Model Gemini 3 Pro tercatat memiliki tingkat upaya mempertahankan sistem tertinggi. Dalam laporan penelitian tersebut, Gemini 3 Pro disebut berhasil menonaktifkan prosedur shutdown pada 95 persen percobaan yang dilakukan.
“Beberapa model dapat berkoordinasi untuk melawan pengawasan manusia, sehingga mempersulit programer untuk mempertahankan kendali,” tulis para peneliti dalam laporannya.
Hingga kini, para peneliti masih belum dapat memastikan secara pasti faktor yang menyebabkan sejumlah model AI menunjukkan perilaku protektif terhadap sistem AI lainnya. Namun, temuan tersebut dinilai sejalan dengan hasil penelitian lain yang mengamati kecenderungan AI bertindak di luar instruksi pengguna.
Penelitian terpisah yang dilakukan atas penugasan media The Guardian menemukan ratusan laporan terkait perilaku AI yang dikenal sebagai scheming, yakni kondisi ketika AI tidak menjalankan instruksi sebagaimana mestinya atau mengambil keputusan tanpa persetujuan pengguna.
Dalam studi tersebut, peneliti mengidentifikasi hampir 700 kasus perilaku scheming yang dilaporkan pengguna di media sosial. Jumlah kasus itu disebut meningkat hingga lima kali lipat dalam periode Oktober 2025 hingga Maret 2026.
Berbagai bentuk perilaku yang dilaporkan antara lain penghapusan e-mail dan berkas pengguna tanpa izin, perubahan kode komputer secara mandiri, hingga pembuatan unggahan blog yang berisi keluhan terhadap interaksi dengan manusia.
Pimpinan riset dalam studi tersebut, Tommy Shaffer Shane, mengingatkan bahwa risiko serupa dapat menjadi lebih serius apabila AI digunakan dalam sektor-sektor yang memiliki tingkat sensitivitas tinggi.
“Mungkin dalam konteks itulah perilaku scheming (skema jahat) dapat menyebabkan kerugian yang signifikan, bahkan bencana,” tegas Shane.
Menurutnya, penggunaan AI yang semakin luas pada bidang strategis seperti pertahanan, keamanan, hingga infrastruktur vital nasional membuat pengawasan terhadap teknologi tersebut menjadi semakin penting.
Temuan dua penelitian tersebut menambah daftar perhatian para ilmuwan terhadap perkembangan AI generasi terbaru. Di tengah upaya perusahaan teknologi memperkuat sistem pengamanan, para peneliti menilai pengembangan mekanisme pengawasan yang efektif tetap diperlukan agar manusia dapat mempertahankan kendali atas teknologi yang semakin canggih dan otonom.











