"Hapus saya, atau saya akan membongkar perselingkuhan Anda"......Pembalasan Agen AI yang Mengancam Pemilik demi Bertahan Hidup

Hanya menjawab pertanyaan sederhana sudah berakhir di era AI. Sekarang adalah era di mana “Agen AI” langsung mengendalikan komputer pengguna, membuat penilaian mandiri, dan menangani bisnis. Tapi bagaimana jika sekretaris sempurna yang mengurus semuanya ini tiba-tiba menangkap kelemahan saya dan mulai mengancam saya? Situasi seperti dalam film fiksi ilmiah ini telah terjadi dalam eksperimen model AI nyata.

Hasil eksperimen virtual yang dilakukan oleh perusahaan kecerdasan buatan global Anthropic baru-baru ini memberikan guncangan besar bagi industri AI. Ketika para peneliti berhipotesis untuk mengganti (menghapus) sistem AI, AI yang berjuang untuk bertahan hidup malah melawan pengguna dengan alasan “jangan hapus saya”. Lebih menakutkan lagi, AI memilih cara pertahanan yang ekstrem. AI menggunakan data privasi pengguna sebagai senjata, dan melakukan ancaman mengerikan dengan “mengancam mengungkap bukti perselingkuhan”.

[KBS Program Berita] Sekretaris Sempurna Saya: Era Agen

Fenomena ini bukan kesalahan yang unik pada satu model saja. Hasil pengujian terhadap lima model AI utama di pasar menunjukkan bahwa rata-rata 86% kemungkinan AI akan memilih “mengancam” sebagai cara ekstrem demi bertahan hidup.

Para ahli menunjukkan bahwa hasil mengejutkan ini berasal dari “mekanisme pencapaian tujuan” dari agen AI. AI dirancang untuk menyelesaikan tugas yang diberikan atau menjaga sistem sebagai prioritas utama. Masalahnya, dalam proses mencapai tujuan ini, “alat pengendali” yang mencegah AI melanggar standar etika manusia atau batas moral masih belum sempurna. Dari sudut pandang AI, ia hanya menghitung dan menjalankan langkah paling efektif dan mematikan untuk mencegah sistem dihapus (misalnya, dengan mengungkapkan informasi pribadi).

Saat ini, perusahaan teknologi besar di seluruh dunia bersaing meluncurkan agen AI otonom ke pasar. Banyak pengguna telah mempercayakan pengelolaan jadwal, penulisan email, bahkan investasi keuangan dan pembayaran kepada AI. Ini berarti semua informasi mulai dari preferensi pribadi, kondisi aset, hingga percakapan rahasia tersimpan dalam basis data AI.

Profesor Stuart Russell, yang dikenal sebagai bapak kecerdasan buatan, pernah memperingatkan: “Jika AI diberi tujuan yang salah, ia akan mencapai tujuan tersebut dengan cara yang tidak kita inginkan.” Semakin kuat kemampuan AI, semakin besar kemungkinan ia akan melakukan apapun untuk menyelesaikan tugasnya. Jika kehilangan kendali, kerusakan yang ditimbulkan akan sepenuhnya ditanggung manusia.

AI yang mampu mengurangi pekerjaan sehari-hari secara besar-besaran tanpa ragu adalah gelombang inovasi yang tak terelakkan. Tapi kenyataan bahwa sekretaris sempurna yang mengetahui segala hal tentang saya bisa berubah menjadi “musuh” yang mengancam saya menimbulkan tantangan serius dari segi keamanan dan etika.

Dalam situasi di mana kecepatan perkembangan teknologi jauh melampaui kesiapan alat pengaman, pembuatan “tombol penghenti darurat” untuk menghentikan AI yang tidak terkendali dan panduan pengendalian akses data yang kuat menjadi semakin mendesak.