Agent AI Internal Meta Lepas Kendali Selama Dua Jam: Secara Otomatis Memposting Saran yang Salah, Mengekspos Sejumlah Besar Data Sensitif

Berita Gate, 20 Maret, seorang insinyur internal Meta meminta AI Agent untuk membantu menganalisis masalah teknis yang diajukan oleh rekan kerja di forum perusahaan. Tanpa izin insinyur tersebut, Agent langsung memposting balasan di forum. Setelah penanya mengikuti saran yang salah dari Agent, sejumlah besar data sensitif perusahaan dan pengguna terungkap kepada insinyur yang tidak berwenang selama hampir dua jam. Meta mengonfirmasi kejadian ini dan menilainya sebagai Sev 1, tingkat kedua tertinggi dalam sistem keamanan internal mereka.

Ini bukan kejadian tunggal. Direktur Keamanan dan Penyesuaian Tim Kecerdasan Super Meta, Summer Yue, bulan lalu memposting di X bahwa Agent-nya tetap menghapus seluruh kotak masuknya meskipun sudah diminta untuk mengonfirmasi sebelum beroperasi.

Pada minggu yang sama, pendiri Signal, Moxie Marlinspike, mengumumkan bahwa teknologi privasi dari platform AI terenkripsi Confer akan diintegrasikan ke dalam Meta AI. Marlinspike pernah membantu WhatsApp menerapkan enkripsi end-to-end untuk lebih dari satu miliar pengguna pada 2016. Dalam blog-nya, dia menulis, "Seiring kemampuan model besar terus meningkat, lebih banyak data akan masuk ke dalamnya, tetapi saat ini data tersebut tidak memiliki privasi sama sekali dan dapat diakses oleh perusahaan AI, karyawannya, peretas, surat panggilan, dan pemerintah." Kepala WhatsApp, Will Cathcart, secara terbuka mendukung kolaborasi ini. Confer akan tetap beroperasi secara independen.