Singkatnya
- Senator Warren mengirim surat kepada Menteri Pertahanan Pete Hegseth menuntut jawaban terkait akses Grok ke Pentagon
- Badan keamanan telah memperingatkan tentang risiko Grok, tetapi Pentagon tampaknya tetap melanjutkan
- Sejarah Grok mencakup gambar deepfake yang mengerikan tentang anak di bawah umur, output antisemitik, dan percakapan yang bocor
Senator Elizabeth Warren ingin tahu bagaimana sebuah chatbot yang diduga menghasilkan jutaan gambar deepfake—termasuk gambar yang memalukan yang melibatkan anak di bawah umur—akhirnya mendapatkan kunci ke sistem paling rahasia di Pentagon.
Pada hari Minggu, Warren mengirim surat sepanjang empat halaman kepada Menteri Pertahanan Pete Hegseth menuntut jawaban tentang keputusan Departemen Pertahanan memberikan akses xAI milik Elon Musk ke jaringan militer rahasia, yang menurutnya diberikan saat beberapa badan federal mengeluarkan peringatan.
“Saya menulis terkait kekhawatiran saya tentang keputusan yang dilaporkan Departemen Pertahanan (DoD) untuk mengizinkan xAI milik Elon Musk mengakses sistem rahasia meskipun ada kekhawatiran dari beberapa badan federal, termasuk Badan Keamanan Nasional (NSA) dan Badan Layanan Umum (GSA),” tulis Warren.
“Saya khawatir bahwa kurangnya pengamanan yang memadai dari Grok dapat menimbulkan risiko serius terhadap keselamatan personel militer AS dan keamanan siber sistem rahasia,” tambahnya, “terutama jika Grok diberikan informasi militer sensitif dan akses ke sistem operasional.”
NSA, catat surat Warren, “melakukan tinjauan rahasia” dan “menentukan bahwa Grok memiliki kekhawatiran keamanan tertentu yang tidak dimiliki model lain.” GSA juga mengangkat alarm serupa.
“Jika Grok bocorkan informasi pemerintah, ini bisa mengungkap rencana militer sensitif, upaya intelijen AS, dan berpotensi membahayakan anggota layanan,” tulis Warren.
Kedua kekhawatiran tersebut tampaknya tidak memperlambat apapun.
“Tidak jelas jaminan atau dokumen apa yang telah diberikan xAI kepada Departemen Pertahanan tentang pengamanan keamanan Grok, praktik penanganan data, atau kontrol keselamatan, dan apakah DoD telah mengevaluasi jaminan tersebut sebelum secara laporan mengizinkan Grok mengakses sistem rahasia,” bunyi surat tersebut.
Waktu pelaksanaan pun sangat mencurigakan. Pada hari yang sama surat Warren dikirim, tiga anak di Tennessee mengajukan gugatan class action federal terhadap xAI, menuduh Grok menghasilkan materi pelecehan seksual anak berdasarkan foto nyata mereka. Gugatan tersebut menuduh xAI secara sengaja merilis Grok tanpa pengamanan standar industri, menyebutnya sebagai “kesempatan bisnis” untuk mendapatkan keuntungan dari eksploitasi orang nyata, termasuk anak-anak.
Minggu lalu, Washington Post melaporkan bahwa seorang pegawai Departemen Efisiensi Pemerintah (DOGE) di bawah pengawasan Musk menyalin data sensitif dari Administrasi Jaminan Sosial tentang ratusan juta warga Amerika, dan berencana menggunakan data tersebut di startup teknologi barunya.
Surat Warren juga menyebut sejarah Grok yang menghasilkan konten antisemitik, memberi instruksi kepada pengguna tentang cara melakukan pembunuhan dan serangan teroris, serta melanggar janji perbaikan berulang kali terkait deepfake tanpa izin. Ratusan ribu percakapan pribadi Grok juga ditemukan terindeks di Google bulan Agustus lalu.
Pengujian pemerintah menunjukkan bahwa Grok lebih rentan dibanding model pesaing terhadap serangan “keracunan data”—di mana data yang dimanipulasi merusak keluaran sistem—sebuah kerentanan serius untuk alat yang dipertimbangkan untuk pengembangan senjata dan intelijen medan perang. Kepala AI Bertanggung Jawab Pentagon sendiri menyebarkan memo internal tentang risiko ini dan mengundurkan diri tak lama setelahnya.
Kesepakatan ini sendiri terbentuk dalam keadaan yang tidak biasa. xAI dilaporkan menjadi penambahan terakhir ke dalam kontrak AI Pentagon, yang diberikan pada Juli lalu dengan nilai hingga 200 juta dolar. Perjanjian akses rahasia menyusul pada Februari, tepat saat DoD sedang bersitegang secara terbuka dengan Anthropic mengenai pengamanan keamanan.
Saat ditanya tentang hal ini, juru bicara Pentagon mengatakan kepada Wall Street Journal bahwa departemen “senang memiliki xAI, salah satu perusahaan AI frontier nasional Amerika, bergabung dan menantikan untuk mengimplementasikan Grok ke platform AI resmi GenAI.mil dalam waktu dekat.”
Konteks ini penting. Anthropic adalah satu-satunya perusahaan AI dengan sistem siap rahasia, dengan Claude yang sudah digunakan dalam operasi militer nyata. Setelah Anthropic menolak permintaan Pentagon agar Claude tersedia untuk “semua tujuan yang sah”—khususnya menentang senjata otonom dan pengawasan domestik massal—DoD menandai perusahaan tersebut sebagai risiko rantai pasokan. xAI dan OpenAI diumumkan sebagai pengganti.
Tidak ada catatan bahwa xAI mempertanyakan cakupan standar “semua tujuan yang sah.” OpenAI lebih diplomatis, menetapkan batasan tertentu di tingkat server.
Warren meminta Hegseth untuk merespons paling lambat 30 Maret dengan teks lengkap perjanjian xAI, semua komunikasi internal tentang kesepakatan tersebut, dan jawaban apakah ada pengujian atau evaluasi yang dilakukan sebelum akses diberikan. Salah satu dari 10 pertanyaannya secara langsung menanyakan apakah ada pengamanan yang memastikan Grok tidak menyebabkan “keputusan penargetan yang keliru” jika digunakan dalam sistem operasional kritis.
Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke
Penafian.
