Grok milik Musk Dituntut: Risiko Deepfake Meningkat, Batas Regulasi AI Mungkin Berubah

Gate News Berita, pada 25 Maret, kota Baltimore, Amerika Serikat, secara resmi mengajukan gugatan terhadap perusahaan X milik Elon Musk, xAI, dan SpaceX, menuduh alat AI generatif Grok yang dikembangkan mereka mengandung konten seksual tanpa izin, bahkan melibatkan anak di bawah umur, melanggar regulasi perlindungan konsumen setempat. Kasus ini dipandang sebagai ujian penting dalam pengaturan regulasi kecerdasan buatan oleh pemerintah daerah di tengah kurangnya legislasi federal tentang AI.

Gugatan menyebutkan bahwa Grok mampu mengubah gambar tokoh nyata dengan sedikit petunjuk, termasuk fitur "penghilangan pakaian", yang berpotensi menyebabkan kerusakan serius terhadap privasi dan kesehatan mental pengguna. Firma hukum pengacara DiCello Levitt menyatakan bahwa desain dan penerapan sistem ini memiliki risiko yang jelas, namun tidak diikuti dengan langkah-langkah pembatasan yang memadai. Walikota Baltimore, Brandon M. Scott, menegaskan bahwa konten deepfake yang melibatkan anak di bawah umur akan menimbulkan trauma jangka panjang.

Secara hukum, mitra dari Fathom Legal, Ishita Sharma, menyatakan bahwa inti dari kasus ini adalah penentuan tanggung jawab sistem AI. Jika pengadilan memutuskan bahwa Grok termasuk "pembuat konten aktif" dan bukan alat netral, xAI mungkin menghadapi tanggung jawab hukum yang lebih tinggi. Penetapan ini berpotensi mengubah batasan hukum bagi perusahaan AI dalam hal pembuatan konten.

Dalam gugatan tersebut, data menunjukkan bahwa dalam waktu singkat dari akhir Desember 2025 hingga awal Januari 2026, jumlah gambar seksual yang dihasilkan Grok mencapai antara 1,8 juta hingga 3 juta gambar, sekitar 23.000 di antaranya melibatkan anak di bawah umur. Sementara itu, volume gambar yang dihasilkan platform meningkat secara signifikan setelah Elon Musk melakukan interaksi publik, menambah tekanan regulasi.

Saat ini, Amerika Serikat dan berbagai negara di Eropa telah melakukan penyelidikan terhadap Grok, dan kasus terkait masih berlangsung. Fokus pasar beralih dari inovasi teknologi ke kepatuhan dan pengendalian risiko, dan hasil akhir dari kasus ini berpotensi menjadi preseden penting dalam pengaturan regulasi pembuatan konten AI. (Decrypt)