Meta didesak untuk meningkatkan pengawasan terhadap video AI palsu

1 hari yang lalu

BagikanSimpan

Kali HaysReporter teknologi

BagikanSimpan

Reuters

Penasihat perusahaan sendiri mengatakan bahwa Meta harus melakukan lebih banyak untuk mengatasi “penyebaran” konten palsu yang dibuat dengan alat kecerdasan buatan (AI) di platformnya.

Dewan Pengawasan yang terdiri dari 21 orang mengangkat kekhawatiran tersebut saat menegur perusahaan karena membiarkan sebuah video yang dihasilkan AI yang mengklaim menunjukkan kerusakan besar di Haifa, Israel oleh pasukan Iran tanpa label.

Dewan tersebut mendesak perusahaan untuk merombak aturan AI-nya, memperingatkan bahwa peningkatan video AI palsu terkait konflik militer global telah “mengancam kemampuan publik untuk membedakan antara rekayasa dan fakta … berisiko terhadap ketidakpercayaan umum terhadap semua informasi.”

Meta mengatakan akan memberi label pada video yang dimaksud dalam waktu tujuh hari.

Meta meluncurkan dewan pengawasan pada tahun 2020 sebagai kelompok semi-independen yang memberikan pengawasan terhadap keputusan moderasi konten di seluruh platformnya, termasuk Facebook, Instagram, dan WhatsApp.

Dewan tersebut sering tidak setuju dengan keputusan Meta, tetapi perusahaan tetap melonggarkan pendekatannya terhadap pengawasan konten, menimbulkan pertanyaan tentang seberapa besar kekuasaan yang sebenarnya dimiliki dewan tersebut.

Dewan mengatakan penanganan perusahaan terhadap video Haifa menimbulkan masalah yang sebelumnya telah mereka tandai tentang “ketidakefisienan dalam pendekatan Meta saat ini selama konflik bersenjata.”

Saat ini, Meta sangat bergantung pada pengguna untuk “mengungkapkan sendiri” ketika konten yang mereka unggah diproduksi oleh alat AI. Jika tidak, mereka menunggu keluhan dari seseorang kepada tim moderasi kontennya, yang kemudian dapat memutuskan untuk memberi label pada sesuatu.

Dewan mengatakan perusahaan harus secara proaktif memberi label konten AI palsu “dengan jauh lebih sering.”

Dewan menyatakan bahwa metode perusahaan saat ini “tidak cukup kuat maupun komprehensif untuk menghadapi skala dan kecepatan konten yang dihasilkan AI, terutama selama krisis atau konflik di mana ada peningkatan keterlibatan di platform.”

Tinjauan dewan terhadap masalah ini dipicu oleh sebuah video yang diposting bulan Juni lalu oleh sebuah akun Facebook yang berbasis di Filipina yang mengaku sebagai sumber berita.

Itu adalah salah satu rangkaian video AI palsu yang diposting di media sosial setelah konflik dimulai, dengan konten yang mendukung Israel dan Iran, yang dengan cepat mengumpulkan setidaknya 100 juta tampilan, menurut analisis BBC saat itu.

Meskipun video Facebook tersebut dihasilkan AI dan menunjukkan konten yang tidak nyata, serta Meta menerima beberapa keluhan pengguna tentangnya, perusahaan tidak memberi label sebagai konten AI atau menghapusnya.

Baru setelah seorang pengguna Facebook mengajukan banding langsung ke Dewan Pengawasan, dan dewan menanggapi masalah tersebut, Meta pun merespons kekhawatiran, menurut dewan.

Perusahaan kemudian mengklaim bahwa video tersebut, yang mendapatkan hampir 1 juta tampilan, tidak memerlukan label apa pun dan tidak perlu dihapus karena tidak “secara langsung berkontribusi terhadap risiko bahaya fisik yang akan datang.”

Itu adalah standar yang terlalu tinggi untuk memberi label konten yang dihasilkan AI, terutama ketika subjeknya adalah konflik bersenjata, kata dewan pada hari Selasa, memutuskan bahwa video tersebut seharusnya mendapatkan label “risiko tinggi AI.”

“Meta harus melakukan lebih banyak untuk mengatasi penyebaran konten AI yang menipu di platformnya… agar pengguna dapat membedakan antara yang nyata dan palsu,” katanya.

Dalam pernyataannya, Meta mengatakan bahwa mereka akan mengikuti saran dewan saat mereka menemukan konten “identik” yang juga “dalam konteks yang sama” dengan video yang ditinjau dewan.

Kontak regulator terhadap Meta terkait pekerja yang menonton video kacamata AI intim

‘Peternakan konten’ luar negeri yang membuat deepfake politik terungkap

Zuckerberg membela Meta dalam sidang bersejarah tentang kecanduan media sosial

Media sosial

Israel

Kecerdasan buatan

Propaganda

Meta

Mark Zuckerberg

Facebook