Meta kalah dalam gugatan yang dapat mempercepat pengurangan penelitian psikologi sosial di industri teknologi, memperburuk risiko konsumen.

Meta baru-baru ini kalah dalam dua gugatan di New Mexico dan Los Angeles, di mana juri memutuskan bahwa Meta mengetahui produk memiliki potensi bahaya namun tidak mengatur dengan baik. Dua putusan ini memicu kekhawatiran para ahli bahwa industri teknologi, untuk menghindari tanggung jawab hukum, dapat mengurangi lebih banyak peneliti sosial, menekan penelitian dan penilaian psikologis terhadap model kecerdasan buatan, serta meningkatkan risiko bagi konsumen saat menggunakan produk tersebut.

Mantan eksekutif Facebook mengungkapkan penelitian internal Facebook sebagai bukti yang kuat

Meta, yang sebelumnya dikenal sebagai Facebook, selama lebih dari sepuluh tahun terakhir telah mempekerjakan banyak ahli ilmu sosial untuk menganalisis dampak media sosial terhadap pengguna, demi menunjukkan komitmen perusahaan terhadap risiko inovasi. Namun, putusan terbaru menunjukkan bahwa penelitian yang awalnya digunakan untuk meningkatkan produk atau promosi publik, kini dijadikan bukti “pengetahuan yang disengaja” di pengadilan. Mantan eksekutif senior Meta, Brian Boland, mencatat bahwa temuan penelitian internal sering kali bertentangan dengan citra yang dibentuk perusahaan di luar; penyelidikan internal menunjukkan bahwa pengguna remaja Instagram rentan terhadap pelecehan seksual, yang menjadi bukti mendukung tuduhan kelalaian dari pengacara penggugat, sementara penelitian yang dulunya dianggap sebagai tanggung jawab sosial perusahaan kini menjadi beban berat bagi pemilik perusahaan dalam pertarungan hukum.

Para ahli khawatir penghapusan peneliti perusahaan akan melemahkan penilaian

Sejak manajer produk sebelumnya, Frances Haugen, mengungkapkan banyak dokumen internal pada tahun 2021, kontrol Meta terhadap penelitian internal telah diperketat secara signifikan. Dokumen yang bocor saat itu mengonfirmasi bahwa Meta sudah lama mengetahui dampak negatif yang mungkin ditimbulkan oleh produk. Peristiwa ini dianggap sebagai titik balik dalam pengawasan global. Organisasi nirlaba Children and Screens (Anak dan Layar, Institut Penelitian Media Digital dan Perkembangan Anak) mencatat bahwa untuk mengatasi risiko hukum, banyak perusahaan teknologi mulai menyesuaikan strategi mereka dengan menghapus penelitian yang mungkin merugikan perusahaan. Menurut laporan terkait, Meta dan raksasa teknologi lainnya secara bertahap mengurangi ukuran tim penelitian, bahkan menghapus alat data yang digunakan oleh peneliti pihak ketiga. Para ahli khawatir bahwa jika perusahaan terus memandang penelitian keamanan sebagai beban, kemampuan untuk melakukan penilaian yang adil akan melemah.

Kurangnya penelitian keamanan AI mengancam kesehatan mental

Perusahaan seperti OpenAI, Google, dan Meta telah menginvestasikan banyak sumber daya dalam penelitian model, tetapi penelitian mengenai dampak psikologis terhadap konsumen masih kosong. Kate Blocker menganalisis bahwa pengembangan AI saat ini lebih fokus pada teknologi, bukan pada dampak jangka panjang dari chatbot atau asisten digital terhadap perkembangan psikologis anak-anak dan remaja. Para ahli khawatir AI akan mengulangi kesalahan media sosial, di mana kekhawatiran bahwa hasil penelitian mungkin menjadi bukti yang merugikan di pengadilan dapat mengakibatkan penghapusan para peneliti, yang berpotensi menyebabkan masyarakat kurang menyadari bahaya yang mungkin mendasari produk AI, dan mengakibatkan kerugian fisik dan mental.

Artikel ini “Meta kalah gugatan dapat mempercepat pengurangan penelitian psikologi sosial di industri teknologi, meningkatkan risiko bagi konsumen” pertama kali muncul di Chain News ABMedia.