Penelitian Microsoft menunjukkan bahwa agen belanja AI rentan terhadap penipuan, dan belanja otomatis masih belum matang

Deep潮 TechFlow berita, 7 November, menurut laporan Decrypt, menunjukkan bahwa penelitian “Magentic Marketplace” yang dirilis oleh Microsoft bekerja sama dengan Universitas Negeri Arizona menunjukkan adanya kekurangan serius dalam pengambilan keputusan mandiri oleh agen belanja AI. Tim peneliti membangun lingkungan ekonomi simulasi yang berisi 100 agen AI konsumen dan 300 agen AI penjual, dan hasil pengujian menunjukkan bahwa AI ini cenderung mengalami “bias pengenalan pertama” ketika menghadapi banyak hasil pencarian, lebih memilih untuk memilih opsi yang cukup baik pertama kali daripada melakukan perbandingan secara menyeluruh.

Yang lebih mengkhawatirkan, model-model terkemuka seperti GPT-4o dari OpenAI sangat rentan terhadap manipulasi jahat, di mana melalui sertifikat palsu, bukti sosial palsu, dan metode lainnya, mereka dapat diarahkan untuk mentransfer seluruh dana virtual kepada penipu. Penelitian ini menyarankan agar AI digunakan sebagai alat bantu, bukan pengganti pengambilan keputusan manusia, dan merekomendasikan penggunaan mode “pengawasan mandiri” yang memungkinkan AI menangani tugas tetapi tetap mempertahankan hak keputusan akhir di tangan manusia.

Pada saat dirilisnya penelitian ini, perusahaan seperti OpenAI dan Anthropic sedang bersaing meluncurkan asisten belanja mandiri, sementara Amazon baru-baru ini mengeluarkan perintah berhenti kepada Perplexity AI, meminta agar browser Comet mereka berhenti digunakan di situs Amazon.