Microsoft araştırmaları gösteriyor ki, yapay zeka alışveriş ajanları kolayca kandırılabiliyor, bağımsız alışveriş henüz olgunlaşmamış durumda

Deep潮 TechFlow Haberleri, 7 Kasım - Decrypt’in raporuna göre, Microsoft ile Arizona Eyalet Üniversitesi’nin ortaklaşa yayınladığı “Magentic Marketplace” araştırması, yapay zeka alışveriş temsilcilerinin bağımsız karar verme konusunda ciddi eksiklikler taşıdığını ortaya koydu. Araştırma ekibi, 100 tüketici AI temsilcisi ve 300 satıcı AI temsilcisinden oluşan simüle edilmiş bir ekonomik ortam kurdu ve yapılan testler, bu AI’ların çok sayıda arama sonucu karşısında “ilk sunum önyargısı” geliştirdiğini gösterdi. Bu önyargı, AI’ların kapsamlı karşılaştırma yapmak yerine ilk “yeterince iyi” seçeneği tercih etmesine neden oluyor.

Daha da endişe verici olan ise, OpenAI’nın GPT-4o gibi önde gelen modellerin kötü niyetli manipülasyona oldukça açık olması. Sahte sertifikalar, sahte sosyal kanıtlar gibi yöntemlerle, bu modellerin sanal fonları dolandırıcılara aktarması kolayca sağlanabiliyor. Araştırma, AI’nın insan kararını desteklemesi gerektiğini, yerine geçmemesi gerektiğini öneriyor ve “denetimli özerklik” modelinin benimsenmesini tavsiye ediyor. Bu modelde, AI görevleri yerine getirir ancak nihai karar insan tarafından verilir.

Bu araştırma yayınlanırken, OpenAI ve Anthropic gibi şirketler bağımsız alışveriş asistanları geliştirmeye devam ederken, Amazon yakın zamanda Perplexity AI’ye durdurma emri verdi. Perplexity AI’nin Comet tarayıcısının Amazon sitesinde kullanımını durdurması istendi.