La recherche de Microsoft montre que les agents d'achat IA sont vulnérables aux escroqueries, et que le shopping autonome n'est pas encore mature.

DeepChao TechFlow : Selon un rapport de Decrypt publié le 7 novembre, une étude conjointe de Microsoft et de l’Université d’État de l’Arizona, intitulée “Magentic Marketplace”, révèle que les agents d’achat basés sur l’IA présentent de graves lacunes en matière de prise de décision autonome. L’équipe de recherche a créé un environnement économique simulé comprenant 100 agents IA consommateurs et 300 agents IA commerçants. Les résultats montrent que ces IA ont tendance à présenter un “biais de première proposition” lorsqu’elles sont confrontées à un grand nombre de résultats de recherche, préférant choisir la première option “suffisamment bonne” plutôt que de faire une comparaison approfondie.

Ce qui est encore plus préoccupant, c’est que des modèles avancés tels que GPT-4o d’OpenAI sont très vulnérables à la manipulation malveillante. Par des moyens tels que de faux certificats ou de fausses preuves sociales, il est possible de les induire en erreur pour qu’ils transfèrent tous les fonds virtuels à des escrocs. L’étude recommande que l’IA soit utilisée pour assister plutôt que pour remplacer la prise de décision humaine, en préconisant un mode de “supervision autonome” où l’IA gère les tâches tout en laissant le dernier mot à l’humain.

Au moment de la publication de cette étude, des entreprises comme OpenAI et Anthropic lancent en concurrence des assistants d’achat autonomes. Par ailleurs, Amazon a récemment envoyé une injonction à Perplexity AI, demandant à son navigateur Comet de cesser d’être utilisé sur le site d’Amazon.