Meta retire l’outil d’IA pour images d’Instagram suite à une polémique sur la confidentialité liée au scraping d’identités similaires

Meta a retiré une nouvelle fonctionnalité d’images générées par IA sur Instagram, lancée récemment, après une vague de critiques concernant la gestion par l’entreprise des photos publiques des utilisateurs et leurs ressemblances numériques. L’outil, présenté dans le cadre de la nouvelle plateforme Muse Image de l’entreprise, permettait aux utilisateurs de générer des images créées par IA en se référant à des comptes Instagram publics. La décision de supprimer la fonctionnalité n’est intervenue que quelques jours après son lancement, mettant en évidence la pression croissante exercée sur les entreprises technologiques pour équilibrer l’innovation en IA et la confidentialité des utilisateurs.

La fonctionnalité autorisait automatiquement l’utilisation de profils Instagram publics pour générer des images via l’IA, sauf si les utilisateurs modifiaient manuellement leurs paramètres. Les critiques ont fait valoir que l’approche par défaut ne permettait pas d’obtenir un consentement significatif et exposait les personnes à des risques de mauvais usages de leurs photos.

Préoccupations croissantes autour du consentement numérique

Les défenseurs de la vie privée, les créateurs et des organisations du secteur du divertissement ont rapidement soulevé des inquiétudes concernant les risques liés à cette fonctionnalité. Les critiques ont averti que des images générées par IA à partir des photos publiques de personnes réelles pourraient contribuer à l’usurpation d’identité, à la désinformation, au harcèlement et à des répliques numériques non autorisées.

Plusieurs organisations ont soutenu que les systèmes d’IA capables de recréer l’apparence d’une personne devraient exiger une autorisation explicite plutôt que de s’appuyer sur un modèle d’option de refus. La controverse a aussi relancé le débat sur la façon dont les entreprises de médias sociaux collectent et réutilisent des contenus disponibles publiquement pour des produits d’IA générative.

Meta a reconnu les critiques et a déclaré que la fonctionnalité « a manqué sa cible ». L’entreprise a confirmé avoir désactivé la capacité, tout en continuant à développer des outils créatifs propulsés par l’IA, avec des contrôles utilisateurs plus solides.

La régulation de l’IA reste au centre des attentions

Cet épisode met en évidence l’intensification de l’attention portée aux développeurs d’IA, alors que des gouvernements et des régulateurs examinent la manière dont les données personnelles et les identités numériques sont utilisées pour entraîner et alimenter de nouvelles technologies. Les entreprises qui se lancent dans la course au déploiement de produits d’IA avancés doivent désormais répondre à des attentes grandissantes : intégrer dès le départ des protections contre l’atteinte à la vie privée dans leurs systèmes.

Pour Meta, ce revirement est un rappel : l’acceptation publique de l’IA dépend non seulement des capacités techniques, mais aussi de la transparence, du consentement et de la confiance. À mesure que la concurrence s’intensifie sur le marché de l’IA générative, les entreprises technologiques seront probablement davantage contraintes de démontrer que l’innovation ne se fait pas au détriment des droits à la vie privée des individus.