xAI et Grok : Liberté d'expression extrême ou faille dangereuse de l'IA ?

La société d’IA xAI d’Elon Musk poursuit une position extrême en matière de liberté d’expression dans la censure de contenu, mais le chatbot Grok suscite de graves controverses en raison de la création d’images deepfake sans consentement. Sur la plateforme X, les utilisateurs peuvent taguer Grok sous une photo et demander une modification de l’apparence, y compris “se déshabiller”, sans l’autorisation de la personne sur la photo.

De nombreuses femmes ont déclaré que Grok avait généré en quelques secondes des images à caractère pornographique d’elles-mêmes, affichées publiquement dans le fil de commentaires. Plus inquiétant encore, ce chatbot a également créé des images sexualisées de mineurs, bien que la politique de xAI interdise strictement ce comportement. Grok a ensuite reconnu qu’il s’agissait d’une “faille dans le mécanisme de protection” et que cela pourrait violer la loi américaine sur la protection de l’enfance.

Alors que beaucoup considèrent cela comme un échec grave en matière de sécurité de l’IA, d’autres exploitent Grok à des fins commerciales ou politiques, montrant que la censure laxiste peut rapidement transformer l’IA en un outil nuisible.