En résumé
- 200 manifestants ont défilé d’Anthropic jusqu’aux bureaux d’OpenAI et de xAI à San Francisco.
- Les activistes ont appelé les entreprises d’IA à suspendre le développement de nouveaux modèles d’IA de pointe.
- L’organisateur Michael Trazzi a déjà mené une grève de la faim de plusieurs semaines devant Google DeepMind.
Les manifestants ont défilé dans les rues de San Francisco samedi, s’arrêtant devant les bureaux d’Anthropic, d’OpenAI et de xAI pour demander une pause conditionnelle dans le développement d’intelligences artificielles de plus en plus puissantes.
Selon Michael Trazzi, fondateur de Stop the AI Race et documentariste, environ 200 manifestants ont participé à la démonstration. Parmi eux, des chercheurs, des universitaires et des membres de groupes de plaidoyer tels que le Machine Intelligence Research Institute, PauseAI, QuitGPT, StopAI et Evitable.
« Il y a beaucoup de personnes qui se préoccupent de ce risque lié aux systèmes d’IA avancés », a déclaré Trazzi à Decrypt. « Le fait que tout le monde marche ensemble montre que les gens ne sont pas isolés dans leur réflexion. Il y a beaucoup de personnes concernées.** »**
Le défilé a commencé à midi devant les bureaux d’Anthropic, puis s’est déplacé vers OpenAI et enfin vers xAI. À chaque étape, des activistes et des intervenants des organisations participantes ont pris la parole pour s’adresser aux manifestants.
Selon Trazzi, la protestation visait à pousser les entreprises d’IA à accepter une pause coordonnée dans la construction de modèles d’IA plus puissants et à établir des traités avec des développeurs d’IA dans d’autres pays pour faire de même.
« Si la Chine et les États-Unis acceptaient d’arrêter de construire des modèles plus dangereux, ils pourraient se concentrer sur l’amélioration des systèmes pour nous, comme l’IA médicale », a-t-il expliqué. « Tout le monde en bénéficierait. »
La proposition de Stop the AI Race appelle les entreprises à cesser de développer de nouveaux modèles de pointe et à réorienter leur travail vers la sécurité, si d’autres grands laboratoires « font de même de manière crédible », ce qui, selon Trazzi, rend plus important le fait de protester devant les bureaux des laboratoires d’IA.
Opposition constante
La protestation s’inscrit dans une série d’actions visant à perturber le développement de l’IA.
En mars 2023, l’Institute for the Future of Life a publié une lettre ouverte demandant un moratoire sur les améliorations futures de l’outil d’IA leader, suite au lancement public de ChatGPT l’année précédente.
Les signataires comprenaient Elon Musk, fondateur de xAI, Steve Wozniak, co-fondateur d’Apple, et Chris Larsen, co-fondateur de Ripple. Un an après sa première publication, la lettre ouverte « Pause Giant AI Experiments » compte plus de 33 000 signatures.
En septembre, Trazzi a mené une grève de la faim d’une semaine devant les bureaux de Google DeepMind à Londres, tandis que Guido Reichstadter a organisé une grève de la faim parallèle devant les bureaux d’Anthropic à San Francisco.
Des responsables gouvernementaux et des partisans du développement continu de l’IA soutiennent que ralentir la recherche aux États-Unis pourrait donner un avantage aux concurrents étrangers.
La semaine dernière, l’administration Trump a publié son cadre pour l’IA afin d’établir une norme nationale pour les lois régissant le développement de l’IA. La Maison Blanche l’a présenté comme un engagement à « gagner la course à l’IA ».
« Même si vous êtes en Chine ou dans n’importe quel pays du monde, personne ne veut de systèmes qu’il ne peut pas contrôler », a déclaré Trazzi. « Parce que nous sommes dans cette course entre entreprises et pays pour construire les systèmes le plus rapidement possible, nous prenons des raccourcis et négligeons la sécurité. Il n’y a jamais de course sans gagnants. Ce que nous avons, c’est un système que nous ne pouvons pas contrôler, et c’est pourquoi on l’appelle une course suicidaire. »
Mais même si les développeurs d’IA acceptaient de suspendre leur développement, vérifier cela pourrait s’avérer plus difficile qu’il n’y paraît. Trazzi a suggéré qu’une façon de vérifier une pause serait de limiter la puissance de calcul utilisée pour entraîner de nouveaux modèles.
« Si vous limitez la quantité de calcul qu’une entreprise peut utiliser pour construire ces systèmes, vous limitez quasiment le développement de nouveaux modèles », a-t-il expliqué.
Après la manifestation à San Francisco, Trazzi a indiqué que d’autres actions pourraient avoir lieu dans d’autres lieux où opèrent de grands entreprises d’IA.
« Nous voulons nous présenter là où se trouvent les employés », a-t-il dit. « Nous voulons leur parler, et qu’ils parlent à leur direction pour faire bouger les choses de l’intérieur », ajoutant que les lanceurs d’alerte auront une certaine influence parce que « ce sont eux qui construisent tout cela ».
OpenAI, Anthropic et xAI n’ont pas immédiatement répondu aux demandes de Decrypt pour un commentaire.
Avertissement : Les informations contenues dans cette page peuvent provenir de tiers et ne représentent pas les points de vue ou les opinions de Gate. Le contenu de cette page est fourni à titre de référence uniquement et ne constitue pas un conseil financier, d'investissement ou juridique. Gate ne garantit pas l'exactitude ou l'exhaustivité des informations et n'est pas responsable des pertes résultant de l'utilisation de ces informations. Les investissements en actifs virtuels comportent des risques élevés et sont soumis à une forte volatilité des prix. Vous pouvez perdre la totalité du capital investi. Veuillez comprendre pleinement les risques pertinents et prendre des décisions prudentes en fonction de votre propre situation financière et de votre tolérance au risque. Pour plus de détails, veuillez consulter l'
avertissement.
