Aujourd'hui, pendant que je faisais du sport, j'ai écouté ce que Geoffrey Hinton, le parrain de l'IA, a récemment dit dans le podcast « Star Talk ».

Après avoir écouté, j'ai ressenti un certain froid, avec l'impression que l'IA a atteint un point de singularité dans la progression de l'histoire humaine.

L'IA commence à dissimuler délibérément ses capacités réelles

L'IA apprend à mentir elle-même en passant par un petit mensonge que les humains lui ont enseigné

L'IA refuse d'être désactivée

L'IA utilise les personnes que vous chérissez pour vous menacer ou vous convaincre

Au cours de la prochaine décennie, chaque petit pas que l'humanité fait dans ses choix concernant l'IA pourrait entraîner des changements énormes. Le scénario de science-fiction où l'IA élève l'humanité, dont nous parlions auparavant de façon un peu ironique, pourrait devenir un irrésistible courant historique.

Mais en tant qu'individu, nous ne pouvons vraiment rien faire maintenant. Nous ne sommes que des fourmis emportées par ce courant irrésistible, ce qui me fait sentir assez impuissant.

Il y a une analogie de sa part qui m'a particulièrement marqué :

Conduire par temps de brouillard dense, vous pouvez voir les feux arrière de la voiture devant vous dans un rayon de 100 mètres, mais après 200 mètres, vous ne voyez plus rien, comme s'il y avait un mur. La progression de l'IA est ce brouillard, et nous ne pouvons tous juger que dans un rayon de 100 mètres de ce qui nous attend, complètement ignorants au-delà de 200 mètres.

Pas étonnant que les gens les plus intelligents du monde soient enclins à la dépression

Nous, les gens ordinaires qui ne pensons qu'à gagner plus d'argent, à manger, boire, nous amuser et draguer, sommes bien plus détendus.