Avertissement de Vitalik : Les gens intelligents ont plus besoin de règles "bêtes".

Auteur : Zhixiong Pan

L'article de Vitalik publié il y a quelques semaines, “Galaxy Brain Resistance”, est en fait assez obscur et difficile à comprendre, et je n'ai pas vu de bonne interprétation, alors je vais essayer.

Après tout, je vois que Karpathy, le créateur du terme Vibe Coding, a également lu cet article et pris des notes, il doit donc y avoir quelque chose de spécial.

Tout d'abord, parlons de ce que signifient respectivement les termes Galaxy Brain et Resistance. Une fois que vous aurez interprété ce titre, vous comprendrez de quoi parle cet article.

1️⃣ La traduction en chinois de Galaxy Brain est « Cerveau Galactique », mais cela vient en réalité d'un mème Internet, similaire à l'image de (???) fusionnée ensemble, que vous avez sûrement déjà vue.

Au départ, c'était bien sûr positif, utilisé pour louer une idée très brillante de l'autre, c'est-à-dire intelligente. Mais plus tard, avec une utilisation excessive, cela s'est progressivement transformé en une sorte de dérision, signifiant à peu près « tu penses trop, ta logique va trop loin ».

Et Vitalik mentionne ici ??? , se référant à ce type de comportement qui consiste à “utiliser un haut QI pour faire des acrobaties mentales, pour faire passer des choses irrationnelles comme ayant du sens”. Par exemple :

• Il est évident que le licenciement massif vise à économiser de l'argent, mais il faut absolument dire que c'est « pour fournir des talents de haute qualité à la société ».

• Clairement, c'est un projet de monnaie à faible valeur qui exploite les investisseurs, mais ils prétendent « autonomiser l'économie mondiale grâce à la gouvernance décentralisée ».

On peut tous les considérer comme une pensée de type « cerveau galactique ».

2️⃣ Qu'est-ce que cela signifie la résistance ? Ce concept peut être facilement embrouillé, on peut le comparer avec une expression populaire comme “la capacité à ne pas se laisser emporter” ou “la capacité à ne pas se faire berner”.

Donc, la Galaxy Brain Resistance devrait être la résistance à [becoming] Galaxy Brain, c'est-à-dire : « la capacité de résister (à l'évolution en) Galaxy Brain (absurdité). »

Ou, plus précisément, la difficulté d'utiliser un certain style de pensée / d'argumentation pour « prouver n'importe quelle conclusion que vous souhaitez ».

Donc cette “résistance” peut être dirigée contre une certaine “théorie”, par exemple,

• La théorie de la faible résistance (Low Resistance) : Un simple examen peut se transformer en une logique totalement absurde de « cerveau galactique ».

• La théorie de la haute résistance (High Resistance) : peu importe comment vous l'analysez, elle reste la même et il est difficile qu'elle évolue vers une logique absurde.

Par exemple, Vitalik a déclaré que la loi idéale de la société devrait avoir une ligne rouge : on ne peut interdire un comportement que lorsqu'on peut expliquer comment il cause du tort ou du risque à des victimes spécifiques. Ce standard a une grande résistance à la “Galaxy Brain” car il n'accepte pas des raisons telles que “je n'aime pas subjectivement” ou “c'est contraire à la morale”, qui sont infiniment extensibles ou floues.

3️⃣ Vitalik a également cité de nombreux exemples dans son article, en prenant même des théories que nous entendons souvent, comme le « long-termisme » et le « déterminisme ».

Le “long-termisme” est difficile à résister à l'érosion de la pensée ???-style, car sa résistance est extrêmement faible, c'est presque un “chèque en blanc”. Parce que “l'avenir” est trop éloigné, trop flou.

• Affirmation à haute résistance : « Cet arbre pourra atteindre 5 mètres de hauteur dans 10 ans ». Cela peut être vérifié, il n'est pas facile d'inventer.

• Résistance faible au “long-termisme” : “Bien que je doive faire quelque chose d'extrêmement immoral maintenant (comme éliminer une partie de la population ou déclencher une guerre), c'est pour que l'humanité puisse vivre dans un monde utopique dans 500 ans. D'après mes calculs, le bonheur total futur est infini, donc les sacrifices actuels sont négligeables.”

Tu vois, tant que tu prolonges le temps suffisamment, tu peux justifier n'importe quel mal présent. Comme le dit Vitalik : « Si ton argument peut prouver que n'importe quoi est légitime, alors ton argument ne prouve rien. »

Cependant, Vitalik admet aussi que “le long terme est important”; il critique “l'utilisation de bénéfices futurs flous et non vérifiables pour masquer les dommages clairs du présent.”

Un autre point chaud est le « déterminisme » (Inevitabilism).

C'est aussi la technique d'auto-défense préférée de la Silicon Valley et du secteur technologique.

Le discours est le suivant : « L'IA remplaçant le travail humain est une nécessité historique, même si je ne le fais pas, d'autres le feront. Donc, je développe actuellement l'IA de manière radicale non pas pour gagner de l'argent, mais pour suivre le courant historique. »

Où la résistance est-elle faible ? Elle dissout parfaitement le sens des responsabilités de l'homme. Puisque c'est “inévitable”, je n'ai donc pas besoin d'être responsable des destructions que j'ai causées.

C'est aussi un exemple typique de cerveau galactique : transformer le désir personnel de « je veux gagner de l'argent / je veux avoir du pouvoir » en « je suis en train d'exécuter une mission historique ».

4️⃣ Alors, que devrions-nous faire face à ces « pièges des gens intelligents » ?

Le remède proposé par Vitalik est étonnamment simple, voire un peu « idiot ». Il pense que plus une personne est intelligente, plus elle a besoin de règles à haute résistance pour se contrôler et éviter de perdre le contrôle avec des acrobaties mentales.

Premièrement, tenir ferme à l'« éthique déontologique », c'est-à-dire aux lois morales de niveau jardin d'enfants.

Ne vous amusez pas à résoudre des équations mathématiques compliquées pour “l'avenir de l'humanité”. Revenez aux principes les plus rigides :

• Ne volez pas

• Ne pas tuer des personnes innocentes

• Ne pas escroquer

• Respecter la liberté des autres

Ces règles sont extrêmement rigides. Parce qu'elles sont noires ou blanches, il n'y a pas de place pour la négociation. Lorsque vous essayez d'expliquer pourquoi vous détournez les fonds des utilisateurs avec de grands principes de “long-termisme”, cette règle rigide “ne volez pas” vous frappera directement au visage : voler, c'est voler, ne parlez pas de grande révolution financière.

Deuxièmement, détenir la bonne “position”, y compris la position physique.

Comme on dit, le derrière détermine la tête. Si vous traînez tous les jours dans cette chambre d'écho de la baie de San Francisco, entouré de personnes prônant l'accélération de l'IA, il vous sera difficile de rester lucide. Vitalik a même donné un conseil de haute résistance sur le plan physique : ne pas vivre dans la baie de San Francisco.

5️⃣ Résumé

Cet article de Vitalik est en réalité un avertissement à ces élites extrêmement intelligentes : ne pensez pas qu'en raison de votre QI élevé, vous pouvez contourner les simples normes morales.

Les théories du « cerveau galactique » qui semblent pouvoir expliquer tout sont souvent les excuses universelles les plus dangereuses. En revanche, les règles « à haute résistance » qui semblent rigides et dogmatiques sont notre dernière ligne de défense contre l'auto-tromperie.