Le piège des gens intelligents : pourquoi Vitalik veut-il que nous respections les « règles idiotes »

Titre original : Le piège des gens intelligents : Pourquoi Vitalik veut-il que nous respections les « règles stupides »

Auteur original : Zhixiong Pan

Source originale :

Reproduction : Mars Finance

L'article de Vitalik publié il y a quelques semaines, intitulé « Galaxy Brain Resistance », est en fait assez obscur et je n'ai pas vu de bonnes interprétations, alors je vais essayer.

Après tout, j'ai vu que Karpathy, le créateur du terme Vibe Coding, a également lu cet article et pris des notes, il doit donc y avoir quelque chose de spécial.

Tout d'abord, que signifient respectivement les titres Galaxy Brain et Resistance ? Une fois que vous aurez interprété ce titre, vous pourrez comprendre de quoi parle cette article.

1. La traduction en chinois de Galaxy Brain est « 脑银河 », mais cela vient en fait d'un mème sur Internet, similaire à une image combinant (galaxie et cerveau) que vous avez probablement déjà vue.

Au début, c'était bien sûr positif, utilisé pour louer les idées de l'autre comme étant très brillantes, c'est-à-dire intelligentes. Mais plus tard, avec l'abondance de son utilisation, cela s'est progressivement transformé en une sorte d'ironie, le sens général étant « trop réfléchi, la logique est trop éloignée ».

Et Vitalik mentionne ici Galaxy Brain, se référant à ce type de comportement qui consiste à “utiliser un QI élevé pour faire des exercices de pensée, en affirmant que des choses illogiques ont en réalité du sens”. Par exemple :

• C'est clairement pour économiser de l'argent en licenciant massivement, mais il faut dire que c'est “pour fournir des talents de haute qualité à la société”.

• Clairement, c'est une arnaque avec des jetons sans valeur, mais ils prétendent « habiliter l'économie mondiale grâce à la gouvernance décentralisée ».

Cela peut être considéré comme une pensée de type « cerveau galactique ».

2、Alors, que signifie la résistance ? Ce concept peut facilement prêter à confusion. On peut le comparer, dans le langage courant, à la “capacité de ne pas se laisser influencer” ou à la “capacité de ne pas se faire avoir”.

Donc, la Galaxy Brain Resistance devrait être la résistance à [becoming] Galaxy Brain, c'est-à-dire : « la capacité de résister (à l'évolution en) Galaxy Brain (absurdité). »

Ou, plus précisément, il s'agit de décrire à quel point il est facile d'abuser d'un certain style de pensée / d'argumentation pour “prouver n'importe quelle conclusion que vous souhaitez.”

Donc cette “résistance” peut être ciblée contre une certaine “théorie”, par exemple,

• La théorie de la faible résistance (Low Resistance) : Avec un peu de réflexion, elle peut se transformer en une logique extrêmement absurde de « cerveau galactique ».

• La théorie de la haute résistance (High Resistance) : peu importe comment vous l'examinez, elle reste inchangée, il est difficile qu'elle évolue vers une logique absurde.

Par exemple, Vitalik dit que dans la société idéale qu'il envisage, la loi devrait avoir une ligne rouge : il ne devrait être interdit d'agir que lorsque l'on peut expliquer comment un certain comportement cause du tort ou un risque à des victimes spécifiques. Ce critère a une grande résistance à la pensée galactique, car il n'accepte pas des raisons vagues ou extensibles telles que « je n'aime pas subjectivement » ou « cela nuit aux bonnes mœurs ».

3. Vitalik a également donné de nombreux exemples dans son article, en prenant même des théories que nous entendons souvent, comme le “long-termisme” et le “déterminisme”.

Le « long-termisme » est difficile à résister à l'invasion de la pensée de type Galaxy Brain, car sa résistance est très faible, c'est presque un « chèque en blanc ». Parce que le « futur » est trop lointain et trop flou.

• Déclaration à haute résistance : « Cet arbre pourra atteindre 5 mètres de hauteur dans 10 ans ». C'est vérifiable et difficile à dire n'importe quoi.

• Faible résistance au « long-termisme » : « Bien que je doive maintenant faire quelque chose de profondément immoral (comme éliminer une partie de la population ou déclencher une guerre), c'est pour que l'humanité puisse vivre une vie utopique dans 500 ans. D'après mes calculs, le bonheur total futur est infini, donc les sacrifices d'aujourd'hui sont négligeables. »

Tu vois, tant que tu prolonges le temps suffisamment, tu peux justifier n'importe quel acte malveillant du moment. Comme l'a dit Vitalik : « Si ton argument peut prouver que n'importe quoi est justifié, alors ton argument ne prouve rien du tout. »

Cependant, Vitalik admet aussi que « le long terme est important ». Il critique « l'utilisation de bénéfices futurs trop flous et non vérifiables pour couvrir les dommages clairs du présent ».

Un autre point chaud est le « déterminisme » (Inevitabilism).

C'est aussi la technique d'autodéfense préférée de la Silicon Valley et du monde technologique.

Le discours est le suivant : « L'IA remplace le travail humain, c'est une nécessité historique. Même si je ne le fais pas, d'autres le feront. Donc, je développe l'IA de manière radicale non pas pour gagner de l'argent, mais pour suivre le courant de l'histoire. »

Où la résistance est-elle faible ? Elle dissout parfaitement le sens de responsabilité des gens. Puisque c'est “inévitable”, je n'ai donc pas besoin d'assumer la responsabilité des destructions que j'ai causées.

C'est aussi un exemple typique du cerveau galactique : transformer le désir personnel de « je veux gagner de l'argent / je veux avoir le pouvoir » en « je suis en train d'exécuter une mission historique ».

4, Que devrions-nous faire face à ces « pièges des Satoshi » ?

Le remède proposé par Vitalik est étonnamment simple, voire un peu « idiot ». Il pense que plus une personne est intelligente, plus elle a besoin de règles à haute résistance pour se contraindre, afin d'éviter de se laisser emporter par ses acrobaties intellectuelles.

Premièrement, tenir fermement à l'« éthique déontologique », c'est-à-dire aux lois morales de niveau jardin d'enfants.

Ne vous embêtez pas à résoudre des équations mathématiques complexes sur le thème « pour l'avenir de l'humanité », revenez aux principes les plus rigides :

• Ne vole pas

• Ne tuez pas des innocents

• Ne pas escroquer

• Respecter la liberté des autres

Ces règles sont très rigides. Parce qu'elles sont noires ou blanches, il n'y a pas de place pour la négociation. Lorsque vous essayez d'expliquer pourquoi vous détournez les fonds des utilisateurs avec de grands principes de « long-termisme », cette règle inflexible « ne vole pas » vous frappera directement au visage : voler, c'est voler, ne parlez pas de la grande révolution financière.

Deuxièmement, détenir la bonne “position”, y compris la position physique.

Comme le dit le proverbe, le derrière décide de la tête. Si vous traînez tous les jours dans cette chambre d'écho de la région de la baie de San Francisco, entouré de personnes qui prônent l'accélération de l'IA, il est difficile de rester lucide. Vitalik a même donné un conseil de haute résistance à un niveau physique : ne pas vivre dans la région de la baie de San Francisco.

5. Résumé

Cet article de Vitalik est en réalité un avertissement à ces élites extrêmement intelligentes : ne pensez pas qu'en raison de votre QI élevé, vous pouvez contourner les principes moraux élémentaires.

Les théories du « cerveau galactique » qui semblent pouvoir expliquer tout sont souvent les excuses universelles les plus dangereuses. Au contraire, ces règles de « haute résistance » qui semblent rigides et dogmatiques sont la dernière ligne de défense pour nous empêcher de nous tromper nous-mêmes.