Сатоші розумних людей: чому Віталік хоче, щоб ми дотримувалися «дурних правил»

Оригінальна назва: Ситуація розумної людини: чому Віталік хоче, щоб ми дотримувалися «дурних правил»

Оригінальний автор: Zhixiong Pan

Оригінальне джерело:

Переклад: Mars Finance

Стаття «Galaxy Brain Resistance», опублікована Віталіком кілька тижнів тому, насправді досить складна для розуміння, і я не бачив хороших тлумачень, тож спробую це зробити.

Адже я бачив, що творець терміна Vibe Coding Карпаті також прочитав цю статтю і робив нотатки, отже, це точно має якусь особливість.

По-перше, давайте розглянемо, що означають заголовки Galaxy Brain та Resistance. Після того, як ви зрозумієте ці заголовки, ви зможете зрозуміти, про що приблизно йдеться в цій статті.

1. Переклад Galaxy Brain китайською мовою – «Галактичний мозок», але насправді він походить з інтернет-мему, схожого на зображення, де поєднані (галактика і мозок), яке ви, напевно, бачили.

Це спочатку, звісно, було позитивним, використовувалося для похвали ідеї іншої людини, яка була дуже геніальною, тобто розумною. Але згодом, внаслідок поширення вживання, воно поступово перетворилося на певну іронію, приблизно означаючи «думаєш занадто багато, логіка занадто заплутана».

А Віталік тут згадує Galaxy Brain, що стосується такої поведінки, як «використання високого інтелекту для розумових вправ, щоб безглузді речі жорстко видавати за глибокі». Наприклад:

• Чітко для економії коштів звільняють людей, але потрібно казати, що це «постачання висококваліфікованих кадрів суспільству».

• Явно це повітряна монета, яка ріже траву, але стверджує, що «використовує децентралізоване управління для підвищення глобальної економіки».

Всі вони можуть бути вважатися мисленням у стилі «Галактичного розуму».

2、Що таке Resistance (опір)? Це поняття легко може заплутати, його можна порівняти з популярним висловом “здатність не піддаватися маніпуляціям” або “здатність не бути обдуреним”.

Отже, Galaxy Brain Resistance має бути Resistance to [becoming] Galaxy Brain, тобто: «здатність чинити опір (еволюції в) Галактичний мозок (несенітниця)».

Або, більш точно, це використовується для опису того, наскільки легко стиль мислення / аргументації може бути зловжито для «доведення будь-якого висновку, який ви хочете».

Отже, цей «опір» може бути спрямований проти якоїсь «теорії», наприклад,

• Теорія низького опору (Low Resistance): трохи подумавши, вона може перетворитися на абсолютно абсурдну логіку «Галактичного мозку».

• Теорія високої стійкості (High Resistance): Незалежно від того, як ви її аналізуєте, вона залишається незмінною і важко еволюціонує в абсурдну логіку.

Наприклад, Віталік каже, що в його ідеальному суспільстві закони повинні мати червону лінію: забороняти можна лише тоді, коли можна чітко пояснити, як певна дія завдає шкоди або ризику конкретній жертві. Цей стандарт має величезну стійкість до Galaxy Brain, оскільки не приймає такі безмежно розтягнуті або розмиті причини, як «мені суб’єктивно не подобається» чи «це аморально».

3. Віталік також навів багато прикладів у статті, навіть використавши теорії, які ми часто чуємо, такі як «довгостроковість» та «необхідність».

«Довгострокове мислення» важко протистояти ерозії мислення в стилі Galaxy Brain, оскільки його опір дуже низький, це просто «пустий чек». Адже «майбутнє» надто далеке і надто неясне.

• Висловлення з високою стійкістю: «Це дерево через 10 років зможе зрости на 5 метрів». Це можна перевірити, не так легко вигадати.

• Низька опірність «долгостроковості»: «Хоча я зараз повинен зробити щось вкрай аморальне (наприклад, знищити частину людей або розпочати війну), але це для того, щоб через 500 років людство могло жити в утопічному світі. За моїми розрахунками, загальна кількість щастя в майбутньому безмежна, тому жертви в даний момент незначні.»

Ти бачиш, якщо ти витягнеш час досить довго, ти можеш виправдати будь-яке зловмисне діяння в даний момент. Як сказав Віталік: «Якщо твоє обґрунтування може довести, що будь-що є виправданим, тоді твоє обґрунтування нічого не доводить.»

Проте Віталік також визнає, що «довгострокові перспективи важливі», він критикує «використання надмірно розмитих, неперевірених майбутніх вигод, щоб приховати чіткі шкоди в даний момент».

Іншою зоною важкого ураження є «непередбачуваність» (Inevitabilism).

Це також є найулюбленішим способом самооборони у Кремнієвій долині та технологічному середовищі.

Текст такий: «Заміна людської праці штучним інтелектом є неминучим історичним процесом, навіть якщо я цього не зроблю, інші зроблять. Тому я зараз радикально розробляю ШІ не для заробітку, а щоб слідувати історичним тенденціям.»

Де низька опірність? Вона ідеально розмиває почуття відповідальності у людей. Оскільки це «неминуче», то я не зобов'язаний нести відповідальність за завдану шкоду.

Це також типовий Галактичний Мозок: приватну жагу «Я хочу заробити гроші / Я хочу влади» упаковано в «Я виконую історичну місію».

4, Що нам робити, стикаючись з цими «пастками розумних людей»?

Ліки, які запропонував Віталік, виявилися несподівано простими, навіть трохи «недолугими». Він вважає, що чим розумніша людина, тим більше їй потрібні високостійкі правила, щоб обмежити себе і не допустити, щоб її інтелектуальні акробатики вийшли з-під контролю.

По-перше, дотримуйтесь «девіантної етики» (Deontological Ethics), тобто моральних залізних правил на рівні дитячого садка.

Не намагайтеся вирішити складні математичні задачі «заради майбутнього всього людства», поверніться до найосновніших принципів:

• Не кради

• Не вбивай невинних людей

• Не шахраюй

• Повага до свободи інших

Ці правила мають високу стійкість. Бо вони або чорні, або білі, немає про що домовлятися. Коли ви намагаєтеся пояснити, чому ви повинні привласнити кошти користувачів, використовуючи «довгострокову перспективу», ця сувора правила «не кради» вдарить вас по обличчю: вкрадене є вкраденим, не вигадуйте нічого про велику фінансову революцію.

По-друге, мати правильну «позицію», навіть включаючи фізичне місце.

Як кажуть, дупа визначає голову. Якщо ти щодня тиняєшся в тій ехо-камері в районі затоки Сан-Франциско, де навколо всі займаються прискоренням ІІ, тобі буде важко зберегти ясність розуму. Віталік навіть дав фізичну пораду з високим ступенем опору: не живи в районі затоки Сан-Франциско.

5, підсумок

Віталік ця стаття насправді є попередженням для тих надзвичайно розумних еліт: не думайте, що через високий IQ ви можете обійти прості моральні межі.

Ті теорії «Галактичного мозку», які, здається, можуть пояснити все, зазвичай є найбільш небезпечними універсальними виправданнями. Натомість ті правила «високої стійкості», які звучать сухо і догматично, є останнім рубежем, що запобігає нашому самозаслуговуванню.