Jebakan orang cerdas: Mengapa Vitalik ingin kita mematuhi "aturan bodoh"

Judul Asli: Perangkap Orang Cerdas: Mengapa Vitalik Mengharuskan Kita Mematuhi “Aturan Bodoh”

Penulis asli: Zhixiong Pan

Sumber asli:

Repost: Mars Finance

Artikel “Galaxy Brain Resistance” yang diterbitkan Vitalik beberapa minggu yang lalu sebenarnya cukup sulit dipahami, dan saya belum melihat penjelasan yang baik, jadi saya akan mencoba.

Bagaimanapun, saya melihat pencipta istilah Vibe Coding, Karpathy, juga membaca artikel ini dan mencatat, pasti ada sesuatu yang istimewa.

Pertama-tama, mari kita bahas arti dari judul ini, Galaxy Brain dan Resistance. Setelah menginterpretasikan judul ini, Anda akan dapat memahami secara umum apa yang dibahas dalam artikel ini.

1、Terjemahan Galaxy Brain dalam bahasa Mandarin adalah “银河大脑”, tetapi sebenarnya berasal dari sebuah meme internet, mirip dengan gambar yang menggabungkan (galaksi dan otak) yang pasti sudah pernah kamu lihat.

Pada awalnya tentu saja itu adalah konotasi positif, digunakan untuk memuji pemikiran orang lain yang sangat brilian, yaitu cerdas. Namun kemudian, seiring dengan penyebaran penggunaannya, perlahan-lahan berubah menjadi semacam ironi, dengan arti kurang lebih “terlalu banyak berpikir, logika terlalu berbelit-belit.”

Dan Vitalik di sini menyebut Galaxy Brain, yang merujuk pada perilaku “menggunakan kecerdasan tinggi untuk melakukan akrobatik pemikiran, memaksakan hal-hal yang tidak masuk akal menjadi tampak masuk akal”. Misalnya:

• Jelas-jelas untuk menghemat biaya dengan pemotongan karyawan besar-besaran, tetapi tetap harus mengatakan bahwa itu adalah “mengirimkan sumber daya manusia berkualitas tinggi ke masyarakat.”

• Jelas-jelas itu adalah koin angin yang merugikan, tetapi mengklaim “memberdayakan ekonomi global melalui tata kelola terdesentralisasi”.

Semua dapat dianggap sebagai pemikiran ala “otak galaksi”.

2、Lalu apa arti Resistance (resistensi)? Konsep ini sangat mudah membingungkan, dapat dis类比 dengan istilah populer sebagai “kemampuan untuk tidak terpengaruh oleh ritme”, atau “kemampuan untuk tidak tertipu”.

Jadi Galaxy Brain Resistance harus berarti Resistance to [becoming] Galaxy Brain yaitu: “kemampuan untuk menahan (berubah menjadi) Galaxy Brain (omong kosong).”

Atau lebih tepatnya, digunakan untuk menggambarkan seberapa mudah gaya berpikir / argumen tertentu disalahgunakan untuk “membuktikan kesimpulan apa pun yang Anda inginkan.”

Jadi “perlawanan” ini bisa ditujukan pada suatu “teori”, misalnya,

• Teori Resistensi Rendah (Low Resistance): Setelah sedikit diteliti, dapat berkembang menjadi logika “Otak Galaksi” yang sangat konyol.

• Teori Resistensi Tinggi (High Resistance): Tidak peduli seberapa dalam Anda menganalisisnya, itu tetap sama, sangat sulit untuk berkembang menjadi logika yang konyol.

Misalnya Vitalik mengatakan, hukum dalam masyarakat idealnya harus memiliki garis merah: hanya ketika dapat dijelaskan dengan jelas bagaimana suatu tindakan dapat menyebabkan kerugian atau risiko bagi korban tertentu, maka tindakan tersebut dapat dilarang. Standar ini sangat tahan terhadap Galaxy Brain, karena tidak menerima alasan yang “saya secara subjektif tidak suka” atau “tidak bermoral” yang dapat diperluas atau samar.

3、Vitalik juga memberikan banyak contoh dalam artikelnya, bahkan menggunakan teori yang sering kita dengar sebagai contoh, seperti “long-termism” dan “inevitabilism”.

“Prinsip jangka panjang” sulit untuk melawan pengaruh pemikiran Galaxy Brain karena ketahanannya yang sangat rendah, seperti “cek kosong”. Karena “masa depan” terlalu jauh dan terlalu samar.

• Pernyataan tahan tinggi: “Pohon ini dapat tumbuh setinggi 5 meter setelah 10 tahun.” Ini dapat diverifikasi, tidak mudah untuk dibohongi.

• Ketahanan rendah “prinsip jangka panjang”: “Meskipun saya sekarang akan melakukan sesuatu yang sangat tidak etis (seperti menghapus sebagian orang, atau memulai perang), tetapi ini demi kehidupan utopis umat manusia 500 tahun ke depan. Setelah perhitungan saya, total kebahagiaan di masa depan adalah tak terhingga, jadi pengorbanan saat ini tidak berarti apa-apa.”

Kamu lihat, selama kamu memperpanjang waktu cukup lama, kamu bisa membenarkan segala tindakan jahat saat ini. Seperti yang dikatakan Vitalik: “Jika argumenmu bisa membuktikan bahwa segala sesuatu adalah sah, maka argumenmu tidak membuktikan apa-apa.”

Namun Vitalik juga mengakui bahwa “jangka panjang itu penting”, dia mengkritik “menggunakan keuntungan masa depan yang terlalu kabur dan tidak dapat diverifikasi, untuk menutupi kerugian yang jelas saat ini.”

Daerah bencana lainnya adalah “Inevitabilism”.

Ini juga merupakan seni bela diri yang paling disukai oleh Silicon Valley dan kalangan teknologi.

Skripnya seperti ini: “AI menggantikan pekerjaan manusia adalah suatu keharusan dalam sejarah, bahkan jika saya tidak melakukannya, orang lain akan melakukannya. Jadi saya sekarang secara radikal mengembangkan AI bukan untuk mencari uang, tetapi untuk mengikuti arus sejarah.”

Di mana ketahanannya rendah? Itu sepenuhnya menghapus rasa tanggung jawab manusia. Karena itu “pasti”, maka saya tidak perlu bertanggung jawab atas kerusakan yang saya buat.

Ini juga merupakan contoh tipikal dari otak galaksi: mengemas keinginan pribadi “Saya ingin menghasilkan uang / Saya ingin berkuasa” menjadi “Saya sedang menjalankan tugas sejarah.”

4、Lalu, bagaimana kita harus menghadapi “perangkap orang-orang pintar” ini?

Obat yang diberikan Vitalik sangat sederhana dan bahkan terasa “bodoh”. Dia percaya bahwa semakin pintar seseorang, semakin mereka membutuhkan aturan yang ketat untuk mengendalikan diri mereka, agar tidak terjebak dalam akrobatik mental.

Pertama, berpegang pada “Etika Deontologi”, yaitu hukum moral tingkat taman kanak-kanak.

Jangan menghitung soal matematika yang rumit tentang “untuk masa depan umat manusia”, kembalilah ke prinsip yang paling kaku:

• Jangan mencuri

• Jangan bunuh orang yang tidak bersalah

• Jangan menipu

• Hormati kebebasan orang lain

Aturan-aturan ini sangat ketat. Karena mereka hitam-putih, tidak ada ruang untuk negosiasi. Ketika kamu mencoba menjelaskan mengapa kamu mengambil dana pengguna dengan argumen besar tentang “prinsip jangka panjang”, aturan kaku “jangan mencuri” akan langsung menghantammu: mencuri ya mencuri, jangan berdalih demi revolusi keuangan yang besar.

Kedua, memiliki “posisi” yang tepat, bahkan termasuk lokasi fisik.

Pepatah mengatakan bahwa bokong menentukan kepala. Jika Anda setiap hari bergaul di ruang gema di Bay Area San Francisco, dikelilingi oleh orang-orang yang menganut akselerasi AI, Anda akan sulit untuk tetap sadar. Vitalik bahkan memberikan saran dengan ketahanan tinggi di tingkat fisik: jangan tinggal di Bay Area San Francisco.

5. Ringkasan

Artikel Vitalik ini sebenarnya adalah peringatan bagi para elit yang sangat cerdas: jangan karena IQ Anda tinggi, lalu merasa bisa melewati batas moral yang sederhana.

Teori “otak galaksi” yang terdengar bisa menjelaskan segalanya sering kali adalah alasan serba bisa yang paling berbahaya. Sebaliknya, aturan “resistensi tinggi” yang terdengar kaku dan dogmatis adalah garis pertahanan terakhir yang mencegah kita menipu diri sendiri.