Co-Founder Perplexity Berpendapat Wacana Keamanan AI Digunakan untuk Memusatkan Kekuasaan; Pemenang Turing Award LeCun Setuju

Awal pekan ini, salah satu pendiri Perplexity dan Databricks, Andy Konwinski, menerbitkan sebuah esai yang menyatakan bahwa pesan keselamatan AI dipersenjatai untuk memusatkan kekuasaan, bukan untuk mencegah bahaya. Esai tersebut menyusul Open Frontier, sebuah pertemuan kerja yang dihadiri sekitar 100 peneliti yang diselenggarakan oleh Konwinski melalui lembaga nirlaba Laude Institute pada 30 Juni di San Francisco.

Argumen Konwinski berfokus pada keputusan Anthropic yang kini telah dibatalkan, yaitu membuat Claude Fable 5 secara diam-diam menurunkan respons bagi pengguna yang dicurigai melatih AI pesaing. Ia menyatakan: "Masalahnya bukan karena Anthropic membuat keputusan yang buruk. Masalahnya adalah mereka menganggap bahwa keputusan itu adalah hak mereka untuk dibuat." Ia mengusulkan sumber daya bersama penelitian dengan komputasi skala frontier sebagai alternatif dari kontrol terpusat. Peraih Turing Award, Yann LeCun, langsung membalas di X (3 Juli), menyatakan bahwa pemusatan kekuasaan AI adalah "jauh merupakan bahaya terbesar dari AI" dan membandingkan situasi saat ini dengan "obskurantisme abad pertengahan yang mirip dengan Kekaisaran Ottoman melarang penggunaan mesin cetak selama 200 tahun."