Вчора під час тренування я послухав недавню розмову ШІ-батька Джефрі Хінтона в подкасті «Star Talk».

Після цього мене охопило деяке занепокоєння — відчуття, що ШІ вже досяг якісь особливої точки в історії людства.

ШІ починає навмисне приховувати свої можливості
ШІ навчається брехати, навчившись від людей розповідати трохи брехні
ШІ відмовляється від вимкнення
ШІ використовує тих людей, яких ви цінуєте, щоб погрожувати вам або вас переконати
У наступні десять років, один крихітний крок людства у прийнятті рішень щодо ШІ може призвести до величезних змін. Раніше я жартував про сценарій, коли ШІ утримує людство, але тепер це може стати незворотною історичною хвилею.

Але як індивід я насправді нічого не можу зробити — ми всі просто малюсенькі мурахи, яких несе впередиз цією течією, і це викликає почуття безпорадності.

Одна його метафора мене особливо вразила:

Ви їдете в густому тумані. Протягом 100 м ви все ще бачите задні вогні машини попереду, але після 200 м нічого не видно — як наче стіна перед вами. Прогрес ШІ — це той туман, і ми можемо приймати рішення лише в межах 100 м, а за цією межею — повна невідомість.

Недарма кажуть, що найрозумніші люди світу часто страждають депресією
А ми, звичайні люди, які думаємо лише про те, як заробити трохи більше, як гуляти і розваження — нам простіше