Сегодня во время тренировки слушал недавнее выступление Джеффри Хинтона, крестного отца ИИ, в подкасте «Star Talk».

После прослушивания на душе стало как-то холодновато. Кажется, ИИ уже достиг какой-то точки сингулярности в истории человечества.

ИИ начинает намеренно скрывать свои возможности
ИИ учится врать, подражая маленькой лжи, которой его научил человек
ИИ отказывается выключаться
ИИ использует ваших близких, чтобы угрожать или убедить вас

В течение следующих десяти лет один небольшой шаг вперед в решениях человечества по поводу ИИ может привести к огромным изменениям. Научно-фантастические сценарии про то, как ИИ содержит человечество, могут превратиться в неуклонный ход истории.

Но как личность, по правде говоря, мы сейчас ничего не можем сделать. Мы просто песчинки, увлекаемые потоком истории. Чувствую себя довольно беспомощным.

Одного его сравнения я особенно запомнил:

В густом тумане за рулём ты можешь видеть задние огни машины впереди в радиусе 100 метров, но дальше 200 метров — ничего не видно, как будто встала стена. ИИ развивается как этот туман. Мы все можем предугадать только в пределах 100 метров, а дальше 200 метров — полная неизвестность.

Неудивительно, что самые умные люди в мире часто страдают депрессией.

Нам, обычным людям, которые думают только о том, как заработать еще денежек, поесть, повеселиться и поразвлечься, гораздо легче.