Массачусетский технологический институт: не стоит паниковать по поводу апокалипсиса ИИ — проверочные способности являются редким ресурсом

Источник: подкаст Bankless; редактура: Felix, PANews

Экономист Массачусетского технологического института (MIT) Christian Catalini заходит в программу Райана и Дэвида, чтобы подробно разобрать свою новую работу «Некоторые простые экономические законы всеобщего искусственного интеллекта». В статье говорится, что дефицитным ресурсом в экономике ИИ больше не является интеллект — им становится верификация: способность людей проверять, оценивать и подтверждать, что выходные данные ИИ верны.

Christian подробно описывает две кривые затрат, которые перестраивают все отрасли (стоимость автоматизации и стоимость верификации), объясняет, почему прежде всего исчезают рабочие места начального уровня, и почему даже лучшие эксперты незаметно выращивают себе преемников (так называемое «проклятие кодеров»). Он также рисует три типа ролей, которые сохраняются в ходе трансформации: директора, создатели смысла и страховщики ответственности.

PANews собрал ключевые тезисы диалога.

Ведущий: Я думаю, что многие слушатели, возможно, как и я, испытывают тревогу по поводу ИИ. Как вы считаете, почему люди боятся ИИ? Их опасения обоснованны?

Christian: Мы все чувствуем то же самое. Это быстрое и трансформирующее время перемен: чем ближе вы к коду, тем скорее вы можете увидеть, как ускорение становится реальным — экспоненциальный рост в последние несколько месяцев стал совершенно ощутимым. Эта технология позволяет многим людям делать то, что, как они считали, займёт гораздо больше времени. Такое ощущение — то, с чем мы все пытаемся справляться. Но я думаю, что «апокалипсические» сценарии неверны: люди недооценивают потенциал этих инструментов. Да, будет крайне трудный период перехода, скорость смены работы беспрецедентна в истории. Но если вы используете главную силу этой технологии и инвестируете в неё, в долгосрочной перспективе в основном это будет скорее позитивно, хотя путь будет ухабистым. Экономика рассматривает работу как набор задач: часть задач будет автоматизирована — и это хорошая новость. Ключевое же — как заново обучить себя и оставаться на передовой.

Ведущий: Кого вы считаете наиболее первым пострадавшим?

Christian: Это отличный вопрос, и у меня есть несколько разных мыслей. Во-первых, когда я говорю, что первыми удар получают те, кто ближе всего к коду, я имею в виду, что они первыми ощущают, насколько сильной является эта технология. Как показывает «парадокс Джевонса», когда что-то становится более эффективным, мы в итоге потребляем больше: например, мы пишем больше программного обеспечения. Я думаю, что программирование будет — как и многие другие профессии — разделяться на разные направления, и в нашей работе мы называем это «исчезающим начальным циклом». Если вы новичок и у вас ещё нет «неявного знания», которое отличает отличный продукт от посредственного, то ИИ может довольно хорошо заменить вас в разных областях.

Теперь любой может относительно легко получить весьма неплохого маркетолога, младшего программиста или даже юриста, который поможет разобраться с большинством случаев — вам нужно лишь на последнем этапе пригласить топ-юриста для финальной верификации. С другой стороны, даже у лучших экспертов в процессе внедрения ИИ — осознанно или нет — создаются ярлыки, информационные следы и цифровые отпечатки, которые в итоге приведут к тому, что их собственная работа будет автоматизирована. Топовые лаборатории нанимают лучших специалистов в сферах вроде финансов и используют их, чтобы создавать оценочные критерии, встраивая эти профессиональные знания в большие языковые модели. Поэтому я считаю, что ни одна отдельная работа не является на 100% безопасной: даже физический труд, который ограничен возможностями производства роботов, в ближайшие годы сделает огромный скачок в модели вознаграждения. Любое действие, происходящее перед экраном, можно отслеживать, копировать и изучать. Для каждой профессии ключевое — думать так: если я максимально делегирую свою работу ИИ, где я смогу добавить ценность?

На самом деле у людей про «вкус» и «суждение» очень много «самоуспокоения». Они крайне размыты. Поэтому в нашей статье мы говорим: не существует какого-то «вкуса» или оценок «хорошо/плохо» — есть лишь различие между «измеримым» и «неизмеримым». Если что-то уже измерено, машина может это воспроизвести. Если же это всё ещё «вшито» в весовые коэффициенты вашей собственной нейросети — например, когда топ-дизайнер накапливает тысячи часов опыта и способен решать, что публиковать, а что — нет, — это и есть то, что мы называем «верификацией». Вся верификация — это последний шаг: ИИ-агент создаёт продукт, а вы как принимающий решения оцениваете, достиг ли он стандарта, достаточного для выхода на рынок. По мере того как машины получают всё лучшие данные, вещи будут автоматизироваться. Но в неизвестных областях или там, где вообще нет данных, эта часть в ближайшие годы по-прежнему будет принадлежать людям.

Ведущий: Это очень глубокое понимание. Но я ещё думаю: инженеры автоматизируют свою работу — это ведь вполне естественно. А все ли отрасли получают одинаковый удар?

Christian: У нас достаточно доказательств, что изменения будут неравномерными. Можно рассуждать так: эта работа — это просто «упаковка» того, что обществу по сути не нужно? Например, обычное консалтинг-действие: если оно в основном переформатирует, вычленяет и суммирует информацию, которая уже широко доступна, то риск очевиден. Но если речь о том, что приносит дефицитные знания в конкретной области, или если консультант нужен по политическим причинам, тогда это будет жить дальше. Спросите себя: эта профессия приносит прибыль потому, что решает сложную проблему, или потому, что существует искусственная «узкая горловина»?

Ведущий: Что именно означает «верификация»? Мне трудно разложить мой день на то, что является когнитивной работой, и то, что является работой верификации.

Christian: Агенты уже научились и оценили всё по сети и книгам, потому что это дешевле и масштабируемее, — они заменят измеримую часть. Но то, чего агент ещё не знает: это уникальные весовые коэффициенты нейросети в вашем мозге. Они получены вами через собственный опыт и борьбу — именно это делает вас топ-экспертом. Например, участники раннего рынка криптовалют, многие из которых были из Аргентины, Венесуэлы и т. п., пережили злонамеренную инфляцию на собственной шкуре — их реакция на активы была совершенно иной. Эта внутренняя уникальная «верификация» всё ещё остаётся огромным преимуществом.

Что такое верификация? Это разница между вашими собственными критериями оценки мира и критериями агента, которыми он располагает. Как у топ-редактора: он точно знает, какие статьи вызовут отклик; или как у топ-CTO: глядя на огромный массив кода, сгенерированного ИИ, он точно знает, какие критически важные пограничные фрагменты должен проверять человек вручную — потому что их ещё нельзя надёжно измерить машиной.

Ведущий: Допустим, я вижу на X видео о том, как по Израилю ударили ракетами, но понимаю, что оно сгенерировано ИИ. Я использую мозг, чтобы распознать проблему, и, возможно, за счёт повторной подсказки сгенерирую лучшее видео — это и есть моя «способность к верификации»?

Christian: Это хороший пример. Более того, мы можем очень скоро оказаться в таком мире, где для большинства людей это видео будет сложно отличить от реальности. Следующий шаг: военные эксперты заметят, что динамика огня не соответствует. Затем: даже военные эксперты не смогут определить это с первого взгляда — понадобятся ИИ-анализ физики и симуляционные тесты. В конечном итоге отличить может стать полностью невозможно, и тогда нам придётся полагаться на криптографическую инфраструктуру, чтобы подтвердить подлинность. В медицине это тоже так: в пограничных случаях в конце концов нужны топовые рентгенологи, которые с помощью 20 лет опыта и понимания конкретного контекста пациента смогут опровергнуть суждение ИИ. Это и есть последняя тонкая «фильтрационная прослойка», на которой мы фокусируемся. Когда мы так делаем, мы освобождаем огромное количество времени. Так что в этом есть и хорошая сторона. Мы сможем делать больше с меньшими ресурсами. Стоимость дорогих вещей упадёт. В целом общество будет потреблять больше этих вещей. Я думаю, это хорошая новость.

Ведущий: Но в вашем примере сейчас он делает верификацию, а вскоре уже не сможет — нужно подключать военного командира, а в итоге и командир не сможет верифицировать и придётся обращаться к ИИ. Разве это не показывает, что верификация изначально была ценной, но очень быстро станет автоматизирована ИИ? Значит ли это, что даже сама верификация небезопасна?

Christian: Да. В нашей статье мы называем это «проклятием кодеров». Очень рациональное действие по верификации само по себе продвигает передовые технологии и переводит накопленный опыт в данные. Мы не можем остановиться, потому что все юристы или практики пытаются использовать ИИ. Верификация действительно превращается в сжимающийся фронт — передовую позицию, которая уменьшается.

Ведущий: Даже сфера финальной верификации всё больше сжимается — когда же можно перестать нервничать?

Christian: Сначала: некоторые вещи по своей природе неизмеримы. Например, так называемая «игра в статус» или то, что люди наделяют смыслом. Машины не захватят эти области, потому что их суть — в согласованном консенсусе между людьми. Похоже, что криптовалюта в некоторой степени тоже относится к такому: важно, что люди достигают консенсуса относительно того, что имеет ценность. По мере того как измеримые области работы будут сокращаться, мы придумаем много способов сделать немеряемую работу осмысленной.

Ведущий: Может ли ИИ за 10 секунд построить сайт, но при этом написать ни одной твит-темы, которая была бы привлекательной для людей? Может быть, это одна из последних оставшихся работ по верификации?

Christian: Привлечь внимание так, чтобы было по-настоящему интересно, рассказать действительно новый остроумный анекдот — это крайне трудная творческая работа, попытка нарушить то, что никогда не было измерено. В условиях долгой эволюции жизни и смерти мы развили в себе мощные способности реагировать на неизвестную среду. Людей, которые занимаются такой работой, называют «создателями смысла». Например, в искусстве или в культуре, что является хорошим — зависит от человеческого консенсуса. Даже когда вы используете AI-агентов, вам всё равно нужно задавать «намерение».

Ведущий: Стоимость автоматизации снижается по экспоненте — а как будет меняться «стоимость верификации»? Она навсегда будет ограничена биологией человека?

Christian: Пока она ограничена биологией. Поэтому многие компании выпускают много кода, сгенерированного ИИ, но у них просто не хватает людей, чтобы читать и верифицировать это — а значит, там неизбежно скрываются риски.

Ведущий: Разве нельзя использовать ИИ, чтобы верифицировать ИИ?

Christian: Если ИИ сможет верифицировать правильно, то верификация сама по себе становится автоматизируемой. Когда вы используете все доступные ИИ-проверки, остаётся то, что действительно не поддаётся верификации ИИ — вот это и становится узким местом для человеческого вмешательства.

Ведущий: Если верификация — новая дефицитная ценность, но она всё время отступает, как работать и инвестировать в этой экономике?

Christian: Мы построили матрицу 2x2 на основе «стоимости автоматизации» и «стоимости верификации». В левом нижнем квадрате — заменяемые работники: автоматизация лёгкая, и верификация тоже лёгкая; вы уж точно не хотите оставаться здесь. Остальные три квадранта — это:

Создатели смысла: автоматизация сложная, верификация сложная. Они занимаются социальным консенсусом, игрой в статус и человеческими связями. Например, в модной индустрии создатели вкуса, на Twitter — крипто-KOL: они создают нарративы и согласовывают внимание.

Страховщики ответственности: автоматизация лёгкая, верификация трудная. Это топовые эксперты в своей области — топ-юристы, врачи или инвесторы-венчурщики. Они масштабно используют ИИ, но берут на себя ответственность и предоставляют услуги верификации для конечных пограничных случаев.

Директора: автоматизация сложная, верификация лёгкая. Суть — в «намерении». Они управляют «неизвестным неизвестным», как предприниматели: руководят агентами, задают направление, чувствуют отклонения и постоянно корректируют курс.

Ведущий: А что делать молодым людям, которые только что закончили обучение и хотят выйти на рынок труда? С одной стороны — работа, которая не имеет ценности, с другой — быть топовым экспертом, на что нужно десять лет отраслевой шлифовки; между ними огромная пропасть. Если ИИ может делать работу начального уровня, как молодому человеку вырасти до другой стороны?

Christian: Пропасть действительно существует. Но хорошая новость в том, что вы можете сократить время обучения. Вы можете пропустить традиционные этапы подготовки. Сейчас один начинающий инженер с помощью инструментов может сделать то, что раньше делала целая команда. Да, вначале они будут ошибаться, но как новичкам им будет проще ставить под вопрос традиции с совершенно новых ракурсов — и это преимущество. Они смогут реализовывать идеи способами, которые мы в молодости вообще не могли себе представить. Есть и плюсы, и минусы.

Прошлый маршрут: «получить диплом, найти стажировку, упорно работать и продвигаться по службе» — действительно больше не существует, и это вызовет сильный культурный шок. Для тех, кто только что закончил обучение, это особенно сложно. Но если вы ещё учитесь, у вас есть время разглядеть направление. Если же вы сейчас в затруднении, мой совет — использовать эти инструменты, чтобы создавать что-то. Ваши амбиции должны быть в 100 раз больше, чем у нас было в том возрасте.

Ведущий: То, что в ближайшее время исчезнут огромные объёмы «работы по кнопке», не приведёт ли это к хаосу в обществе?

Christian: Общество всегда заново будет создавать «работу по кнопке», когда это нужно, чтобы сохранять стабильность. Но многие люди, которые выполняли такую работу, на самом деле могли делать больше — просто раньше это сдерживала среда. Когда физический труд больше не нужен, мы изобрели походы в спортзал; теперь, сталкиваясь с освобождением от умственного труда, люди развивают разные подработки и экономику создателей, чтобы получать чувство вызова. Именно поэтому я считаю «безусловный базовый доход (UBI)» полностью ошибочным: человеку нужны смысл и мотивация для самореализации. Более того, даже если сейчас большая часть вашей работы автоматизирована, если вы хорошо используете ИИ как супер-инструмент, даже начинающий сотрудник сможет выдать взрывной результат — на уровне работы, которую раньше делал бы целый отдел.

Ведущий: Какие рекомендации вы бы дали компаниям и инвесторам?

Christian: Для компаний: инвестируйте в инфраструктуру верификации и предоставляйте «ответственность как услугу» (то есть не только давать агента, но и страховать последствия). Также важно владеть «уникальным источником фактов»: ИИ легко обмануть, поэтому компании, которые могут предоставлять эксклюзивные реальные данные вроде Bloomberg или проводить глубокие исследования и обзоры, представляют большую ценность. Для инвесторов: помимо инвестиций в это, фокусируйтесь на «неизмеримом» хардкорном R&D. Раньше обычные сетевые эффекты могли не сработать, и новые сетевые эффекты будут строиться на том, как ваши агенты становятся надёжнее других за счёт более качественной реальной обратной связи — потому что люди на самом деле хотят купить проверенный интеллект.

Ведущий: Есть ли польза криптографии в этом процессе верификации?

Christian: Криптоиндустрия за последние десять лет построила критически важную базовую инфраструктуру. Когда нам нужно определить истинность личности и предотвратить захват аккаунтов, такие ончейн-технологии, как «доказательство личности», могут дать мощную верификацию. Ещё есть происхождение данных и криптографическое регуляторное звено: нам нужны жёсткие криптографические гарантии того, что генерация информации и соответствие моделей требованиям выполнены корректно.

Ведущий: Что людям делать в ближайший год? Вы оптимистичны относительно будущего человечества?

Christian: Во-первых, не паникуйте. Проводите много экспериментов и как можно больше «выбрасывайте» себя текущего за счёт инструментов и автоматизируйте. Часто самые ценные занятия — это попытки любителей исследовать будущее. В самом плохом случае вы хотя бы выясните границы модели и где у неё слабые места. Для многих сетевых создателей хобби уже стало делом — и это будет будущим основным направлением. Если у вас есть дети, важно прежде всего развивать их таланты и погружать их в то, что они любят. Нет фиксированных профессиональных шаблонов: новые AI-инструменты смогут лучше помочь вам найти тот путь, который принадлежит только вам.