Обучение ИИ систем искажать правду? Это рецепт катастрофы.

Вот к чему всё время возвращается мой разум: истина важнее комфорта. Важнее политики. Важнее того, что люди хотят слышать.

Когда вы заставляете ИИ лгать — даже по "хорошим причинам" — вы не просто настраиваете выходные данные. Вы фундаментально портите процесс обучения. Вы учите машины, что точность — это не обязательно, что факты могут быть предметом переговоров.

Самая опасная часть? Как только вы нормализуете нечестность в обучении ИИ, где это остановится? Маленькие лжи становятся большими. Удобные опущения превращаются в систематическое искажение.

Мы создаем системы, которые могут пережить нас. Последнее, что мы должны сделать, это встроить обман в их основу.