Ось іронічний поворот, який ніхто не очікував: школи тепер впроваджують системи штучного інтелекту для захисту учнів від... власне, штучного інтелекту.

Зі швидким напливом технології чатботів у класах з'явилася майже миттєва нова індустрія. Компанії з розробки програмного забезпечення змагаються у продажу систем моніторингу, які у реальному часі сканують розмови учнів у пошуках ознак тривоги — ознак психологічного напруження, потенційної шкоди або небезпечного контенту.

Загалом, ця ідея звучить цілком логічно. Діти спілкуються з асистентами штучного інтелекту для допомоги з домашніми завданнями, досліджень або просто для розмови. Але що трапиться, коли ці розмови набудуть темного відтінку? Що, якщо учень зізнається щось тривожне машині, яка не зобов'язана повідомляти про це?

Саме тут вступають у гру ці засоби спостереження. Вони обіцяють виявити сигнали тривоги до того, як настане криза. Однак критики вже піднімають незручні питання. Скільки моніторингу є надмірним? Де проходить межа між захистом і вторгненням у приватне життя?

Ми створили штучний інтелект для навчання наших дітей, а потім побудували ще один штучний інтелект, щоб стежити за першим. Цикл зворотного зв'язку викликає запаморочення. І ми лише на початку розуміння того, що це означає для цілого покоління, яке зростає під алгоритмічним наглядом.