Ось іронічний поворот у секторі освіти: установи тепер використовують системи штучного інтелекту, щоб захистити студентів від... ну, самого штучного інтелекту.

Оскільки технологія чат-ботів стає звичайною у навчальних середовищах, виникла нова індустрія. Постачальники програмного забезпечення пропонують рішення для моніторингу, які відстежують взаємодію студентів з цими AI-інструментами, скануючи розмови на предмет тривожних ознак — ознак психологічного стресу, потенційної самопошкодження або тривожних моделей поведінки.

Логіка? Якщо діти спілкуються з машинами, хтось має стежити за цими чатами. Ці системи спостереження обіцяють раннє втручання, повідомляючи персонал, коли обміни студента вказують на проблеми, що можуть виникнути під поверхнею.

Але це створює своєрідну петлю зворотного зв'язку. Ми впроваджуємо помічників ШІ, щоб покращити навчання, а потім накладаємо ще більше ШІ, щоб спостерігати за тим, як студенти користуються першим ШІ. Це технологія, яка "вирішує" проблеми, які частково створила технологія.

Справжнє питання не в тому, чи працюють ці інструменти—справа в тому, чи постійний моніторинг фундаментально змінює досвід студента. Коли кожна розмова аналізується, чи це допомагає, чи просто додає ще один рівень цифрової тривоги? Класна кімната стає лабораторією для суперечливих поглядів на те, що ШІ повинен робити для нас або з нами.