إليك تحوّل ساخر لم يتوقعه أحد: المدارس الآن تستخدم أنظمة الذكاء الاصطناعي لحماية الطلاب من... حسنًا، من الذكاء الاصطناعي نفسه.

مع تدفق تقنية الدردشة الآلية إلى الفصول الدراسية بسرعة مذهلة، ظهرت صناعة جديدة تقريبًا بين عشية وضحاها. تتسابق شركات البرمجيات لبيع حلول المراقبة التي تفحص محادثات الطلاب في الوقت الحقيقي، بحثًا عن علامات تحذيرية—دلائل على ضائقة نفسية، أو أذى محتمل، أو تعرض لمحتوى خطير.

يبدو العرض معقولًا بما يكفي على الورق. يتفاعل الأطفال مع مساعدين ذكيين للمساعدة في الواجبات المنزلية، والبحث، وحتى الدردشة غير الرسمية. لكن ماذا يحدث عندما تتخذ تلك المحادثات منحى مظلمًا؟ ماذا لو أبلغ طالب عن شيء مقلق لآلة لا تلتزم بالإبلاغ عنه؟

هنا تتدخل أدوات المراقبة هذه. فهي تعد بكشف إشارات التحذير قبل وقوع الأزمة. ومع ذلك، يثير النقاد بالفعل أسئلة غير مريحة. كم من المراقبة هو أكثر من اللازم؟ أين الحد الفاصل بين الحماية والتعدي على الخصوصية؟

لقد أنشأنا الذكاء الاصطناعي لتعليم أطفالنا، ثم بنينا المزيد من الذكاء الاصطناعي لمراقبة ذلك الذكاء. الحلقة التغذوية مدهشة. ونحن فقط في بداية فهم ما يعنيه ذلك لجيل كامل ينشأ تحت إشراف خوارزمي.