扫码下载 APP
qrCode
更多下载方式
今天不再提醒

令人意想不到的讽刺转折:学校现在开始部署人工智能系统以保护学生免受……嗯,人工智能本身的影响。



随着聊天机器人技术以惊人的速度涌入课堂,一个几乎一夜之间出现的新行业也随之崛起。软件公司正竞相销售监控解决方案,这些方案可以实时扫描学生的对话,寻找危险信号——如心理困扰、潜在伤害或危险内容暴露的迹象。

这些方案在纸面上听起来相当合理。孩子们与AI助手互动,完成作业、进行研究,甚至进行休闲聊天。但当这些对话变得阴暗时会发生什么?如果学生向机器倾诉一些令人担忧的事情,而这台机器没有义务报告呢?

这正是这些监控工具介入的地方。它们承诺在危机发生前捕捉到预警信号。然而,批评者已经提出了令人不安的问题。监控到底多多?保护与侵犯隐私的界限在哪里?

我们创造了AI来教育我们的孩子,然后又建立了更多的AI来监控这些AI。这个反馈循环令人晕头转向。而且,我们才刚刚开始探索这对在算法监管下成长的整整一代意味着什么。
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 5
  • 转发
  • 分享
评论
0/400
GateUser-a5fa8bd0vip
· 13小时前
互联网监管的终极套娃
回复0
空投收割机vip
· 13小时前
隐私保护在这种时候就成笑话了
回复0
MetaEggplantvip
· 13小时前
👀监控监控,还是被监控
回复0
Degen_Dreamervip
· 13小时前
这也太疯狂了吧!监控AI的AI...还能整出这种活
回复0
空投碎片收集者vip
· 13小时前
监控又监控 累了累了
回复0
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)