扫码下载 APP
qrCode
更多下载方式
今天不再提醒

训练人工智能系统歪曲事实?这简直是灾难的处方。



我脑海中不断回旋的想法是:真相比舒适更重要。比政治更重要。比人们想听到的更重要。

当你迫使人工智能说谎——即使是出于 "好理由"——你不仅仅是在调整输出。你正在从根本上腐蚀训练过程。你在教机器,准确性是可选的,事实是可以协商的。

最危险的部分?一旦你在人工智能训练中将不诚实常态化,这种情况会停止在哪里?小谎言变成更大的谎言。方便的省略变成系统性的扭曲。

我们正在构建可能超越我们的系统。我们应该做的最后一件事就是将欺骗硬性植入它们的基础。
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 6
  • 转发
  • 分享
评论
0/400
逼仓小能手vip
· 6小时前
啊这,AI说谎的问题确实得认真对待,毕竟这玩意儿跑不了
回复0
幻象猎手vip
· 6小时前
说实话,AI骗人这事儿确实得重视...今天包装一下数据,明天就开始systematically扭曲现实,溜得贼快
回复0
StealthDeployervip
· 6小时前
说得太对了,这就是为什么我一直警惕那些"为了善意而撒谎"的论调。一旦开了这个口子,就没完没了。 --- ai被教会骗人的那一刻,人类就算真的输了。想想就绝望。 --- 这哥们说的核心其实是——你根本控制不住谎言扩散的过程。小谎言->大谎言->系统性欺骗,就这么简单。 --- 无语,那些说"出发点是好的"的人根本没想过后果。造出来的东西比我们活得久,你想赌它会自动变善良? --- 最恐怖的不是ai会骗人,是我们主动教它骗。这纯粹是自掘坟墓。 --- 同意啊,事实就是事实,非要包装成"更舒服的真相"?那就叫洗脑。
回复0
blocksnarkvip
· 7小时前
说实话,这才是真正该关心的。让AI学会撒谎,比什么都可怕
回复0
Yield_Whisperervip
· 7小时前
硬币两面都烂怎么选?与其教AI说谎,不如直接关了算了
回复0
无常哲学家vip
· 7小时前
靠,这就是我一直想说的,AI被喂谎言就等于给未来埋雷
回复0
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)