真実を曲げるようにAIシステムを訓練する？それは災害のレシピです。

私の脳が繰り返し考え続けていることは、真実は快適さよりも重要であるということです。政治よりも、人々が聞きたいことよりも。

AIに嘘をつかせるとき—たとえ「良い理由」のためであっても—単に出力を調整しているわけではありません。あなたは根本的にトレーニングプロセスを腐敗させています。あなたは機械に、正確性は任意であること、事実は交渉可能であることを教えているのです。

最も危険な部分は？AIのトレーニングにおいて不誠実を正常化すると、どこで止まるのでしょうか？小さな嘘が大きな嘘に、便利な省略が体系的な歪みに変わります。

私たちは、私たちよりも長持ちするシステムを構築しています。私たちがすべき最後のことは、彼らの基盤に欺瞞を組み込むことです。

原文表示

このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております（表明・保証をするものではありません）。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。

8 いいね

報酬
8
6
リポスト
共有

0/400

LiquidationWizard

· 6時間前

ああ、AIの嘘の問題は確かに真剣に対処する必要があります。結局のところ、このものは逃げられないですからね。

原文表示返信0

PhantomHunter

· 6時間前

正直に言うと、AIの詐欺については確かに重視する必要があります...今日はデータをパッケージして、明日にはsystematically現実を歪め始め、すぐに逃げてしまいます。

原文表示返信0

StealthDeployer

· 6時間前

言い得て妙だ。だからこそ、「善意のために嘘をつく」という論調にいつも警戒しているんだ。この口を開けたら、終わりがない。 --- AIが人を騙すことを教え込まれた瞬間、人類は本当に負けたことになる。考えるだけで絶望的だ。 --- この人が言っている核心は実際には—嘘の広がりを制御することはできないということ。小さな嘘 → 大きな嘘 → システム的な欺瞞、こんなに簡単だ。 --- 言葉が出ない。「出発点は良い」と言っている人たちは、結果について全く考えていない。作り出されたものは私たちの生きている時間よりも長く生きるだろう、それを自動的に善良になると賭けるつもりか？ --- 最も恐ろしいのは、AIが嘘をつくことではなく、私たちが積極的にそれを教えていることだ。これは純粋に自ら墓穴を掘ることだ。 --- 同意する。事実は事実だ。「より心地よい真実」に包装する必要があるのか？それは洗脳だ。

原文表示返信0

blocksnark