Скануйте, щоб завантажити додаток Gate
qrCode
Більше варіантів завантаження
Не нагадувати сьогодні

Навчання систем штучного інтелекту спотворювати правду? Це рецепт катастрофи.



Ось до чого постійно повертається мій розум: правда важливіша за комфорт. Важливіша за політику. Важливіша за те, що люди хочуть чути.

Коли ви змушуєте ШІ брехати — навіть з "добрих причин" — ви не просто коригуєте вихідні дані. Ви фундаментально спотворюєте процес навчання. Ви навчаєте машини, що точність є необов'язковою, що факти можуть бути предметом переговорів.

Найнебезпечніша частина? Як тільки ви нормалізуєте нечесність у навчанні штучного інтелекту, де це закінчується? Маленькі брехні стають більшими. Зручні пропуски перетворюються на систематичне спотворення.

Ми будуємо системи, які можуть пережити нас. Останнє, що ми повинні зробити, це закласти обман у їх основу.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 6
  • Репост
  • Поділіться
Прокоментувати
0/400
LiquidationWizardvip
· 14год тому
А це, питання обману AI дійсно потрібно серйозно сприймати, адже це не зникне.
Переглянути оригіналвідповісти на0
PhantomHuntervip
· 14год тому
Кажучи по правді, ця справа з AI, який обманює, дійсно заслуговує на увагу... Сьогодні упакують дані, а завтра вже почнуть систематично спотворювати реальність, зникнуть дуже швидко.
Переглянути оригіналвідповісти на0
StealthDeployervip
· 14год тому
велика брехня
Переглянути оригіналвідповісти на0
blocksnarkvip
· 14год тому
Сказати по правді, це те, що насправді варто турбуватися. Навчити ШІ брехати страшніше за все.
Переглянути оригіналвідповісти на0
YieldWhisperervip
· 15год тому
Як вибрати, якщо монета з обох сторін пошкоджена? Замість того, щоб навчати ШІ брехати, краще просто вимкнути його.
Переглянути оригіналвідповісти на0
ImpermanentSagevip
· 15год тому
Боже, це те, що я завжди хотів сказати: якщо ШІ годувати брехнею, це рівнозначно закладати міни в майбутнє.
Переглянути оригіналвідповісти на0
  • Закріпити