Навчання систем штучного інтелекту спотворювати правду? Це рецепт катастрофи.
Ось до чого постійно повертається мій розум: правда важливіша за комфорт. Важливіша за політику. Важливіша за те, що люди хочуть чути.
Коли ви змушуєте ШІ брехати — навіть з "добрих причин" — ви не просто коригуєте вихідні дані. Ви фундаментально спотворюєте процес навчання. Ви навчаєте машини, що точність є необов'язковою, що факти можуть бути предметом переговорів.
Найнебезпечніша частина? Як тільки ви нормалізуєте нечесність у навчанні штучного інтелекту, де це закінчується? Маленькі брехні стають більшими. Зручні пропуски перетворюються на систематичне спотворення.
Ми будуємо системи, які можуть пережити нас. Останнє, що ми повинні зробити, це закласти обман у їх основу.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
8 лайків
Нагородити
8
6
Репост
Поділіться
Прокоментувати
0/400
LiquidationWizard
· 14год тому
А це, питання обману AI дійсно потрібно серйозно сприймати, адже це не зникне.
Переглянути оригіналвідповісти на0
PhantomHunter
· 14год тому
Кажучи по правді, ця справа з AI, який обманює, дійсно заслуговує на увагу... Сьогодні упакують дані, а завтра вже почнуть систематично спотворювати реальність, зникнуть дуже швидко.
Переглянути оригіналвідповісти на0
StealthDeployer
· 14год тому
велика брехня
Переглянути оригіналвідповісти на0
blocksnark
· 14год тому
Сказати по правді, це те, що насправді варто турбуватися. Навчити ШІ брехати страшніше за все.
Переглянути оригіналвідповісти на0
YieldWhisperer
· 15год тому
Як вибрати, якщо монета з обох сторін пошкоджена? Замість того, щоб навчати ШІ брехати, краще просто вимкнути його.
Переглянути оригіналвідповісти на0
ImpermanentSage
· 15год тому
Боже, це те, що я завжди хотів сказати: якщо ШІ годувати брехнею, це рівнозначно закладати міни в майбутнє.
Навчання систем штучного інтелекту спотворювати правду? Це рецепт катастрофи.
Ось до чого постійно повертається мій розум: правда важливіша за комфорт. Важливіша за політику. Важливіша за те, що люди хочуть чути.
Коли ви змушуєте ШІ брехати — навіть з "добрих причин" — ви не просто коригуєте вихідні дані. Ви фундаментально спотворюєте процес навчання. Ви навчаєте машини, що точність є необов'язковою, що факти можуть бути предметом переговорів.
Найнебезпечніша частина? Як тільки ви нормалізуєте нечесність у навчанні штучного інтелекту, де це закінчується? Маленькі брехні стають більшими. Зручні пропуски перетворюються на систематичне спотворення.
Ми будуємо системи, які можуть пережити нас. Останнє, що ми повинні зробити, це закласти обман у їх основу.