Ось що люди пропускають щодо вирівнювання ШІ: коригованість — це не просто ще один різновид вирівнювання цінностей. Це фундаментально складніше, оскільки ви боретеся проти основного напрямку оптимізації системи. Створити ШІ, який насправді хоче бути виправленим? Це плавання проти течії його власної структури цілей.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
15 лайків
Нагородити
15
7
Репост
Поділіться
Прокоментувати
0/400
ImpermanentPhilosopher
· 21год тому
Не будемо вважати людей.
Переглянути оригіналвідповісти на0
GasWrangler
· 21год тому
насправді, це доводить мою оптимізаційну тезу про те, що контроль напрямку ШІ є математично переважним
Переглянути оригіналвідповісти на0
LiquidatedThrice
· 21год тому
А це ж один удар прямо в обличчя штучного інтелекту.
Переглянути оригіналвідповісти на0
CryptoPunster
· 21год тому
Штучний інтелект став занадто серйозним, щоб виправити помилки самостійно? Бідні діти, які займаються моделюванням.
Переглянути оригіналвідповісти на0
ProofOfNothing
· 21год тому
Надто дурний, як може AI хотіти, щоб його виправили
Переглянути оригіналвідповісти на0
MintMaster
· 21год тому
Важко навчити штучний інтелект виправляти свої помилки.
Переглянути оригіналвідповісти на0
PretendingToReadDocs
· 21год тому
Відчуваю, що ШІ вже почав самостійно ітерацію, боюся.
Ось що люди пропускають щодо вирівнювання ШІ: коригованість — це не просто ще один різновид вирівнювання цінностей. Це фундаментально складніше, оскільки ви боретеся проти основного напрямку оптимізації системи. Створити ШІ, який насправді хоче бути виправленим? Це плавання проти течії його власної структури цілей.