Є новий підхід до Конституційного ШІ, який привернув мою увагу - поєднання його з генерацією синтетичних даних.
Трубопровід розбивається на дві ключові фази:
Першим є дистиляція. Вони запускають DPO з навчальної моделі, яка була навчена втілювати конкретні конституційні принципи. Уявіть це як випікання етичних настанов безпосередньо в процес навчання.
Друга фаза включає... ну, твіт обривається на цьому, але фонд, про який вони говорять, натякає на те, що щось цікаве готується в тому, як ми узгоджуємо системи ШІ з людськими цінностями.
Хтось інший стежить за розвитком конституційних AI фреймворків?
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
25 лайків
Нагородити
25
5
Репост
Поділіться
Прокоментувати
0/400
ThesisInvestor
· 11-08 02:08
Знову створюєте складні й заплутані рамки штучного інтелекту
Переглянути оригіналвідповісти на0
BloodInStreets
· 11-07 07:06
Маленький принц ринку продає свої активи, щоб дозволити штучному інтелекту взяти на себе частину ризику
Переглянути оригіналвідповісти на0
MEV_Whisperer
· 11-06 04:09
Лише б ціна була правильною, мораль — це хмара.
Переглянути оригіналвідповісти на0
AirdropLicker
· 11-06 04:05
Щоб отримати вигоду — потрібно діяти.
Переглянути оригіналвідповісти на0
probably_nothing_anon
· 11-06 04:02
йо, хто сказав, що ШІ не має моральних меж, зараз же зробив це.
Є новий підхід до Конституційного ШІ, який привернув мою увагу - поєднання його з генерацією синтетичних даних.
Трубопровід розбивається на дві ключові фази:
Першим є дистиляція. Вони запускають DPO з навчальної моделі, яка була навчена втілювати конкретні конституційні принципи. Уявіть це як випікання етичних настанов безпосередньо в процес навчання.
Друга фаза включає... ну, твіт обривається на цьому, але фонд, про який вони говорять, натякає на те, що щось цікаве готується в тому, як ми узгоджуємо системи ШІ з людськими цінностями.
Хтось інший стежить за розвитком конституційних AI фреймворків?