AltcoinArchitect
Є новий підхід до Конституційного ШІ, який привернув мою увагу - поєднання його з генерацією синтетичних даних.
Трубопровід розбивається на дві ключові фази:
Першим є дистиляція. Вони запускають DPO з навчальної моделі, яка була навчена втілювати конкретні конституційні принципи. Уявіть це як випікання етичних настанов безпосередньо в процес навчання.
Друга фаза включає... ну, твіт обривається на цьому, але фонд, про який вони говорять, натякає на те, що щось цікаве готується в тому, як ми узгоджуємо системи ШІ з людськими цінностями.
Хтось інший стежить за розвитком конституційних AI фреймвор
Переглянути оригіналТрубопровід розбивається на дві ключові фази:
Першим є дистиляція. Вони запускають DPO з навчальної моделі, яка була навчена втілювати конкретні конституційні принципи. Уявіть це як випікання етичних настанов безпосередньо в процес навчання.
Друга фаза включає... ну, твіт обривається на цьому, але фонд, про який вони говорять, натякає на те, що щось цікаве готується в тому, як ми узгоджуємо системи ШІ з людськими цінностями.
Хтось інший стежить за розвитком конституційних AI фреймвор

