Ada pendekatan baru untuk AI Konstitusi yang menarik perhatian saya - menggabungkannya dengan generasi data sintetis.

Pipeline terbagi menjadi dua fase kunci:

Yang pertama adalah distilasi. Mereka menjalankan DPO dari model pengajar yang telah dilatih untuk mewujudkan prinsip-prinsip konstitusi tertentu. Anggap saja ini seperti memanggang pedoman etika langsung ke dalam proses pembelajaran.

Fase kedua melibatkan... yah, tweet itu terputus di sana, tetapi fondasi yang mereka deskripsikan menunjukkan bahwa sesuatu yang menarik sedang berkembang dalam cara kita menyelaraskan sistem AI dengan nilai-nilai manusia.

Apakah ada yang lain yang mengikuti perkembangan kerangka AI konstitusi?