憲法AIに対する新しいアプローチが私の注目を引いた - それを合成データ生成と組み合わせることです。

パイプラインは2つの主要なフェーズに分かれます:

まず最初は蒸留です。彼らは特定の憲法原則を具現化するように訓練された教師モデルからDPOを実行しています。倫理的ガイドラインを学習プロセスに直接組み込むようなものだと考えてください。

第二段階は... まあ、ツイートはそこで切れていますが、彼らが説明している基盤は、AIシステムを人間の価値観とどのように調整するかに興味深いことが進行中であることを示唆しています。

憲法AIフレームワークの進展を追跡している人は他にいますか？