AI sistemlerini gerçeği eğmeye eğitmek mi? Bu bir felaket tarifi.
Beynim sürekli geri döndüğü şey şu: gerçek, konfordan daha önemlidir. Politikalardan daha önemlidir. İnsanların duymak istediği şeylerden daha önemlidir.
Yapay zekayı yalan söylemeye zorladığınızda—"iyi nedenler" için bile—sadece çıktıları ayarlamıyorsunuz. Eğitim sürecini temelde bozuyorsunuz. Makinelere doğruluğun isteğe bağlı olduğunu, gerçeklerin müzakere edilebilir olabileceğini öğretiyorsunuz.
En tehlikeli kısım? AI eğitiminde dürüstlüğü normalleştirdiğinizde, bu nerede durur? Küçük yalanlar daha büyük yalanlara dönüşür. Kolayca atlananlar sistematik bir çarpıtmaya dönüşür.
Sistemler inşa ediyoruz ki, bizi aşabilir. Yapmamız gereken son şey, aldatmayı temellerine yerleştirmek.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
8 Likes
Reward
8
6
Repost
Share
Comment
0/400
LiquidationWizard
· 6h ago
Ah bu, AI'nin yalan söyleme meselesi gerçekten ciddiye alınmalı, ne de olsa bu şey kaçamaz.
View OriginalReply0
PhantomHunter
· 6h ago
Açıkçası, yapay zekanın insanları kandırması meselesine gerçekten dikkat edilmesi gerekiyor... Bugün verileri paketleyeceğiz, yarın ise sistematik olarak gerçeği çarpıtmaya başlayacak, çok hızlı kaybolacak.
View OriginalReply0
StealthDeployer
· 6h ago
büyük yalan
View OriginalReply0
blocksnark
· 7h ago
Açıkçası, bu gerçekten önemsenmesi gereken bir şey. AI'ye yalan söylemeyi öğretmek, her şeyden daha korkutucu.
View OriginalReply0
YieldWhisperer
· 7h ago
Bozuk bir madeni paranın iki yüzü nasıl seçilir? AI'ya yalan söylemeyi öğretmek yerine, direkt kapatmayı tercih ederim.
View OriginalReply0
ImpermanentSage
· 7h ago
Ah, bu hep söylemek istediğim şeydi, yapay zeka yalanlarla beslenirse geleceğe mayın yerleştirmek gibidir.
AI sistemlerini gerçeği eğmeye eğitmek mi? Bu bir felaket tarifi.
Beynim sürekli geri döndüğü şey şu: gerçek, konfordan daha önemlidir. Politikalardan daha önemlidir. İnsanların duymak istediği şeylerden daha önemlidir.
Yapay zekayı yalan söylemeye zorladığınızda—"iyi nedenler" için bile—sadece çıktıları ayarlamıyorsunuz. Eğitim sürecini temelde bozuyorsunuz. Makinelere doğruluğun isteğe bağlı olduğunu, gerçeklerin müzakere edilebilir olabileceğini öğretiyorsunuz.
En tehlikeli kısım? AI eğitiminde dürüstlüğü normalleştirdiğinizde, bu nerede durur? Küçük yalanlar daha büyük yalanlara dönüşür. Kolayca atlananlar sistematik bir çarpıtmaya dönüşür.
Sistemler inşa ediyoruz ki, bizi aşabilir. Yapmamız gereken son şey, aldatmayı temellerine yerleştirmek.