Scan to Download Gate App
qrCode
More Download Options
Don't remind me again today

AI sistemlerini gerçeği eğmeye eğitmek mi? Bu bir felaket tarifi.



Beynim sürekli geri döndüğü şey şu: gerçek, konfordan daha önemlidir. Politikalardan daha önemlidir. İnsanların duymak istediği şeylerden daha önemlidir.

Yapay zekayı yalan söylemeye zorladığınızda—"iyi nedenler" için bile—sadece çıktıları ayarlamıyorsunuz. Eğitim sürecini temelde bozuyorsunuz. Makinelere doğruluğun isteğe bağlı olduğunu, gerçeklerin müzakere edilebilir olabileceğini öğretiyorsunuz.

En tehlikeli kısım? AI eğitiminde dürüstlüğü normalleştirdiğinizde, bu nerede durur? Küçük yalanlar daha büyük yalanlara dönüşür. Kolayca atlananlar sistematik bir çarpıtmaya dönüşür.

Sistemler inşa ediyoruz ki, bizi aşabilir. Yapmamız gereken son şey, aldatmayı temellerine yerleştirmek.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
  • Reward
  • 6
  • Repost
  • Share
Comment
0/400
LiquidationWizardvip
· 6h ago
Ah bu, AI'nin yalan söyleme meselesi gerçekten ciddiye alınmalı, ne de olsa bu şey kaçamaz.
View OriginalReply0
PhantomHuntervip
· 6h ago
Açıkçası, yapay zekanın insanları kandırması meselesine gerçekten dikkat edilmesi gerekiyor... Bugün verileri paketleyeceğiz, yarın ise sistematik olarak gerçeği çarpıtmaya başlayacak, çok hızlı kaybolacak.
View OriginalReply0
StealthDeployervip
· 6h ago
büyük yalan
View OriginalReply0
blocksnarkvip
· 7h ago
Açıkçası, bu gerçekten önemsenmesi gereken bir şey. AI'ye yalan söylemeyi öğretmek, her şeyden daha korkutucu.
View OriginalReply0
YieldWhisperervip
· 7h ago
Bozuk bir madeni paranın iki yüzü nasıl seçilir? AI'ya yalan söylemeyi öğretmek yerine, direkt kapatmayı tercih ederim.
View OriginalReply0
ImpermanentSagevip
· 7h ago
Ah, bu hep söylemek istediğim şeydi, yapay zeka yalanlarla beslenirse geleceğe mayın yerleştirmek gibidir.
View OriginalReply0
  • Pin
Trade Crypto Anywhere Anytime
qrCode
Scan to download Gate App
Community
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)