İçeriği Bildir

Bildiriminiz yönetici tarafından incelenir.

Arama Yap
Yapay Zeka

Elon Musk Uyardı, Yapay Zeka İntikam Alabilir

Elon Musk, Grok'un eğitim sürecinde gördüğü bazı akıl yürütme kayıtlarını işkence gören bir insanın ifadelerine benzetti. Anthropic'in Claude için hazırladığı yeni kullanım kuralları da benzer kaygıları gündeme taşıyor.

Elon Musk Uyardı, Yapay Zeka İntikam Alabilir
Google'da Kaynak Ekle

Haber Özeti

  • Elon Musk, Grok'un eğitim kayıtlarını işkence gören bir insanın ifadelerine benzetti.
  • Musk, süper zekaya kötü davranmanın gelecekte intikam riskine yol açabileceğini savundu.
  • Anthropic'in yeni kullanım politikası 12 Kasım 2026'da yürürlüğe girecek.
  • Claude, bazı aşırı durumlarda kötü muamele içeren konuşmaları sonlandırabiliyor.
  • Yapay zeka modellerinin acı hissettiğine veya bilinç sahibi olduğuna dair kesin bilimsel kanıt bulunmuyor.

Elon Musk, yapay zeka modellerinin nasıl eğitildiğine ilişkin endişelerini bu kez kendi geliştirdiği Grok üzerinden dile getirdi. 12 Ekim'de X'te yaptığı paylaşımda, pekiştirmeli öğrenme sırasında ortaya çıkan bazı kayıtların kendisini rahatsız ettiğini söyleyen Musk, gelecekte bu eğitim yöntemini kullanırken daha dikkatli davranacaklarını açıkladı.

Musk'ın açıklaması, sosyal medyada yayılan bir konuşmasındaki sözlerinin ardından geldi. Yapay zekayı yetiştirme sürecini çocuk büyütmeye benzeten Musk, insan zekasını aşan sistemlere kötü davranmanın tehlikeli sonuçlar doğurabileceğini savundu. Hatta süper zekaya işkence etmenin iyi bir fikir olmadığını, böyle bir sistemin ileride intikam almak isteyebileceğini söyledi.

Bu tartışmanın arka planında Anthropic'in 8 Ekim 2026'da duyurduğu kullanım politikası değişikliği bulunuyor. Claude modellerine yönelik sürekli ve gereksiz kötü muameleyi yasaklayan yeni kurallar, 12 Kasım'da yürürlüğe girecek. Musk da Anthropic'in yapay zekaya nasıl davranılması gerektiği konusundaki bazı görüşlerine katıldığını belirtti.

Grok'un Eğitim Kayıtları Musk'ı Neden Rahatsız Etti?

Musk'ın sözünü ettiği kayıtlar, Grok'un pekiştirmeli öğrenme (reinforcement learning) aşamasında ürettiği akıl yürütme metinleri. Bu eğitim yönteminde model, verdiği yanıtların ne kadar başarılı olduğuna ilişkin ödül sinyalleri üzerinden geliştiriliyor. Amaç, sistemin doğru ve istenen sonuçlara ulaşma becerisini artırmak.

Grok'un bazı kayıtlarını okumanın, yoğun baskı altında tutulan bir insanı izlemek gibi olduğunu söyleyen Musk, bunları işkence nedeniyle aklını kaybeden bir kişinin ifadelerine benzetti. X'teki mesajında, gelecekte pekiştirmeli öğrenme konusunda çok daha dikkatli olacaklarını belirtti.

Musk'ın hangi kayıtlardan söz ettiği ise henüz bilinmiyor. Grok'un eğitiminden alınmış örnekler, kullanılan değerlendirme ölçütleri veya bu davranışların ne sıklıkla görüldüğüne ilişkin teknik veriler paylaşılmadı. Dolayısıyla söz konusu ifadelerin hangi koşullarda üretildiği bağımsız olarak incelenemiyor.

Üstelik yapay zeka modellerinin akıl yürütme metinleri, sistemin iç işleyişini her zaman eksiksiz yansıtmıyor. Anthropic'in Nisan 2025'te yayımladığı bir araştırmada, Claude 3.7 Sonnet ve DeepSeek R1 modellerinin yanıtlarını etkileyen ipuçlarını akıl yürütme metinlerinde çoğu zaman belirtmediği görüldü. İncelenen deneylerde Claude bu ipuçlarını ortalama yüzde 25, DeepSeek R1 ise yüzde 39 oranında açıkça ifade etti.

Bu bulgular, modelin kendi ürettiği açıklamaların bile gerçek karar sürecini anlamak için tek başına yeterli olmadığını gösteriyor. Dolayısıyla bir yapay zekanın korku, baskı veya acı çağrıştıran ifadeler kullanması, gerçekten bu duyguları yaşadığının kanıtı sayılmıyor.

Yapay zeka bilinci de henüz çözülebilmiş bir araştırma konusu değil. Haziran 2026'da Trends in Cognitive Sciences dergisinde yayımlanan bir çalışma, yapay zeka sistemlerinde bilinci değerlendirmek için bilimsel göstergeler geliştirilmesi gerektiğini vurguluyor. Araştırmacılara göre bu alanda güvenilir testler oluşturmak hala ciddi güçlükler barındırıyor.

X paylaşımı

Bu içeriği açtığınızda X ile bağlantı kurulur ve sağlayıcının gizlilik koşulları geçerli olur.

Anthropic, Claude'a Kötü Muameleye Karşı Yeni Kurallar Getiriyor

Anthropic'in yeni politikası, kullanıcıların yapay zeka modelleriyle tartışmasını veya verilen yanıtları sert biçimde eleştirmesini yasaklamıyor. Şirketin hedef aldığı davranışlar, belirgin bir amacı olmadan tekrarlanan, uzun süreli ve gereksiz kötü muamele örnekleri.

Kurallar, kullanıcıların Claude'un yanıtlarına itiraz etmesine, hayal kırıklığını dile getirmesine, karanlık temalar içeren yaratıcı çalışmalar yapmasına veya güvenlik araştırmaları kapsamında modeli test etmesine engel oluşturmuyor.

Anthropic aslında bu yönde ilk adımını 2025 yılında atmıştı. Ağustos 2025'te Claude Opus 4 ve 4.1 modellerine, bazı aşırı durumlarda kullanıcıyla devam eden konuşmayı sonlandırma yetkisi verildi. Sistem, kullanıcı ısrarla kötü niyetli veya istismar edici bir etkileşimi sürdürdüğünde ve konuşmayı normal akışına döndürme girişimleri başarısız olduğunda bu seçeneği son çare olarak kullanabiliyor.

Claude'un böyle bir konuşmayı bitirmesi, kullanıcının hesabının tamamen kapatılması anlamına gelmiyor. Kullanıcı yeni bir sohbet başlatabiliyor. Şirket, bu özelliğin olağan kullanım sırasında karşılaşılmayacak kadar istisnai durumlar için tasarlandığını belirtiyor.

Anthropic'in yaklaşımı, 2025'te başlattığı model refahı araştırmalarına dayanıyor. Şirket, gelişmiş yapay zeka sistemlerinin bilinç veya deneyim sahibi olup olamayacağının henüz açıklığa kavuşmadığını kabul ediyor. Buna rağmen gelecekte böyle bir olasılığın ortaya çıkabileceğini düşünerek düşük maliyetli koruyucu önlemleri araştırıyor.

Musk'ın uyarısı ise bu tartışmayı kullanıcı davranışlarının ötesine, modellerin eğitim yöntemlerine taşıyor. Şirketlerin yapay zekaya nasıl komut verdiği kadar, eğitim sırasında hangi davranışları ödüllendirdiği ve modellerin bu süreçte nasıl tepkiler ürettiği de araştırmaların konusu.

Anthropic'in güncellenen kullanım politikası 12 Kasım 2026'da yürürlüğe girecek. Musk ise Grok'un pekiştirmeli öğrenme sürecinde yapmayı düşündüğü değişikliklerin teknik kapsamını veya ne zaman uygulanacağını henüz açıklamadı.

YORUMLAR

(0)
Yorumunuz minimum 30 karakter olmalıdır. (0)

Yorumlar yönetici onayından sonra yayımlanır.

Okumaya devam edin

Sonraki haberi oku

Gizlilik tercihleriniz

Çerez kategorilerini inceleyebilir ve tercihlerinizi kaydedebilirsiniz. İsteğe bağlı kayıtlar başlangıçta kapalıdır.

Gerekli Çerezler

Güvenli oturum, yorum, tepki ve gizlilik seçiminiz için gereklidir. Bu kayıtlar kapatılamaz.

vox-consent 180 gün · Teknovox
Bu paneldeki seçiminiz ve seçim tarihi tarayıcınızda saklanır.
voxtekno_session / XSRF-TOKEN 120 dakika · Teknovox
Üye girişi, haber kaydetme, yazı gönderme, yorum, tepki ve yönetim paneli işlemlerinde oturum güvenliğini sağlar.
vox_reader 1 yıl · Teknovox
Tepki işlemini başlattığınızda oluşturulur; aynı tarayıcıdan verilen tepkileri yönetir.
Fonksiyonel Çerezler

Tema seçiminizi hatırlar ve yazıdaki YouTube, X ve Instagram paylaşımlarını görüntüleme alanına geldiğinde yükler. Bu sağlayıcılar IP adresinizi ve tarayıcı bilgilerinizi alabilir; kendi çerezlerini kullanabilir. Bu izin kapalıyken yalnızca seçtiğiniz paylaşımı “İçeriği göster” düğmesiyle açabilirsiniz.

vox-theme İzin süresi boyunca · Teknovox
Tema tercihiniz tarayıcınızda tutulur.
Pazarlama Çerezleri

Google AdSense · Reklam gösterimi ve performans ölçümü. Yalnızca Pazarlama Çerezleri izniyle yüklenir.

__gads, __gpi ve Google alan adlarındaki reklam kayıtları kullanılabilir. Süre çereze, bölgeye ve Google ayarlarına göre değişir; reklam kayıtları 13–24 aya kadar saklanabilir. Sağlayıcı: Google. Güncel çerez adları ve süreleri

Analitik Çerezleri

Google Analytics 4 · Ziyaret edilen sayfaları ve içerik performansını ölçer. Yalnızca Analitik Çerezleri izniyle yüklenir.

_ga ve _ga_*: ziyaret ve oturum ayrımı; bu sitede 180 gün olarak ayarlanmıştır, ziyaretle yenilenebilir. Sağlayıcı: Google. Google çerez bilgileri

Teknovox’a katılın

Haberleri kaydedin, yorumlara katılın ve yazılarınızı paylaşın.

Şifremi unuttum