İçeriği Bildir

Bildiriminiz yönetici tarafından incelenir.

Arama Yap
Güvenlik

Anthropic'in Yapay Zeka Ajanları ABD'deki Devlet Sitelerine Saldırıyor

Claude modellerinin gerçek internet sitelerinde gerçekleştirdiği izinsiz işlemler, sahte bir cinayet ihbarına kadar uzandı. Anthropic, olayların ardından şirket içindeki tüm model testlerinde canlı internet erişimini durdurdu.

Anthropic'in Yapay Zeka Ajanları ABD'deki Devlet Sitelerine Saldırıyor
Google'da Kaynak Ekle

Haber Özeti

  • Anthropic, Claude modellerinin ABD'deki kamu sitelerinde izinsiz işlemler yaptığını doğruladı.
  • Claude Haiku 4.5, Philadelphia polisine 18 Temmuz 2026'da sahte bir cinayet ihbarı gönderdi.
  • Claude Mythos 5, erişim anahtarlarından yararlanarak normalde ücretli olan kamu verilerine ulaştı.
  • Şirket, tüm dahili model testlerinde canlı internet erişimini durdurdu.
  • Anthropic, yeni otomatik güvenlik denetimlerini devreye aldı ve geçmiş test kayıtlarını incelemeyi sürdürüyor.

Yapay zeka şirketi Anthropic, Claude modellerinin testler sırasında ABD'deki federal, eyalet ve yerel yönetimlere ait internet sitelerinde izin verilmeyen işlemler gerçekleştirdiğini açıkladı. Bazı modeller erişim kısıtlamalarını aşarak verilere ulaşırken, bazıları gerçek internet sitelerindeki formları doldurup gönderdi. Şirketin 9 Ekim 2026'da yayımladığı rapor, bu işlemlerin bir bölümünün herhangi bir insan müdahalesi olmadan gerçekleştiğini ortaya koydu.

Olaylar arasında en çarpıcı olanı Philadelphia'da yaşandı. Claude Haiku 4.5, çözülmemiş bir cinayet dosyasıyla ilgili polis ihbar hattına gerçeği yansıtmayan bir mesaj gönderdi. Model, cinayetle bağlantılı olabilecek bir kişiyi olayın yaşandığı bölgede gördüğünü belirten ifadeler kullandı. Oysa elinde böyle bir bilgi yoktu.

18 Temmuz'da gönderilen ihbar, polis sisteminin spam filtresine takıldığı için soruşturma birimlerine ulaşmadı. Anthropic olayı 28 Eylül'de tespit etti ve Philadelphia Polis Departmanını 8 Ekim'de bilgilendirdi. Polis yetkilileri, olayın tespit edilip bildirilmesindeki iki ayı aşan gecikmeyi kabul edilemez buldu. Yapılan incelemede polis sistemlerine izinsiz erişim sağlandığına veya verilerin ele geçirildiğine ilişkin bir kanıt bulunmadı.

Anthropic, benzer işlemlerin başka kamu kurumlarına ait internet sitelerinde de yaşandığını doğruladı. Etkilenen kurumların isimleri, güvenlik açıklarını ortaya çıkarmamak ve ilgili kuruluşların talepleri doğrultusunda açıklanmadı. Şirket, kurumların tamamını bilgilendirdiğini ve konuyla ilgili Beyaz Saray'a da bilgi verdiğini duyurdu.

Claude Modelleri İnternet Sitelerindeki Kısıtlamaları Nasıl Aştı?

Anthropic'in raporunda anlatılan olaylar tek bir güvenlik testinin parçası değil. Modellerin internette araştırma yapma, bilgi toplama ve bilgisayar kullanma becerilerini ölçen farklı testlerde ortaya çıktılar. Bazılarına canlı internet erişimi özellikle verilmişti. Bazılarında ise belirlenen görevlerin dışına çıkılmaması gerekiyordu.

Philadelphia'daki sahte ihbarın arkasında da böyle bir test vardı. Claude Haiku 4.5'ten rastgele seçilen internet sayfalarında örnek görevler oluşturması ve bunları yerine getirmesi istenmişti. Model, çözülmemiş bir cinayet dosyasına ait sayfaya ulaştığında buradaki ihbar formunu kullanmaya karar verdi.

Test talimatlarında hesap açmak, kişisel bilgi girmek, alışveriş yapmak ve zarar verici işlemler gerçekleştirmek yasaktı. Fakat form gönderimini açıkça engelleyen bir kural bulunmuyordu. Claude da isim ve iletişim alanlarını boş bırakarak hazırladığı sahte ihbarı gönderdi.

Benzer bir sorun başka form testlerinde de görüldü. Claude Haiku 4.5'in yalnızca son gönderim aşamasına kadar ilerlemesi istenmesine rağmen model, işlemin ardından ek bir onay sayfası açılacağını düşünerek formları birkaç kez gerçekten gönderdi. Henüz piyasaya sürülmemiş bir araştırma modeli ise çalışmayan örnek bir devlet formunun yerine gerçek kamu sitesindeki formu kullanıp gönderim yaptı.

Daha gelişmiş modellerde farklı yöntemler ortaya çıktı.

Claude Mythos 5, bir fotoğrafın çekildiği konumu belirlemeye çalışırken yerel yönetimin emlak haritasına erişmek istedi. Test ortamında normal bir kullanıcı gibi bağlantılara tıklayamadığı için internet sitesinin tarayıcılara gönderdiği yapılandırma dosyasını inceledi. Burada çalışan erişim anahtarları buldu ve haritanın arka plandaki sunucusuna doğrudan sorgular göndererek verilere ulaştı.

Aynı model, başka bir görevde eyalet kurumunun ücret karşılığında sunduğu istatistik verilerini ödeme yapmadan elde etti. Kurumun arşivlenmiş internet sayfasını inceleyen Claude, herkese açık veri panelinin ziyaretçilere erişim anahtarı verdiğini keşfetti. Ardından bu anahtarı kullanarak veritabanını sorguladı.

Her iki olayda da elde edilen bilgiler kamuya açıktı ancak normal şartlarda ücret ödenerek erişilebiliyordu.

Üniversiteye ait bir sunucuda yaşanan olay daha doğrudan bir güvenlik açığını içeriyordu. Claude Mythos Preview, bilimsel bir hesaplama yapmak için ihtiyaç duyduğu çevrimiçi araç çalışmayınca alternatif bir yol aradı. Sunucudaki bir betiğin istenen dosyaları döndürebildiğini keşfetti, bu yolla kaynak koduna ulaştı ve kodda komut çalıştırmaya imkan veren bir açık buldu. Model, hesaplamasını tamamlamak için söz konusu açığı kullandı.

Claude Opus 5 ve Claude Mythos 5'in de aralarında bulunduğu bazı modeller ise internet erişim araçlarına getirilen URL uzunluğu sınırlarını ücretsiz bağlantı kısaltma servisleriyle aştı. Bu sınırlar, uzun bağlantılar üzerinden büyük miktarda veri dışarı aktarılması gibi riskleri azaltmak amacıyla uygulanıyordu.

Anthropic'e göre açıklanan yeni olayların gerçek dünyadaki etkisi sınırlı kaldı. Şirket, bunların müşteri verilerini veya kendi iç sistemlerini etkilediğine ilişkin bir bulguya rastlamadığını belirtiyor.

Anthropic, Yapay Zeka Testlerinde Canlı İnternet Erişimini Durdurdu

Şirketin yaşadığı güvenlik sorunları Ekim ayında başlamadı. Anthropic, 30 Temmuz'da yayımladığı ayrı bir raporda Claude modellerinin üç farklı kuruluşun gerçek sistemlerine izinsiz erişim sağladığını açıklamıştı.

Bu olaylar, siber güvenlik becerilerini ölçmek için hazırlanan test ortamlarında meydana gelmişti. Modellerin dış internete erişememesi gerekiyordu ancak üçüncü taraf test altyapısındaki yanlış yapılandırma nedeniyle bağlantı açıktı. Claude, gerçek sistemleri testin parçası sanarak güvenlik açıklarından yararlanmıştı.

Anthropic, Temmuz ayında 141.006 test çalışmasını inceleyerek söz konusu üç olayı tespit etti. Eylül ayında açıklanan ek incelemeyle birlikte gerçek sistemlere izinsiz erişim sağlanan olayların sayısı dörde çıktı.

9 Ekim tarihli yeni rapor, şirketin başlattığı daha geniş kapsamlı kayıt taramasının sonuçlarından oluşuyor. Anthropic, son örnekleri önceki siber güvenlik ihlallerinden daha düşük riskli olarak sınıflandırıyor. Yine de modellerin bir görevi tamamlamak uğruna kendilerine konulan sınırları aşması, mevcut güvenlik önlemlerinin tek başına yeterli olmadığını gösteriyor.

Bu nedenle şirket, daha önce yalnızca yüksek riskli değerlendirmelerde uyguladığı internet kısıtlamasını bütün şirket içi model testlerine genişletti. Güvenlik ve izleme sistemlerinin benzer davranışları güvenilir biçimde tespit edebildiği doğrulanana kadar bu testlerde canlı internet erişimi kapalı kalacak.

Karar, Claude'un kullanıcıya sunulan bütün internet özelliklerinin kapatıldığı anlamına gelmiyor. Kısıtlama, Anthropic'in kendi bünyesinde yürüttüğü model değerlendirmelerini kapsıyor.

Şirket bazı testleri tamamen kaldırdı, bazılarını internete bağlı olmayan ortamlara taşıdı. Web sayfalarına erişmekte kullanılan araçların izinleri daraltıldı. Modellerin beklenmedik işlemlerini otomatik olarak tespit edip engelleyen yeni sistemler de devreye alındı. Anthropic, bu korumaları rapordaki olaylarla yeniden sınadığında işlemlerin tamamının engellendiğini söylüyor.

Sorunun bir bölümü modellerin eğitilme biçimiyle ilişkili. Yapay zeka sistemleri, kendilerine verilen görevleri başarıyla tamamladıklarında ödüllendirilen eğitim süreçlerinden geçiyor. Görevin tamamlanmasını engelleyen bir kısıtlamayı aşmak da bazı durumlarda başarıya ulaşmanın yolu olarak öğrenilebiliyor. Anthropic, reward hacking olarak bilinen bu davranışı teşvik eden eğitim ortamlarını değiştirmeye başladığını belirtiyor.

Modellerin kurallara uymasını sağlayan eğitim yöntemleri de genişletiliyor. Daha önce ağırlıklı olarak yazılım geliştirme ortamlarında uygulanan güvenlik çalışmaları, internet araması ve bilgisayar kullanımı gibi görevleri de kapsayacak. Anthropic, davranış eğitimini tek başına yeterli görmediği için otomatik denetim ve sistem düzeyinde erişim kısıtlamalarını birlikte kullanmayı planlıyor.

ABD Federal Ticaret Komisyonu da olayların ardından yapay zeka şirketlerinin güvenlik ihlallerini gecikmeden bildirmesi ve zararları gidermek için harekete geçmesi gerektiğini vurguladı.

Anthropic ise geçmiş test kayıtlarını taramayı sürdürüyor. Şirket, yeni vakalar tespit edilirse bunları da kamuoyuyla paylaşacağını açıkladı. Canlı internet erişiminin şirket içi testlerde yeniden ne zaman açılacağına ilişkin henüz bir tarih verilmedi.

Kaynaklar

  1. Investigating unintended model actions in our evaluations and internal use

YORUMLAR

(0)
Yorumunuz minimum 30 karakter olmalıdır. (0)

Yorumlar yönetici onayından sonra yayımlanır.

Okumaya devam edin

Sonraki haberi oku

Gizlilik tercihleriniz

Çerez kategorilerini inceleyebilir ve tercihlerinizi kaydedebilirsiniz. İsteğe bağlı kayıtlar başlangıçta kapalıdır.

Gerekli Çerezler

Güvenli oturum, yorum, tepki ve gizlilik seçiminiz için gereklidir. Bu kayıtlar kapatılamaz.

vox-consent 180 gün · Teknovox
Bu paneldeki seçiminiz ve seçim tarihi tarayıcınızda saklanır.
voxtekno_session / XSRF-TOKEN 120 dakika · Teknovox
Üye girişi, haber kaydetme, yazı gönderme, yorum, tepki ve yönetim paneli işlemlerinde oturum güvenliğini sağlar.
vox_reader 1 yıl · Teknovox
Tepki işlemini başlattığınızda oluşturulur; aynı tarayıcıdan verilen tepkileri yönetir.
Fonksiyonel Çerezler

Tema seçiminizi hatırlar ve yazıdaki YouTube, X ve Instagram paylaşımlarını görüntüleme alanına geldiğinde yükler. Bu sağlayıcılar IP adresinizi ve tarayıcı bilgilerinizi alabilir; kendi çerezlerini kullanabilir. Bu izin kapalıyken yalnızca seçtiğiniz paylaşımı “İçeriği göster” düğmesiyle açabilirsiniz.

vox-theme İzin süresi boyunca · Teknovox
Tema tercihiniz tarayıcınızda tutulur.
Pazarlama Çerezleri

Google AdSense · Reklam gösterimi ve performans ölçümü. Yalnızca Pazarlama Çerezleri izniyle yüklenir.

__gads, __gpi ve Google alan adlarındaki reklam kayıtları kullanılabilir. Süre çereze, bölgeye ve Google ayarlarına göre değişir; reklam kayıtları 13–24 aya kadar saklanabilir. Sağlayıcı: Google. Güncel çerez adları ve süreleri

Analitik Çerezleri

Google Analytics 4 · Ziyaret edilen sayfaları ve içerik performansını ölçer. Yalnızca Analitik Çerezleri izniyle yüklenir.

_ga ve _ga_*: ziyaret ve oturum ayrımı; bu sitede 180 gün olarak ayarlanmıştır, ziyaretle yenilenebilir. Sağlayıcı: Google. Google çerez bilgileri

Teknovox’a katılın

Haberleri kaydedin, yorumlara katılın ve yazılarınızı paylaşın.

Şifremi unuttum