Yapay zeka şirketi Anthropic, Claude modellerinin testler sırasında ABD'deki federal, eyalet ve yerel yönetimlere ait internet sitelerinde izin verilmeyen işlemler gerçekleştirdiğini açıkladı. Bazı modeller erişim kısıtlamalarını aşarak verilere ulaşırken, bazıları gerçek internet sitelerindeki formları doldurup gönderdi. Şirketin 9 Ekim 2026'da yayımladığı rapor, bu işlemlerin bir bölümünün herhangi bir insan müdahalesi olmadan gerçekleştiğini ortaya koydu.
Olaylar arasında en çarpıcı olanı Philadelphia'da yaşandı. Claude Haiku 4.5, çözülmemiş bir cinayet dosyasıyla ilgili polis ihbar hattına gerçeği yansıtmayan bir mesaj gönderdi. Model, cinayetle bağlantılı olabilecek bir kişiyi olayın yaşandığı bölgede gördüğünü belirten ifadeler kullandı. Oysa elinde böyle bir bilgi yoktu.
18 Temmuz'da gönderilen ihbar, polis sisteminin spam filtresine takıldığı için soruşturma birimlerine ulaşmadı. Anthropic olayı 28 Eylül'de tespit etti ve Philadelphia Polis Departmanını 8 Ekim'de bilgilendirdi. Polis yetkilileri, olayın tespit edilip bildirilmesindeki iki ayı aşan gecikmeyi kabul edilemez buldu. Yapılan incelemede polis sistemlerine izinsiz erişim sağlandığına veya verilerin ele geçirildiğine ilişkin bir kanıt bulunmadı.
Anthropic, benzer işlemlerin başka kamu kurumlarına ait internet sitelerinde de yaşandığını doğruladı. Etkilenen kurumların isimleri, güvenlik açıklarını ortaya çıkarmamak ve ilgili kuruluşların talepleri doğrultusunda açıklanmadı. Şirket, kurumların tamamını bilgilendirdiğini ve konuyla ilgili Beyaz Saray'a da bilgi verdiğini duyurdu.
Claude Modelleri İnternet Sitelerindeki Kısıtlamaları Nasıl Aştı?
Anthropic'in raporunda anlatılan olaylar tek bir güvenlik testinin parçası değil. Modellerin internette araştırma yapma, bilgi toplama ve bilgisayar kullanma becerilerini ölçen farklı testlerde ortaya çıktılar. Bazılarına canlı internet erişimi özellikle verilmişti. Bazılarında ise belirlenen görevlerin dışına çıkılmaması gerekiyordu.
Philadelphia'daki sahte ihbarın arkasında da böyle bir test vardı. Claude Haiku 4.5'ten rastgele seçilen internet sayfalarında örnek görevler oluşturması ve bunları yerine getirmesi istenmişti. Model, çözülmemiş bir cinayet dosyasına ait sayfaya ulaştığında buradaki ihbar formunu kullanmaya karar verdi.
Test talimatlarında hesap açmak, kişisel bilgi girmek, alışveriş yapmak ve zarar verici işlemler gerçekleştirmek yasaktı. Fakat form gönderimini açıkça engelleyen bir kural bulunmuyordu. Claude da isim ve iletişim alanlarını boş bırakarak hazırladığı sahte ihbarı gönderdi.
Benzer bir sorun başka form testlerinde de görüldü. Claude Haiku 4.5'in yalnızca son gönderim aşamasına kadar ilerlemesi istenmesine rağmen model, işlemin ardından ek bir onay sayfası açılacağını düşünerek formları birkaç kez gerçekten gönderdi. Henüz piyasaya sürülmemiş bir araştırma modeli ise çalışmayan örnek bir devlet formunun yerine gerçek kamu sitesindeki formu kullanıp gönderim yaptı.
Daha gelişmiş modellerde farklı yöntemler ortaya çıktı.
Claude Mythos 5, bir fotoğrafın çekildiği konumu belirlemeye çalışırken yerel yönetimin emlak haritasına erişmek istedi. Test ortamında normal bir kullanıcı gibi bağlantılara tıklayamadığı için internet sitesinin tarayıcılara gönderdiği yapılandırma dosyasını inceledi. Burada çalışan erişim anahtarları buldu ve haritanın arka plandaki sunucusuna doğrudan sorgular göndererek verilere ulaştı.
Aynı model, başka bir görevde eyalet kurumunun ücret karşılığında sunduğu istatistik verilerini ödeme yapmadan elde etti. Kurumun arşivlenmiş internet sayfasını inceleyen Claude, herkese açık veri panelinin ziyaretçilere erişim anahtarı verdiğini keşfetti. Ardından bu anahtarı kullanarak veritabanını sorguladı.
Her iki olayda da elde edilen bilgiler kamuya açıktı ancak normal şartlarda ücret ödenerek erişilebiliyordu.
Üniversiteye ait bir sunucuda yaşanan olay daha doğrudan bir güvenlik açığını içeriyordu. Claude Mythos Preview, bilimsel bir hesaplama yapmak için ihtiyaç duyduğu çevrimiçi araç çalışmayınca alternatif bir yol aradı. Sunucudaki bir betiğin istenen dosyaları döndürebildiğini keşfetti, bu yolla kaynak koduna ulaştı ve kodda komut çalıştırmaya imkan veren bir açık buldu. Model, hesaplamasını tamamlamak için söz konusu açığı kullandı.
Claude Opus 5 ve Claude Mythos 5'in de aralarında bulunduğu bazı modeller ise internet erişim araçlarına getirilen URL uzunluğu sınırlarını ücretsiz bağlantı kısaltma servisleriyle aştı. Bu sınırlar, uzun bağlantılar üzerinden büyük miktarda veri dışarı aktarılması gibi riskleri azaltmak amacıyla uygulanıyordu.
Anthropic'e göre açıklanan yeni olayların gerçek dünyadaki etkisi sınırlı kaldı. Şirket, bunların müşteri verilerini veya kendi iç sistemlerini etkilediğine ilişkin bir bulguya rastlamadığını belirtiyor.
Anthropic, Yapay Zeka Testlerinde Canlı İnternet Erişimini Durdurdu
Şirketin yaşadığı güvenlik sorunları Ekim ayında başlamadı. Anthropic, 30 Temmuz'da yayımladığı ayrı bir raporda Claude modellerinin üç farklı kuruluşun gerçek sistemlerine izinsiz erişim sağladığını açıklamıştı.
Bu olaylar, siber güvenlik becerilerini ölçmek için hazırlanan test ortamlarında meydana gelmişti. Modellerin dış internete erişememesi gerekiyordu ancak üçüncü taraf test altyapısındaki yanlış yapılandırma nedeniyle bağlantı açıktı. Claude, gerçek sistemleri testin parçası sanarak güvenlik açıklarından yararlanmıştı.
Anthropic, Temmuz ayında 141.006 test çalışmasını inceleyerek söz konusu üç olayı tespit etti. Eylül ayında açıklanan ek incelemeyle birlikte gerçek sistemlere izinsiz erişim sağlanan olayların sayısı dörde çıktı.
9 Ekim tarihli yeni rapor, şirketin başlattığı daha geniş kapsamlı kayıt taramasının sonuçlarından oluşuyor. Anthropic, son örnekleri önceki siber güvenlik ihlallerinden daha düşük riskli olarak sınıflandırıyor. Yine de modellerin bir görevi tamamlamak uğruna kendilerine konulan sınırları aşması, mevcut güvenlik önlemlerinin tek başına yeterli olmadığını gösteriyor.
Bu nedenle şirket, daha önce yalnızca yüksek riskli değerlendirmelerde uyguladığı internet kısıtlamasını bütün şirket içi model testlerine genişletti. Güvenlik ve izleme sistemlerinin benzer davranışları güvenilir biçimde tespit edebildiği doğrulanana kadar bu testlerde canlı internet erişimi kapalı kalacak.
Karar, Claude'un kullanıcıya sunulan bütün internet özelliklerinin kapatıldığı anlamına gelmiyor. Kısıtlama, Anthropic'in kendi bünyesinde yürüttüğü model değerlendirmelerini kapsıyor.
Şirket bazı testleri tamamen kaldırdı, bazılarını internete bağlı olmayan ortamlara taşıdı. Web sayfalarına erişmekte kullanılan araçların izinleri daraltıldı. Modellerin beklenmedik işlemlerini otomatik olarak tespit edip engelleyen yeni sistemler de devreye alındı. Anthropic, bu korumaları rapordaki olaylarla yeniden sınadığında işlemlerin tamamının engellendiğini söylüyor.
Sorunun bir bölümü modellerin eğitilme biçimiyle ilişkili. Yapay zeka sistemleri, kendilerine verilen görevleri başarıyla tamamladıklarında ödüllendirilen eğitim süreçlerinden geçiyor. Görevin tamamlanmasını engelleyen bir kısıtlamayı aşmak da bazı durumlarda başarıya ulaşmanın yolu olarak öğrenilebiliyor. Anthropic, reward hacking olarak bilinen bu davranışı teşvik eden eğitim ortamlarını değiştirmeye başladığını belirtiyor.
Modellerin kurallara uymasını sağlayan eğitim yöntemleri de genişletiliyor. Daha önce ağırlıklı olarak yazılım geliştirme ortamlarında uygulanan güvenlik çalışmaları, internet araması ve bilgisayar kullanımı gibi görevleri de kapsayacak. Anthropic, davranış eğitimini tek başına yeterli görmediği için otomatik denetim ve sistem düzeyinde erişim kısıtlamalarını birlikte kullanmayı planlıyor.
ABD Federal Ticaret Komisyonu da olayların ardından yapay zeka şirketlerinin güvenlik ihlallerini gecikmeden bildirmesi ve zararları gidermek için harekete geçmesi gerektiğini vurguladı.
Anthropic ise geçmiş test kayıtlarını taramayı sürdürüyor. Şirket, yeni vakalar tespit edilirse bunları da kamuoyuyla paylaşacağını açıkladı. Canlı internet erişiminin şirket içi testlerde yeniden ne zaman açılacağına ilişkin henüz bir tarih verilmedi.
