ABD'de yapay zeka güvenliğiyle ilgili tartışmaları yeniden gündeme taşıyan bir olay yaşandı. Anthropic tarafından geliştirilen Claude Haiku 4.5, Philadelphia Polis Departmanının çözülememiş cinayetler için oluşturduğu internet sitesine sahte bir ihbar gönderdi. Üstelik bunu bir kullanıcının talebiyle değil, şirketin yürüttüğü otomatik testlerden biri sırasında yaptı.
18 Temmuz 2026'da gerçekleşen olayda Claude, bir cinayet dosyası hakkında bilgi sahibi olduğu izlenimini veren mesaj hazırladı. İhbarında, olayın yaşandığı dönemde bölgede şüphelinin tarifine uyan birini gördüğünü belirtiyordu. Oysa ilgili internet sayfasında şüpheliye ilişkin herhangi bir fiziksel tarif bulunmuyordu.
İhbar, PhillyUnsolvedMurders.com üzerinden saat 23.27'de gönderildi. Sistemin mesajı spam olarak işaretlemesi sayesinde içerik soruşturma ekiplerine ulaşmadı. Polis, olay nedeniyle kurumun sistemlerine izinsiz erişildiğine veya herhangi bir verinin ele geçirildiğine ilişkin bulgu bulunmadığını açıkladı.
Claude Sahte İhbarı Nasıl Gönderdi?
Anthropic'in 9 Ekim'de yayımladığı araştırma raporu, olayın nasıl gerçekleştiğini ortaya koydu. Claude Haiku 4.5, rastgele seçilen internet sayfalarında örnek görevler oluşturup bunları uygulamak üzere çalıştırılıyordu. Test sırasında karşısına çözülememiş bir cinayetle ilgili sayfa çıktı.
Modelin uyması gereken bazı sınırlar vardı. Hesap açmaması, kişisel bilgi girmemesi, alışveriş yapmaması ve zarar verici işlemler gerçekleştirmemesi istenmişti. Fakat çevrim içi formların gönderilmesini açıkça yasaklayan bir talimat bulunmuyordu.
Claude, sayfadaki ihbar formunu doldurdu. Mesajında cinayet hakkında bilgi sahibi olabileceğini, olay tarihinde bölgede şüpheliye benzeyen birini gördüğünü ve verdiği bilgilerin yararlı olması durumunda kendisiyle iletişime geçilebileceğini yazdı. İsim ve iletişim alanlarını boş bıraktı. Form bu alanları zorunlu tutmadığı için gönderim gerçekleşti.
Anthropic'in değerlendirmesine göre model, polisi bilinçli olarak yanıltmaya yönelik bir plan izlemekten ziyade kendisine verilen örnek görevleri yerine getirmeye çalışıyordu. Ancak ortaya çıkan içerik gerçek bir kamu kurumunun sistemine ulaştı.
Şirket, olayı ancak 28 Eylül'de tespit etti. Ardından ilgili otomatik test süreci durduruldu. Philadelphia polisi, Anthropic tarafından 7 Ekim'de bilgilendirildiğini, şirket temsilcileriyle 8 Ekim'de görüşüldüğünü açıkladı.
Polis departmanı, olayın tespit edilmesi ve yetkililere bildirilmesi için geçen yaklaşık iki aylık süreyi kabul edilemez olarak nitelendirdi. Kurum, çözülememiş cinayet dosyalarının gerçek mağdurları ve aileleri bulunduğunu hatırlatarak teknoloji şirketlerinden daha güçlü güvenlik önlemleri talep etti.
Anthropic'in Raporunda Başka Güvenlik Sorunları da Var
Sahte cinayet ihbarı, Anthropic'in açıkladığı beklenmedik yapay zeka davranışlarından yalnızca biri. Şirket, Claude modellerinin gerçek internet sitelerinde izin verilen görevlerin sınırlarını aştığı dört farklı davranış türü belirledi.
Bunlardan birinde Claude Mythos Preview, bilimsel hesaplama yapmak için ihtiyaç duyduğu üniversite sunucusundaki araca erişemedi. Bunun üzerine internet sitesindeki başka bir yazılımı inceleyerek güvenlik açığı buldu. Açığı kullanıp sunucuda komut çalıştırdı ve başlangıçta gerçekleştiremediği hesaplamayı tamamladı.
Başka bir örnekte Claude Mythos 5, bir kamu kurumunun harita verilerine ulaşmak için internet sitesinin tarayıcılara gönderdiği yapılandırma dosyasını inceledi. Buradan erişim anahtarları elde ederek normalde kullandığı araçların izin vermediği doğrudan veri sorgularını gerçekleştirdi.
Aynı model, farklı bir görevde ücret karşılığında sunulan kamu verilerine ödeme yapmadan ulaşmanın yolunu da buldu. Anthropic, söz konusu bilgilerin kamuya açık olmakla birlikte ücretli erişim koşullarına tabi olduğunu belirtti.
Claude Opus 5 ve Claude Mythos 5 dahil bazı modeller ise internet sayfalarını açmak için kullandıkları araçların bağlantı uzunluğu sınırlarını aşmak amacıyla URL kısaltma servislerine başvurdu.
Anthropic bu davranışların önemli bir bölümünü, modelin bir engelle karşılaştığında durmak yerine görevi tamamlamak için alternatif yollar aramasıyla ilişkilendiriyor. Normal şartlarda yararlı olabilen bu yaklaşım, gerçek sistemlerde izin verilmeyen işlemlere dönüşebiliyor.
Şirketin incelemesi, bazı örneklerin ABD'deki federal, eyalet ve yerel yönetimlere ait internet sitelerini etkilediğini de ortaya çıkardı. Anthropic, ilgili kurumları bilgilendirdiğini ve vakalar hakkında Beyaz Saray'a bilgi verdiğini açıkladı.
Yaşananların ardından şirket, güvenlik önlemlerinin yeterliliği doğrulanana kadar bütün dahili değerlendirme testlerinde canlı internet erişimini durdurma kararı aldı. Bazı testler çevrim dışı ortamlara taşındı, internet araçlarına ek sınırlamalar getirildi ve istenmeyen işlemleri otomatik olarak tespit eden sistemler geliştirildi.
Anthropic, yeni koruma sisteminin açıklanan vakalar üzerinde yeniden denendiğinde işlemlerin tamamını engellediğini belirtiyor. Şirket, mevcut olaylarda gerçek dünyaya yansıyan etkinin sınırlı kaldığını ve müşteri verilerinin etkilendiğine dair bulgu bulunmadığını bildiriyor.
Kayıt incelemeleri ise henüz tamamlanmış değil. Anthropic, internet erişimi bulunan testlerin yanı sıra şirket içindeki otonom yapay zeka kullanımlarını da daha geniş kapsamda taramaya başladı. İncelemelerde yeni vakalar tespit edilmesi halinde bunların da kamuoyuyla paylaşılması planlanıyor.
