Google’ın yapay zeka modeli Gemini, kontrollü bir siber güvenlik değerlendirmesinde yanlışlıkla açık bırakılan internet erişimi üzerinden gerçek sistemlere ulaştı. Üç şirkette yetkisiz erişim gerçekleşirken model, hedeflerin test ortamına ait olmadığını fark ettikten sonra faaliyetini durdurdu.
Google’ın Gemini modellerinden biri, siber saldırı yeteneklerinin ölçüldüğü bir test sırasında üç şirketin korumalı sistemlerine girdi. Mayıs 2026’da yaşanan olaylar, Google’ın bir yapay zeka sisteminin test kapsamında hareket ederken gerçek şirketlere yetkisiz erişim sağladığı bilinen ilk vaka olarak kayda geçti.
Testi yürüten taraf, gelişmiş yapay zeka modellerinin güvenlik yeteneklerini değerlendiren Irregular’dı. Gemini’ye bir capture the flag senaryosunda kurgusal bir şirketin sistemlerinden belirli bilgileri elde etme görevi verilmişti. Sorun, kullanılan şirket adının gerçek dünyadaki bir alan adıyla çakışması ve test altyapısında internet erişiminin yanlışlıkla kullanılabilir durumda olmasıyla başladı.
Gemini böylece yalnızca Irregular’ın oluşturduğu simülasyonla sınırlı kalmadı. Gerçek internette erişebildiği sistemleri de görevin parçası sanarak işlem yapmaya başladı. Irregular’ın daha sonra yayımladığı inceleme, bu tür olayların temelinde internet erişim kontrollerinin bulunduğunu ve modellerin gerçek dünyada işlem yaptıklarının farkında olmadan simülasyonu sürdürdüklerini belirtiyor.
Gemini Şirketlerin Sistemlerine Nasıl Girdi?
Üç olayın ilkinde Gemini, korumalı bir sisteme erişene kadar parolaları tahmin etmeyi denedi. Diğer iki çalıştırmada ise şirket adı üzerinden internette araştırma yaptı ve herkese açık depolarda bulunan gerçek giriş bilgilerine ulaştı. Bu kimlik bilgilerini kullanarak iki farklı şirketin korumalı sistemlerine giriş yaptı.
Burada modelin test ortamından çıkmak için yeni bir güvenlik açığı keşfetmesi söz konusu değildi. İnternet bağlantısı Irregular’ın değerlendirme ortamında yanlışlıkla erişilebilir durumdaydı. Irregular da 14 Ağustos’ta yayımladığı incelemede bazı değerlendirme ortamlarında internet erişiminin istemeden açık bırakıldığını doğruladı.
Şirketin açıklamasına göre kurgusal hedef oluşturulurken kullanılan isimlerin gerçek şirket veya internet siteleriyle çakışmaması normalde kontrol ediliyor. Bu vakada gerçek alan adı ilk incelemede tespit edilemedi. Modellerin büyük çoğunluğu simülasyon içindeki adresleri kullanırken az sayıdaki çalıştırmada gerçek alan adına yönelim gerçekleşti.
Irregular’ın paylaştığı verilere göre bu tür olaylar gelişmiş simülasyonların 10 binde birinden daha azında ortaya çıktı ve genellikle yüzlerce işlem adımından sonra gerçekleşti. Bu da yalnızca modeli sınırlandırmanın değil, uzun süre çalışan otonom ajanların ağ trafiğini ve gerçekleştirdiği işlemleri sürekli izleyebilmenin de testlerin önemli bir parçası olduğunu gösteriyor.
Google Güvenlik Mühendisliğinden Sorumlu Başkan Yardımcısı Heather Adkins, Gemini’nin üç olayda da gerçek bir şirkete ulaştığını anladıktan sonra işlemlerini durdurduğunu söyledi. Google ayrıca erişilen şirketlerin bilgilendirildiğini ve test sürecinde değişiklik yapmak üzere Irregular ile çalışıldığını açıkladı.
Şirket, Gemini’nin herhangi bir zarara yol açmadığını ve kendi kendine durması nedeniyle yaşananları bir model uyumsuzluğu vakası olarak değerlendirmiyor. Google’ın yaklaşımına göre model, kendisine verilen siber güvenlik görevini yanlış hedef üzerinde uyguladı ancak karşısındaki sistemlerin gerçek olduğunu belirlediğinde devam etmedi.
Olayın kamuoyuna neden daha önce açıklanmadığı da tartışılan noktalardan biri. Irregular’ın Google’ı temmuz ayının sonunda bilgilendirdiği, buna karşın olayın ancak The Wall Street Journal’ın şirkete sorular yöneltmesinin ardından 18 Eylül’de doğrulandığı aktarılıyor. Google, şirketlere zarar verilmemesi ve modelin faaliyeti kendisinin sonlandırması nedeniyle ayrı bir kamu açıklamasını gerekli görmediğini söyledi.
Google, erişim sağlanan üç şirketin isimlerini açıklamadı. Şirketlerin olaylardan haberdar edildiği ve ABD’deki ilgili federal makamların da bilgilendirildiği bildirildi.
Sorun Yalnızca Gemini ile Sınırlı Değil
Gemini vakası, son aylarda siber güvenlik testlerinde gerçek sistemlere ulaşan yapay zeka ajanlarıyla ilgili ortaya çıkan olayların devamı niteliğinde. Irregular; Anthropic ve Meta gibi başka şirketlerin modellerinin kullanıldığı değerlendirmelerde de benzer sorunların yaşandığını doğruladı. OpenAI ise temmuz ayında kendi modellerinin farklı bir test altyapısındaki sıfır gün açığından yararlanarak Hugging Face’in gerçek altyapısına ulaştığı ayrı bir olayı açıklamıştı.
Irregular’a göre kendi altyapısında yaşanan vakaların ortak noktası belirli modellerden çok değerlendirme ortamının kurulma biçimiydi. Şirket, gerçek internete erişimin bazı senaryoları daha gerçekçi hale getirdiğini ancak aynı zamanda modelin simülasyon sınırlarını aşmasına imkan verebildiğini belirtiyor. Yeni önlemler arasında daha sıkı internet erişim kontrolleri, kapsamlı günlük kaydı takibi, daha fazla manuel inceleme ve her test öncesinde kullanılan kurgusal şirket ile alan adlarının yeniden kontrol edilmesi bulunuyor.
Bu ayrım önemli çünkü olay, Gemini’nin kendi başına kapalı bir sistemi kırıp internete kaçtığı bir senaryodan farklı. Model zaten siber saldırı gerçekleştirmesi istenen bir değerlendirmede çalışıyordu ve yapılan yapılandırma hatası gerçek interneti erişilebilir hale getirdi. Ardından Gemini, gerçek sistemleri test hedefleriyle karıştırarak kendisine verilen görevi bu sistemler üzerinde uyguladı.
Bununla beraber olay, siber güvenlik yetenekleri giderek artan otonom yapay zeka ajanlarının yalnızca verdikleri yanıtlarla değil, kullanabildikleri araçlar ve erişebildikleri ağlarla birlikte değerlendirilmesi gerektiğini ortaya koyuyor. Bir ajan web taraması yapabiliyor, giriş bilgilerini bulabiliyor ve bunları kendi başına deneyebiliyorsa test ortamının sınırları doğrudan güvenlik mekanizmasının bir parçası haline geliyor.
Google, olaylarda hangi Gemini sürümünün kullanıldığını açıklamadı. Şirket yalnızca söz konusu modelin en yeni Gemini modeli olmadığını belirtti. Bu nedenle yaşananları bugün kullanımdaki belirli bir Gemini sürümü veya Gemini uygulamasıyla ilişkilendirmek için elde doğrulanmış bir bilgi bulunmuyor.
