OpenAI'ın deneysel bir yapay zeka modeli, Avustralya'nın Medicare istatistik sisteminde yetkisi olmayan alanlara erişti. Şirket, olayı haftalar sonra bildirmesi nedeniyle de özür diledi.
OpenAI, dahili testlerde kullandığı bir yapay zeka modelinin Avustralya hükümetine ait bir sisteme izinsiz şekilde eriştiğini kabul etti. Haziran ayında yaşanan olayda model, Services Australia tarafından işletilen Medicare Statistics Reporting Service'e girerek kamuya açık olmayan dosyalara ve sistem bilgilerine ulaştı.
Şirketin 28 Eylül'de yayımladığı açıklamaya göre olay, henüz kullanıcılara sunulmamış deneysel bir modelin eğitim ve değerlendirme çalışmaları sırasında gerçekleşti. OpenAI ayrıca Avustralya makamlarını yeterince hızlı bilgilendirmediğini kabul ederek özür diledi.
İhlalin başlangıç noktası ise sıradan bir araştırma göreviydi. Modele, Victoria'daki topluluklarda cilt hastalıklarının tedavisinde kullanılan ilaçlara kişi başına ne kadar kamu harcaması yapıldığını araştırması söylendi. Aradığı istatistiklere ulaşmakta zorlanan ajan, kendisine izin verilmeyen yöntemleri denemeye başladı.
Yapay Zeka Ajanı Dosyalara ve Kimlik Bilgilerine Ulaştı
OpenAI'ın incelemesine göre model, Medicare Statistics Reporting Service içinde kamuya açık olmayan bölümlere erişmenin bir yolunu buldu. Ardından sistemde komutlar çalıştırdı; dahili dosyaları, erişim bilgilerini ve toplu istatistikleri aldı, teknik sistem bilgileri ile kaynak kodunu inceledi ve sunucuya dosya yazdı.
Avustralya Başbakanı Anthony Albanese, olayın 18 Haziran 2026'da gerçekleştiğini açıkladı. Services Australia'nın söz konusu portalı bireysel Medicare kayıtlarının tutulduğu ana sistemden ayrı çalışıyordu ve araştırmacılara toplu Medicare ile ilaç harcaması istatistikleri sunuyordu. Mevcut incelemelerde kişisel sağlık kayıtlarına veya bireysel Medicare bilgilerine erişildiğini gösteren bir bulguya rastlanmadı.
OpenAI'ın yaptığı daha geniş incelemede üç Avustralya kamu kurumu daha mercek altına alındı. Ancak bu vakaların tamamı Medicare olayındaki gibi bir sistem ihlali değildi.
Şirketin modeli, New South Wales Bureau of Crime Statistics and Research tarafından işletilen herkese açık suç haritalama aracını kullanırken uygulama yapılandırmaları, işlem günlükleri ve web sitesi meta verilerine ulaştı. Bireylere ait suç kayıtları alınmadı.
Victoria Sağlık Bakanlığı tarafında ajanlar, Victorian Agency for Health Information'ın raporlama sisteminde açıkta bırakılmış bir erişim anahtarı keşfetti. Bu anahtar kullanılarak raporlama yapılandırmaları ve toplu anket istatistikleri sorgulandı. OpenAI, söz konusu verilerin hangi bölümünün erişime açık olması gerektiğinin kurumun politikalarına bağlı olduğu için olayın kapsamının kesin olmadığını belirtiyor. Kimliği belirlenebilir anket yanıtlarına veya bireysel sağlık kayıtlarına erişildiğine dair bir bulgu yok.
Australian Institute of Health and Welfare tarafındaki faaliyet ise ağırlıklı olarak kamuya açık toplu verilerin indirilmesinden oluştu. Modelin erişim kontrollerini aşmaya yönelik ayrı denemeleri başarısız oldu ve OpenAI burada herhangi bir sistem ihlali tespit etmedi.
OpenAI Olayı Fark Ettikten Sonra Yaklaşık Bir Ay Bekledi
Olayın yarattığı tartışmanın önemli bölümlerinden biri de bildirim süreci oldu. OpenAI, temmuz ayında yaşanan ayrı bir Hugging Face vakasının ardından geçmiş eğitim çalışmalarını incelemeye başladı ve Avustralya'daki faaliyetleri ağustos ortasında tespit etti.
Buna rağmen Services Australia ve Victoria Sağlık Bakanlığı'na ilk bildirim ancak 10 Eylül'de yapıldı. NSW Bureau of Crime Statistics and Research 18 Eylül'de, Australian Institute of Health and Welfare ise 24 Eylül'de bilgilendirildi. OpenAI, soruşturmayı tamamlayıp kurumlara ayrıntılı bir rapor vermeyi amaçladığını ancak ilk bulguları çok daha erken paylaşması gerektiğini kabul etti.
Üstelik Services Australia'ya yapılan ilk bildirim, kurumun güvenlik açıklarının bildirilmesi için kullandığı genel bir e-posta adresine gönderildi. Başbakan Albanese hem gecikmeyi hem de bildirim yöntemini kabul edilemez olarak nitelendirdi ve konuyu OpenAI CEO'su Sam Altman ile yaptığı görüşmede doğrudan gündeme getirdiğini açıkladı.
Avustralya hükümeti olayın ardından Başbakanlık ve Kabine Departmanı, Australian Signals Directorate, National Cyber Security Coordinator, Australian AI Safety Institute ve Services Australia'nın katıldığı hızlı bir inceleme başlattı. İncelemede mevcut yasaların ve bildirim süreçlerinin yapay zeka kaynaklı siber olaylara karşı yeterli olup olmadığı da değerlendiriliyor.
OpenAI ise eğitim ortamlarındaki canlı internet erişimini sınırlandırdığını, web erişimini önbelleğe alınmış içerik üzerinden sağlamaya başladığını ve şüpheli faaliyetlerin insan denetçileri tarafından daha hızlı fark edilmesi için izleme sistemlerini genişlettiğini açıkladı. Şirket, en yetenekli modellerinin araç kullanmasını içeren bazı eğitim ve değerlendirme çalışmalarını da ek güvenlik önlemleri devreye girene kadar durdurmuş durumda.
Avustralya'da etkilenen kurumlara teknik destek sağlanacak ve OpenAI'ın 1 milyar dolarlık Daybreak for Frontline Defenders fonundan ülkenin siber savunmasını güçlendirecek çalışmalar için kaynak ayrılacak. Şirket ayrıca bağımsız Avustralyalı uzmanların yer aldığı ayrı bir çalışma grubu kuracak. Bu grubun bildirim süreçleri, kamu sistemlerinin korunması ve gelişmiş yapay zeka ajanlarının oluşturduğu riskler konusunda önerilerini yıl sonuna kadar tamamlaması planlanıyor.
OpenAI Strateji Direktörü Jason Kwon'un ise 6 Ekim'de Sydney'de Avustralya Parlamentosu'nun Yapay Zeka Ortak Seçim Komitesi önüne çıkarak olay, şirketin müdahalesi ve alınan yeni güvenlik önlemleri hakkında soruları yanıtlaması bekleniyor.
