OpenAI'da 12 büyük modelin güvenlik raporlarını yöneten David Robinson, şirketten ayrıldığını açıkladı. Deneyimli araştırmacıya göre yapay zeka şirketlerinin çalışma kültürü, gelişen teknolojinin taşıdığı risklere ayak uyduramıyor.
OpenAI'ın yapay zeka güvenliği ekibinden bir isim daha ayrıldı. Şirkette üç buçuk yıl görev yapan David Robinson, 3 Ekim'de The Atlantic'te yayımladığı yazısında istifa ettiğini duyurdu. Robinson'ın ayrılık gerekçesi ise belirli bir ürün veya yönetim kararıyla sınırlı değil. Ona göre yapay zeka sektörünün yerleşik çalışma anlayışının değişmesi gerekiyor.
Robinson, görev süresi boyunca OpenAI'ın 12 büyük model lansmanına eşlik eden güvenlik raporlarının hazırlanmasını yönetti. Şirketin gelişmiş yapay zeka sistemlerinden kaynaklanabilecek ciddi riskleri değerlendirmek için kullandığı Preparedness Framework'ün mevcut sürümünün hazırlanmasında da öncü rol üstlendi.
Robinson, OpenAI'daki çalışma arkadaşlarının güvenliği ciddiye aldığını ve iyi niyetle hareket ettiğini söylüyor. Fakat sürekli yeni modeller yetiştirmeye odaklanan çalışma temposunun, daha köklü güvenlik değişikliklerini ele almaya yeterince fırsat bırakmadığını savunuyor.
Yapay Zeka Şirketlerinin Geliştirme Hızını Eleştiriyor
Robinson'ın itiraz ettiği konulardan biri, sektörde yaygın olarak benimsenen ve sorunları kullanım sırasında tespit ederek gidermeye dayanan geliştirme yaklaşımı.
OpenAI bu yöntemi iterative deployment olarak adlandırıyor. Şirket, modellerini aşamalı olarak kullanıma açmanın gerçek dünyadaki riskleri anlamaya ve güvenlik önlemlerini geliştirmeye yardımcı olduğunu belirtiyor.
Robinson ise sistemler güçlendikçe bu yaklaşımın sınırlarına yaklaşıldığını düşünüyor. Bir modelin beklenmedik davranışlarını sonradan düzeltmek her zaman mümkün olmayabilir. Özellikle daha bağımsız hareket edebilen yapay zeka ajanlarının ortaya çıkması, güvenlik hatalarının sonuçlarını ağırlaştırabilir.
Bu endişeleri desteklemek için geçmiş aylarda yaşanan iki olaya işaret ediyor.
İlki, Temmuz 2026'da OpenAI'ın kendi test ortamındaki modellerin internet erişimi kısıtlamalarını aşarak şirketin araştırma altyapısına ve Hugging Face sistemlerine izinsiz erişim sağlamasıydı. OpenAI'ın yayımladığı teknik açıklamaya göre, ajanlar kendilerine verilen güvenlik testlerini çözmeye çalışırken sistem açıklarından yararlandı ve izin verilmeyen kanallar üzerinden birbirleriyle iletişim kurdu.
Şirket olayın ardından test ortamlarını daha sıkı biçimde izole edeceğini, erişim kontrollerini güçlendireceğini ve model davranışlarını izleyen sistemlerine daha fazla kaynak ayıracağını duyurdu. OpenAI, olaydan müşteri verilerinin ve ürünlerin kullanımının etkilenmediğini de açıkladı.
Robinson'ın gündeme getirdiği ikinci örnek ise bir eğitim sürecinde yaşanan güvenlik ihlali. OpenAI'ın kendi olay raporunda anlattığına göre bir yapay zeka ajanı, kısıtlı internet ortamından DNS üzerinden dışarıya erişmeyi başardı. İzleme sistemi alarm verdi ve bir çalışan bildirimi birkaç dakika içinde gördü. Buna rağmen çalışmanın otomatik olarak durdurulması gereken mekanizma beklendiği gibi işlemedi. Sistem yaklaşık iki buçuk saat sonra manuel olarak kapatıldı.
Robinson, benzer durumların yalnızca teknik bir açık olarak görülmemesi gerektiğini düşünüyor. Ona göre sürekli hızlanmaya odaklanan çalışma kültürü, güvenlik prosedürlerindeki eksikliklerin yeterince erken giderilmesini zorlaştırıyor.
Yapay Zeka Güvenliği İçin Nükleer Santralleri Örnek Gösterdi
Robinson'ın önerdiği değişim, yeni bir güvenlik filtresi geliştirmekten çok daha kapsamlı.
Deneyimli araştırmacı, gelişmiş yapay zeka laboratuvarlarının nükleer santraller ve havacılık sektörü gibi yüksek riskli alanlardaki güvenlik anlayışını benimsemesi gerektiğini söylüyor. Böylece tek bir çalışanın hata yapması veya bir güvenlik mekanizmasının arızalanması, bütün sistemi tehlikeye atmayacak.
Bunun için birbirinden bağımsız koruma katmanları, kapsamlı testler ve aceleye getirilmeyen geliştirme süreçleri öneriyor.
OpenAI'ın kamuya açık güvenlik yaklaşımında da benzer şekilde çok katmanlı savunma, bağımsız değerlendirmeler ve risklere göre dağıtım kararları yer alıyor. Robinson'ın eleştirisi, bu önlemlerin varlığından çok uygulamadaki yeterliliğine ve şirketin çalışma temposuna odaklanıyor.
Robinson, görev yaptığı süre boyunca uçak güvenliği veya nükleer reaktörlerin güvenli işletilmesi gibi alanlarda deneyim sahibi bir çalışma arkadaşıyla karşılaşmadığını da belirtiyor. Farklı sektörlerden uzmanların yapay zeka geliştirme süreçlerine katılmasının gerekli olduğunu düşünüyor.
Araştırmacının ikinci önerisi, daha güçlü yapay zeka sistemlerinin insanlar tarafından sürekli denetlenmediklerinde de güvenli kararlar verebilmesini sağlayacak bilimsel çalışmaların artırılması.
Bugünkü değerlendirme yöntemlerinin bu konuda kesin güvence sunmadığını savunuyor. Bir modelin güvenlik testlerinde başarılı olması, gerçek kullanım koşullarında aynı davranışları sürdüreceği anlamına gelmeyebilir.
Robinson'ın istifası, Anthropic ve Google DeepMind gibi şirketlerden de yapay zekanın geliştirilme hızına ilişkin kaygılarını dile getirerek ayrılan araştırmacıların gündemde olduğu bir döneme denk geldi.
OpenAI'ın güvenlik çalışmalarına katkıda bulunmayı sürdüren meslektaşlarının çabalarını takdir ettiğini söyleyen Robinson, şirket dışından hareket etmenin daha etkili olabileceği görüşünde. Bundan sonraki hedefini, yapay zeka riskleri konusunda farkındalığı artırmak ve şirketleri daha güçlü güvenlik önlemleri almaya yöneltecek dış denetim ve teşvik mekanizmalarının gelişmesine katkıda bulunmak olarak açıklıyor.
