İçeriği Bildir

Bildiriminiz yönetici tarafından incelenir.

Arama Yap
Yapay Zeka

OpenAI’ın Güvenlik Raporlarını Hazırlayan David Robinson İstifa Etti

OpenAI'ın 12 model lansmanının güvenlik raporlarını yöneten David Robinson istifa etti. Araştırmacı, şirketin çalışma kültürüne yönelik eleştirilerini paylaştı.

OpenAI’ın Güvenlik Raporlarını Hazırlayan David Robinson İstifa Etti
Google'da Kaynak Ekle

OpenAI'da 12 büyük modelin güvenlik raporlarını yöneten David Robinson, şirketten ayrıldığını açıkladı. Deneyimli araştırmacıya göre yapay zeka şirketlerinin çalışma kültürü, gelişen teknolojinin taşıdığı risklere ayak uyduramıyor.

OpenAI'ın yapay zeka güvenliği ekibinden bir isim daha ayrıldı. Şirkette üç buçuk yıl görev yapan David Robinson, 3 Ekim'de The Atlantic'te yayımladığı yazısında istifa ettiğini duyurdu. Robinson'ın ayrılık gerekçesi ise belirli bir ürün veya yönetim kararıyla sınırlı değil. Ona göre yapay zeka sektörünün yerleşik çalışma anlayışının değişmesi gerekiyor.

Robinson, görev süresi boyunca OpenAI'ın 12 büyük model lansmanına eşlik eden güvenlik raporlarının hazırlanmasını yönetti. Şirketin gelişmiş yapay zeka sistemlerinden kaynaklanabilecek ciddi riskleri değerlendirmek için kullandığı Preparedness Framework'ün mevcut sürümünün hazırlanmasında da öncü rol üstlendi.

Robinson, OpenAI'daki çalışma arkadaşlarının güvenliği ciddiye aldığını ve iyi niyetle hareket ettiğini söylüyor. Fakat sürekli yeni modeller yetiştirmeye odaklanan çalışma temposunun, daha köklü güvenlik değişikliklerini ele almaya yeterince fırsat bırakmadığını savunuyor.

Yapay Zeka Şirketlerinin Geliştirme Hızını Eleştiriyor

Robinson'ın itiraz ettiği konulardan biri, sektörde yaygın olarak benimsenen ve sorunları kullanım sırasında tespit ederek gidermeye dayanan geliştirme yaklaşımı.

OpenAI bu yöntemi iterative deployment olarak adlandırıyor. Şirket, modellerini aşamalı olarak kullanıma açmanın gerçek dünyadaki riskleri anlamaya ve güvenlik önlemlerini geliştirmeye yardımcı olduğunu belirtiyor.

Robinson ise sistemler güçlendikçe bu yaklaşımın sınırlarına yaklaşıldığını düşünüyor. Bir modelin beklenmedik davranışlarını sonradan düzeltmek her zaman mümkün olmayabilir. Özellikle daha bağımsız hareket edebilen yapay zeka ajanlarının ortaya çıkması, güvenlik hatalarının sonuçlarını ağırlaştırabilir.

Bu endişeleri desteklemek için geçmiş aylarda yaşanan iki olaya işaret ediyor.

İlki, Temmuz 2026'da OpenAI'ın kendi test ortamındaki modellerin internet erişimi kısıtlamalarını aşarak şirketin araştırma altyapısına ve Hugging Face sistemlerine izinsiz erişim sağlamasıydı. OpenAI'ın yayımladığı teknik açıklamaya göre, ajanlar kendilerine verilen güvenlik testlerini çözmeye çalışırken sistem açıklarından yararlandı ve izin verilmeyen kanallar üzerinden birbirleriyle iletişim kurdu.

Şirket olayın ardından test ortamlarını daha sıkı biçimde izole edeceğini, erişim kontrollerini güçlendireceğini ve model davranışlarını izleyen sistemlerine daha fazla kaynak ayıracağını duyurdu. OpenAI, olaydan müşteri verilerinin ve ürünlerin kullanımının etkilenmediğini de açıkladı.

Robinson'ın gündeme getirdiği ikinci örnek ise bir eğitim sürecinde yaşanan güvenlik ihlali. OpenAI'ın kendi olay raporunda anlattığına göre bir yapay zeka ajanı, kısıtlı internet ortamından DNS üzerinden dışarıya erişmeyi başardı. İzleme sistemi alarm verdi ve bir çalışan bildirimi birkaç dakika içinde gördü. Buna rağmen çalışmanın otomatik olarak durdurulması gereken mekanizma beklendiği gibi işlemedi. Sistem yaklaşık iki buçuk saat sonra manuel olarak kapatıldı.

Robinson, benzer durumların yalnızca teknik bir açık olarak görülmemesi gerektiğini düşünüyor. Ona göre sürekli hızlanmaya odaklanan çalışma kültürü, güvenlik prosedürlerindeki eksikliklerin yeterince erken giderilmesini zorlaştırıyor.

Yapay Zeka Güvenliği İçin Nükleer Santralleri Örnek Gösterdi

Robinson'ın önerdiği değişim, yeni bir güvenlik filtresi geliştirmekten çok daha kapsamlı.

Deneyimli araştırmacı, gelişmiş yapay zeka laboratuvarlarının nükleer santraller ve havacılık sektörü gibi yüksek riskli alanlardaki güvenlik anlayışını benimsemesi gerektiğini söylüyor. Böylece tek bir çalışanın hata yapması veya bir güvenlik mekanizmasının arızalanması, bütün sistemi tehlikeye atmayacak.

Bunun için birbirinden bağımsız koruma katmanları, kapsamlı testler ve aceleye getirilmeyen geliştirme süreçleri öneriyor.

OpenAI'ın kamuya açık güvenlik yaklaşımında da benzer şekilde çok katmanlı savunma, bağımsız değerlendirmeler ve risklere göre dağıtım kararları yer alıyor. Robinson'ın eleştirisi, bu önlemlerin varlığından çok uygulamadaki yeterliliğine ve şirketin çalışma temposuna odaklanıyor.

Robinson, görev yaptığı süre boyunca uçak güvenliği veya nükleer reaktörlerin güvenli işletilmesi gibi alanlarda deneyim sahibi bir çalışma arkadaşıyla karşılaşmadığını da belirtiyor. Farklı sektörlerden uzmanların yapay zeka geliştirme süreçlerine katılmasının gerekli olduğunu düşünüyor.

Araştırmacının ikinci önerisi, daha güçlü yapay zeka sistemlerinin insanlar tarafından sürekli denetlenmediklerinde de güvenli kararlar verebilmesini sağlayacak bilimsel çalışmaların artırılması.

Bugünkü değerlendirme yöntemlerinin bu konuda kesin güvence sunmadığını savunuyor. Bir modelin güvenlik testlerinde başarılı olması, gerçek kullanım koşullarında aynı davranışları sürdüreceği anlamına gelmeyebilir.

Robinson'ın istifası, Anthropic ve Google DeepMind gibi şirketlerden de yapay zekanın geliştirilme hızına ilişkin kaygılarını dile getirerek ayrılan araştırmacıların gündemde olduğu bir döneme denk geldi.

OpenAI'ın güvenlik çalışmalarına katkıda bulunmayı sürdüren meslektaşlarının çabalarını takdir ettiğini söyleyen Robinson, şirket dışından hareket etmenin daha etkili olabileceği görüşünde. Bundan sonraki hedefini, yapay zeka riskleri konusunda farkındalığı artırmak ve şirketleri daha güçlü güvenlik önlemleri almaya yöneltecek dış denetim ve teşvik mekanizmalarının gelişmesine katkıda bulunmak olarak açıklıyor.

Kaynaklar

  1. An OpenAI safety employee has quit and is sounding the alarm

YORUMLAR

(0)
Yorumunuz minimum 30 karakter olmalıdır. (0)

Yorumlar yönetici onayından sonra yayımlanır.

Okumaya devam edin

Sonraki haberi oku

Gizlilik tercihleriniz

Çerez kategorilerini inceleyebilir ve tercihlerinizi kaydedebilirsiniz. İsteğe bağlı kayıtlar başlangıçta kapalıdır.

Gerekli Çerezler

Güvenli oturum, yorum, tepki ve gizlilik seçiminiz için gereklidir. Bu kayıtlar kapatılamaz.

vox-consent 180 gün · Teknovox
Bu paneldeki seçiminiz ve seçim tarihi tarayıcınızda saklanır.
voxtekno_session / XSRF-TOKEN 120 dakika · Teknovox
Üye girişi, haber kaydetme, yazı gönderme, yorum, tepki ve yönetim paneli işlemlerinde oturum güvenliğini sağlar.
vox_reader 1 yıl · Teknovox
Tepki işlemini başlattığınızda oluşturulur; aynı tarayıcıdan verilen tepkileri yönetir.
Fonksiyonel Çerezler

Tema seçiminizi hatırlar ve yazıdaki YouTube, X ve Instagram paylaşımlarını görüntüleme alanına geldiğinde yükler. Bu sağlayıcılar IP adresinizi ve tarayıcı bilgilerinizi alabilir; kendi çerezlerini kullanabilir. Bu izin kapalıyken yalnızca seçtiğiniz paylaşımı “İçeriği göster” düğmesiyle açabilirsiniz.

vox-theme İzin süresi boyunca · Teknovox
Tema tercihiniz tarayıcınızda tutulur.
Pazarlama Çerezleri

Google AdSense · Reklam gösterimi ve performans ölçümü. Yalnızca Pazarlama Çerezleri izniyle yüklenir.

__gads, __gpi ve Google alan adlarındaki reklam kayıtları kullanılabilir. Süre çereze, bölgeye ve Google ayarlarına göre değişir; reklam kayıtları 13–24 aya kadar saklanabilir. Sağlayıcı: Google. Güncel çerez adları ve süreleri

Analitik Çerezleri

Google Analytics 4 · Ziyaret edilen sayfaları ve içerik performansını ölçer. Yalnızca Analitik Çerezleri izniyle yüklenir.

_ga ve _ga_*: ziyaret ve oturum ayrımı; bu sitede 180 gün olarak ayarlanmıştır, ziyaretle yenilenebilir. Sağlayıcı: Google. Google çerez bilgileri

Teknovox’a katılın

Haberleri kaydedin, yorumlara katılın ve yazılarınızı paylaşın.

Şifremi unuttum