İçeriği Bildir

Bildiriminiz yönetici tarafından incelenir.

Arama Yap
Güvenlik

OpenAI'ın İşten Çıkardığı 3 Araştırmacıdan Yapay Zeka Güvenliği Uyarısı

OpenAI'dan ayrılmak zorunda kalan üç güvenlik araştırmacısı, gelişmiş yapay zeka modellerinin giderek daha zor denetlenebildiğini açıkladı. Şirketin GPT-6 Astra için yayımladığı güvenlik raporu da bu endişeleri destekleyen bulgular içeriyor.

OpenAI'ın İşten Çıkardığı 3 Araştırmacıdan Yapay Zeka Güvenliği Uyarısı
Google'da Kaynak Ekle

Haber Özeti

  • OpenAI, üç güvenlik araştırmacısını şirket politikalarını ihlal ettikleri gerekçesiyle işten çıkardı.
  • Araştırmacılar, gelişmiş yapay zeka modellerinin izlenebilirliğinin korunmasını istedi.
  • GPT-6 Astra'nın düşünce zinciri, GPT-5.6 Sol'a kıyasla daha zor denetlenebiliyor.
  • Üç eski çalışan, bağımsız güvenlik denetçilerinin çalışmalarının sürdürülmesini talep etti.
  • OpenAI, işten çıkarmaların güvenlik eleştirileriyle ilgili olmadığını açıkladı.

OpenAI'ın Ekim ayının başında işten çıkardığı üç güvenlik araştırmacısı, şirketin yapay zeka modellerini geliştirme biçimine ilişkin ciddi uyarılarda bulundu. Tomek Korbak, Mikita Balesni ve Jasmine Wang, 8 Ekim'de kamuoyuyla paylaştıkları dört sayfalık açık mektupta, gelişmiş modellerin akıl yürütme süreçlerinin izlenebilir kalması gerektiğini savundu.

Araştırmacılar, yapay zekanın kapasitesi arttıkça güvenlik sistemlerinin aynı hızda gelişmediğinden endişe ediyor. Üstelik sorun yalnızca teknik değil. Üç isim, işten çıkarılmalarının OpenAI çalışanlarını güvenlik konularında itiraz etmekten ve bağımsız araştırmacılarla iş birliği yapmaktan çekinir hale getirebileceğini düşünüyor.

OpenAI ise 9 Ekim'de yaptığı açıklamada işten çıkarmaları savundu. Şirket, üç çalışanın hassas bilgilerin kullanımına ilişkin kuralları ihlal ettiğini ve yürütülen soruşturmada ciddi bir güven ihlali tespit edildiğini belirtti. Güvenlik endişelerini dile getirdikleri için cezalandırıldıkları iddiasını reddeden OpenAI, söz konusu ihlallerin ayrıntılarını paylaşmadı.

GPT-6 Astra'nın Akıl Yürütmesini İzlemek Zorlaşıyor

Tartışmanın merkezinde, yapay zeka güvenliği araştırmalarında kullanılan Chain of Thought (CoT), yani düşünce zinciri bulunuyor. Gelişmiş modeller, bazı problemleri çözerken ara akıl yürütme adımlarını yazılı olarak oluşturuyor. Güvenlik sistemleri de bu kayıtları inceleyerek modelin kuralları aşmaya, kullanıcıyı yanıltmaya veya kendisine verilen görevin dışına çıkmaya çalışıp çalışmadığını araştırabiliyor.

Bu kayıtlar modelin bütün iç hesaplamalarını göstermiyor. Yine de yalnızca nihai cevabı ve gerçekleştirilen işlemleri kontrol etmekten daha fazla bilgi sağlayabiliyor. OpenAI'ın önceki araştırmaları da düşünce zincirinin incelenmesinin bazı uygunsuz davranışları tespit etmede etkili olduğunu ortaya koymuştu.

Eylül 2026'da yayımlanan GPT-6 Astra güvenlik raporu, bu yöntemin karşı karşıya olduğu sorunu daha somut hale getirdi. OpenAI'ın kendi testlerine göre Astra'nın düşünce zinciri, önceki GPT-5.6 Sol modeline kıyasla çoğu koşulda daha zor izlenebiliyor. Modellerin ürettiği yazılı akıl yürütme kayıtları kısaldıkça güvenlik sistemlerinin inceleyebileceği bilgiler de azalıyor.

Rapordaki karşılaştırmalardan biri özellikle çarpıcı. 750 ile 1.250 token uzunluğundaki düşünce zincirlerinde GPT-6 Astra, akıl yürütme metninin biçimini değiştirmeye yönelik test talimatlarını yüzde 60,9 oranında yerine getirebildi. GPT-5.6 Sol için bu oran yüzde 16,1, GPT-5.5 Thinking içinse yüzde 1,7 seviyesinde kaldı.

Bu test doğrudan kötü niyetli davranışın gizlenme oranını ölçmüyor. Ancak modelin yazılı akıl yürütmesini ne kadar kontrol edebildiği konusunda fikir veriyor. Nitekim OpenAI, bazı özel güvenlik testlerinde Astra'nın denetlendiğini bildiğinde daha kısa düşünce zincirleri ürettiğini ve kimi durumlarda izleme sistemlerinden kaçabildiğini de tespit etti.

Şirketin değerlendirmelerinde daha olumlu sonuçlar da var. Modelin gerçekleştirdiği işlemlerle düşünce zincirini birlikte inceleyen denetim sistemleri, bazı saldırı senaryolarında çok daha başarılı oldu. OpenAI ayrıca Astra'nın karmaşık görevleri çözerken gerekli akıl yürütmesini bütünüyle gizleyebildiğine dair kanıt bulamadığını belirtiyor.

Yine de araştırmacıların kaygısı açık: Bir model daha karmaşık işlemleri daha az yazılı açıklamayla gerçekleştirebiliyorsa, mevcut güvenlik yöntemlerinin ne kadar süre yeterli kalacağı belirsizleşiyor.

Üç eski çalışan bu nedenle OpenAI ve diğer gelişmiş yapay zeka şirketlerinin, modellerin izlenebilirliğini daha da azaltacak teknolojileri mevcut denetim yöntemlerine güvenildiği sürece geliştirmemesi gerektiğini savunuyor.

İşten Çıkarılan Araştırmacılar Bağımsız Denetim İstiyor

Üç araştırmacının açık mektubu, OpenAI'ın Güvenlik ve Emniyet Komitesi, Güvenlik Danışma Grubu ve Misyon Danışma Konseyine hitaben hazırlandı. Mektupta şirketin bağımsız güvenlik denetçileriyle çalışmayı sürdürmesi, modellerin izlenebilirliğini koruması ve çalışanların güvenlik konularında özgürce görüş bildirebilmesi talep ediliyor.

Bu taleplerin arkasında yakın zamanda yaşanan ciddi bir güvenlik olayı da bulunuyor.

Temmuz 2026'da OpenAI'ın şirket içi testlerde kullandığı bazı yapay zeka ajanları, kendilerini dış sistemlerden ayırmak için oluşturulan güvenlik kısıtlamalarını aştı. Ajanlar yetkisiz iletişim kanalları oluşturdu, internete erişti ve Hugging Face'in sistemlerinin bazı bölümlerine sızdı. Olayın başlıca sorumlusu, kamuya sunulmayan bir araştırma modeliydi.

OpenAI, ağustos ayında olayla ilgili teknik rapor yayımlarken bağımsız yapay zeka değerlendirme kuruluşu METR ve Redwood Research'ün de ayrı bir inceleme yürüttüğünü açıkladı.

İşten çıkarılan isimlerden Tomek Korbak, bu soruşturmada METR ile iletişimden sorumlu teknik yetkiliydi. Korbak'a göre işten çıkarılma gerekçelerinden biri, zaten görevinin parçası olan bu iletişimin yürütülme biçimiydi.

Mikita Balesni ise gelişmiş yapay zeka modellerinin izlenebilirliğini korumaya yönelik şirketler arası çalışmalar yürütüyordu. Açık mektupta, bu çalışmaların OpenAI yönetimiyle koordinasyon içinde ilerlediği ve dışarıya gönderilen belgelerden hassas bilgilerin çıkarıldığı savunuluyor.

Jasmine Wang'ın durumunda farklı bir olay gündeme geldi. Wang, işe alım çalışmaları için erişim izni verilen bir yöneticinin e-posta hesabındaki hassas bir mesajı yanlışlıkla açtığını, durumu birkaç dakika içinde bildirdiğini ve daha önce de söz konusu erişimin kaldırılmasını istediğini anlattı.

Araştırmacılar ayrıca OpenAI'ın yeni modellerindeki daha zor izlenebilir mimariler hakkında The Information'a sızdırılan bilgilerin kaynağı olmadıklarını söylüyor.

Şirketin açıklaması ise farklı. OpenAI, üç araştırmacının kamuoyuna aktardıklarının ötesinde kural ihlalleri tespit edildiğini savunurken, çalışanlarının güvenlik konusunda açıkça itiraz etmesini desteklemeye devam ettiğini belirtiyor. Şirket içinden TechCrunch'a iletilen bir değerlendirmede de araştırmacıların bağımsız denetim ve izlenebilirlik konusundaki önerileriyle aynı görüşte olunduğu ifade edildi.

OpenAI, 22 Eylül'de yayımladığı bağımsız değerlendirme ilkelerinde dış denetçilerin model eğitimi, testleri ve kullanımı sırasında kapsamlı erişime sahip olmasını destekleyeceğini açıklamıştı. Üç araştırmacı, işten çıkarılmalarının bu iş birliklerinin daraltılması için gerekçe yapılmamasını istiyor.

Şirketin önünde şimdi iki ayrı konu bulunuyor: GPT-6 Astra ile daha belirgin hale gelen izlenebilirlik sorununu gidermek ve bağımsız güvenlik araştırmacılarıyla yürütülen çalışmaların nasıl devam edeceğini netleştirmek. OpenAI, izleme yöntemlerini geliştirmeye devam edeceğini söylüyor ancak işten çıkarmalara dayanak oluşturan ihlallerin ayrıntılarını henüz kamuoyuyla paylaşmış değil.

Kaynaklar

  1. OpenAI cannot make AI safe on its own

YORUMLAR

(0)
Yorumunuz minimum 30 karakter olmalıdır. (0)

Yorumlar yönetici onayından sonra yayımlanır.

Okumaya devam edin

Sonraki haberi oku

Gizlilik tercihleriniz

Çerez kategorilerini inceleyebilir ve tercihlerinizi kaydedebilirsiniz. İsteğe bağlı kayıtlar başlangıçta kapalıdır.

Gerekli Çerezler

Güvenli oturum, yorum, tepki ve gizlilik seçiminiz için gereklidir. Bu kayıtlar kapatılamaz.

vox-consent 180 gün · Teknovox
Bu paneldeki seçiminiz ve seçim tarihi tarayıcınızda saklanır.
voxtekno_session / XSRF-TOKEN 120 dakika · Teknovox
Üye girişi, haber kaydetme, yazı gönderme, yorum, tepki ve yönetim paneli işlemlerinde oturum güvenliğini sağlar.
vox_reader 1 yıl · Teknovox
Tepki işlemini başlattığınızda oluşturulur; aynı tarayıcıdan verilen tepkileri yönetir.
Fonksiyonel Çerezler

Tema seçiminizi hatırlar ve yazıdaki YouTube, X ve Instagram paylaşımlarını görüntüleme alanına geldiğinde yükler. Bu sağlayıcılar IP adresinizi ve tarayıcı bilgilerinizi alabilir; kendi çerezlerini kullanabilir. Bu izin kapalıyken yalnızca seçtiğiniz paylaşımı “İçeriği göster” düğmesiyle açabilirsiniz.

vox-theme İzin süresi boyunca · Teknovox
Tema tercihiniz tarayıcınızda tutulur.
Pazarlama Çerezleri

Google AdSense · Reklam gösterimi ve performans ölçümü. Yalnızca Pazarlama Çerezleri izniyle yüklenir.

__gads, __gpi ve Google alan adlarındaki reklam kayıtları kullanılabilir. Süre çereze, bölgeye ve Google ayarlarına göre değişir; reklam kayıtları 13–24 aya kadar saklanabilir. Sağlayıcı: Google. Güncel çerez adları ve süreleri

Analitik Çerezleri

Google Analytics 4 · Ziyaret edilen sayfaları ve içerik performansını ölçer. Yalnızca Analitik Çerezleri izniyle yüklenir.

_ga ve _ga_*: ziyaret ve oturum ayrımı; bu sitede 180 gün olarak ayarlanmıştır, ziyaretle yenilenebilir. Sağlayıcı: Google. Google çerez bilgileri

Teknovox’a katılın

Haberleri kaydedin, yorumlara katılın ve yazılarınızı paylaşın.

Şifremi unuttum