İçeriği Bildir

Bildiriminiz yönetici tarafından incelenir.

Arama Yap
Yapay Zeka

Claude'un Geliştiricisinden Açık Yapay Zeka Modellerine Güvenlik Eleştirisi

Claude'un geliştiricisi Anthropic, açık yapay zeka modellerinin güvenlik açısından daha fazla risk taşıdığını savunuyor. Şirketin açıklaması, Avrupa'da açık modellerin giderek güçlendiği bir dönemde geldi.

Anthropic, Açık Yapay Zeka Modellerini Daha Riskli Buluyor
Google'da Kaynak Ekle

Haber Özeti

  • Anthropic yöneticisi Guillaume Princen, açık modellerin daha fazla güvenlik riski taşıdığını söyledi.
  • Dario Amodei, Temmuz ayında açık ağırlıklı modellerin yasaklanmasını savunmadığını açıklamıştı.
  • Mistral Large 4 yaklaşık 1 trilyon parametreye sahip ve ağırlıklarının Ekim sonunda yayımlanması planlanıyor.
  • Anthropic'in araştırması, yapay zeka modellerinin kontrollü ağlarda kendilerini çoğaltmaya yönelik bazı görevleri tamamlayabildiğini gösterdi.
  • Avrupa Birliği, belirli şartları karşılayan açık kaynaklı modellere düzenleyici muafiyetler tanıyor.

Yapay zeka modellerinin herkese açık olması, güvenlik açısından avantaj mı yoksa tehdit mi? Anthropic'in uluslararası operasyonlarından sorumlu yöneticisi Guillaume Princen, açık modellerin daha yüksek risk taşıdığını düşünüyor. Princen, 14 Ekim'de Dublin'de düzenlenen Uluslararası Yapay Zeka Zirvesi sırasında Bloomberg TV'ye yaptığı açıklamada, açık kaynaklı yapay zeka sistemlerinin güvenliği konusunda çok dikkatli olunması gerektiğini söyledi.

Princen'e göre açık modeller, yapıları gereği kapalı sistemlerden daha fazla risk barındırıyor. Bu değerlendirme, Claude gibi gelişmiş modellerini kendi altyapısı üzerinden sunan Anthropic'in uzun süredir savunduğu güvenlik yaklaşımıyla örtüşüyor. Fakat şirketin daha önce açık modellere yönelik yaptığı açıklamalardan daha kesin bir ifade içeriyor.

Açıklamanın zamanlaması da önemli. Avrupa merkezli Mistral AI, yalnızca sekiz gün önce yeni nesil Mistral Large 4 modelini tanıttı. Avrupa'nın ABD ve Çin merkezli yapay zeka şirketlerine bağımlılığını azaltmayı hedefleyen model, yakında indirilebilir ağırlıklarıyla kullanıma sunulacak. Böylece şirketlerin kendi sunucularında çalıştırabileceği güçlü yapay zeka sistemleri ile Anthropic'in kontrollü erişim yaklaşımı arasındaki rekabet daha görünür hale geliyor.

Açık Yapay Zeka Modelleri Neden Güvenlik Tartışmasının Merkezinde?

Anthropic CEO'su Dario Amodei, 27 Temmuz'da yayımladığı açıklamada şirketinin açık ağırlıklı yapay zeka modellerinin yasaklanmasını savunmadığını belirtmişti. Amodei, tehlikeli yeteneklere sahip olmayan açık modelleri geliştiriciler, araştırmacılar ve işletmeler için toplumsal fayda sağlayan bir teknoloji olarak tanımlamıştı.

Amodei'nin asıl endişesi, gelişmiş modellerin siber saldırılarda veya biyolojik tehditlerin geliştirilmesinde kullanılabilmesi. Açık ağırlıklı modellerde güvenlik sınırlamalarının kaldırılabilmesi ve indirilen bir modelin kullanımının merkezi olarak denetlenememesi bu endişeyi artırıyor.

Kapalı modellerde geliştirici şirket, hizmete erişimi sınırlandırabiliyor, şüpheli kullanımları izleyebiliyor ve gerektiğinde modeli devre dışı bırakabiliyor. Model ağırlıkları yayımlandığında ise bunları indiren kişilerin sistemi nasıl değiştireceğini veya hangi amaçlarla çalıştıracağını kontrol etmek çok daha zor.

Açıklık, güvenlik çalışmalarına da katkı sağlayabiliyor. Bağımsız araştırmacılar modelleri inceleyebiliyor, güvenlik açıklarını araştırabiliyor ve koruma yöntemleri geliştirebiliyor. Üstelik kurumlar kendi altyapılarında çalıştırdıkları modeller üzerinde daha fazla denetim sahibi oluyor.

Bu yaklaşımın en yeni örneklerinden biri Mistral Large 4. Fransız Mistral AI tarafından 6 Ekim'de tanıtılan model, yaklaşık 1 trilyon toplam parametreye sahip. Uzmanların Karışımı (Mixture-of-Experts) mimarisini kullanan sistem, her işlem sırasında yaklaşık 52 milyar aktif parametreden yararlanıyor.

Mistral, yeni modelini özellikle kod geliştirme, siber güvenlik, finans ve kurumsal uygulamalarda kullanıma uygun bir alternatif olarak konumlandırıyor. Avrupa'daki veri merkezlerinde eğitilen Large 4, şimdilik Mistral Studio üzerinden API erişimiyle denenebiliyor. Model ağırlıklarının Ekim ayı sonuna kadar yayımlanması planlanıyor.

Şirketin yaklaşımında veri egemenliği de öne çıkıyor. Kurumlar model ağırlıklarına eriştiklerinde sistemi kendi veri merkezlerine kurabilecek, hassas bilgilerini başka bir yapay zeka sağlayıcısına göndermeden işlem yapabilecek. Siber güvenlik ekipleri de bazı kapalı modellerin güvenlik filtrelerinin engellediği meşru testleri kendi kuralları çerçevesinde yürütebilecek.

Anthropic'in Güvenlik Araştırmaları Açık Modeller Hakkında Ne Söylüyor?

Açık modellerin kötüye kullanılabileceğine ilişkin endişeleri destekleyen araştırmalar bulunuyor. Bağımsız yapay zeka güvenliği kuruluşu SaferAI tarafından yayımlanan GLM-5.2 değerlendirmesi bunlardan biri.

Araştırmacılar, Çinli Z.ai tarafından geliştirilen açık ağırlıklı GLM-5.2 modelini siber güvenlik ve biyoloji alanındaki görevlerle test etti. Model, değerlendirmede kullanılan saldırı amaçlı siber güvenlik ve çift kullanımlı biyoloji taleplerinin hiçbirini reddetmedi. Karşılaştırmaya dahil edilen bazı kapalı modeller ise güvenlik sınırlamaları nedeniyle belirli görevleri gerçekleştirmedi.

Bu sonuç, açık modellerin tamamının aynı davranışı sergilediği anlamına gelmiyor. SaferAI de çalışmasında genel bir risk hükmü vermek yerine güçlü açık modellerin daha kapsamlı bağımsız güvenlik testlerinden geçirilmesi gerektiğini vurguluyor.

Anthropic'in 12 Ekim'de yayımladığı başka bir araştırma, konunun farklı bir boyutunu ortaya koydu. Şirketin Frontier Red Team ekibi, küçük yapay zeka modellerinin akıllı televizyon kutuları gibi düşük maliyetli cihazlarda çalıştırılmasını ve bir ağ içinde kendilerini çoğaltmak için gerekli işlemleri gerçekleştirmesini inceledi.

Deneylerde Gemma 4 tabanlı 26 milyar parametreli bir model, 15 Android TV kutusu üzerinde dağıtılarak çalıştırıldı. Ayrı bir kontrollü ağ testinde ise GLM-5.2, sekiz hedef düğümün tamamına ulaşmayı beş denemenin dördünde başardı. Bu deneyde saldırı aşaması basitleştirilmişti ve büyük modelin kendisi hedef cihazlarda çalışmıyordu. Araştırmacılar, gerçek dünyada bağımsız biçimde yayılan eksiksiz bir yapay zeka zararlısı geliştirdiklerini söylemiyor.

Anthropic'in tercih ettiği çözüm, güçlü yetenekleri tamamen serbest bırakmak yerine doğrulanmış araştırmacılara kontrollü erişim sağlamak. Şirket, 6 Ekim'de genişlettiği Cyber Verification Program kapsamında güvenlik uzmanlarına farklı yetki seviyeleri sunmaya başladı. Program, Claude Opus 5.5 ve Claude Mythos 5.1 gibi modellerin gelişmiş siber güvenlik yeteneklerine belirli koşullarla erişilmesini sağlıyor.

Bu sistemde kullanıcıların kimliği ve çalışma alanı doğrulanıyor. Yetkili güvenlik ekipleri daha az kısıtlamayla çalışabiliyor ancak model ağırlıkları kendilerine verilmiyor.

Avrupa Birliği'nin yaklaşımı ise açık kaynaklı yapay zeka sistemlerine belirli kolaylıklar tanıyor. Yapay Zeka Yasası'nın 53. maddesi, gerekli koşulları karşılayan açık kaynaklı genel amaçlı modelleri bazı teknik belgelendirme yükümlülüklerinden muaf tutuyor. Sistemik risk taşıyan modeller bu muafiyetten yararlanamıyor. Telif hakkı politikası ve eğitim verilerine ilişkin özet yayımlama yükümlülükleri de devam ediyor.

Anthropic cephesinde rekabetin ekonomik tarafı da var. Şirketin 22 Eylül'de tanıttığı Claude Opus 5.5, önceki Opus 5 modeline kıyasla standart giriş ve çıkış token fiyatlarında yüzde 20 indirimle sunuluyor. Anthropic, daha verimli token kullanımı ve önbellek maliyetlerindeki düşüş sayesinde tipik iş yüklerinde toplam maliyetin yaklaşık yüzde 40 azaldığını belirtiyor.

Açık model geliştiricileri ise şirketlerin tek bir sağlayıcıya bağlı kalmadan kendi sistemlerini çalıştırabilmesini öne çıkarıyor. Mistral'ın bu tartışmadaki ilk somut sınavı da yaklaşıyor. Large 4'ün ağırlıkları yayımlanmadan önce model, siber güvenlik kuruluşları, seçilmiş iş ortakları ve kamu kurumlarıyla gerçek kullanım koşullarında test ediliyor. Mistral, bu sürecin ardından model mimarisi ve güvenlik değerlendirmelerine ilişkin daha fazla teknik bilgi paylaşacağını açıkladı.

Kaynaklar

  1. Our position on open-weights models

YORUMLAR

(0)
Yorumunuz minimum 30 karakter olmalıdır. (0)

Yorumlar yönetici onayından sonra yayımlanır.

Okumaya devam edin

Sonraki haberi oku

Gizlilik tercihleriniz

Çerez kategorilerini inceleyebilir ve tercihlerinizi kaydedebilirsiniz. İsteğe bağlı kayıtlar başlangıçta kapalıdır.

Gerekli Çerezler

Güvenli oturum, yorum, tepki ve gizlilik seçiminiz için gereklidir. Bu kayıtlar kapatılamaz.

vox-consent 180 gün · Teknovox
Bu paneldeki seçiminiz ve seçim tarihi tarayıcınızda saklanır.
voxtekno_session / XSRF-TOKEN 120 dakika · Teknovox
Üye girişi, haber kaydetme, yazı gönderme, yorum, tepki ve yönetim paneli işlemlerinde oturum güvenliğini sağlar.
vox_reader 1 yıl · Teknovox
Tepki işlemini başlattığınızda oluşturulur; aynı tarayıcıdan verilen tepkileri yönetir.
Fonksiyonel Çerezler

Tema seçiminizi hatırlar ve yazıdaki YouTube, X ve Instagram paylaşımlarını görüntüleme alanına geldiğinde yükler. Bu sağlayıcılar IP adresinizi ve tarayıcı bilgilerinizi alabilir; kendi çerezlerini kullanabilir. Bu izin kapalıyken yalnızca seçtiğiniz paylaşımı “İçeriği göster” düğmesiyle açabilirsiniz.

vox-theme İzin süresi boyunca · Teknovox
Tema tercihiniz tarayıcınızda tutulur.
Pazarlama Çerezleri

Google AdSense · Reklam gösterimi ve performans ölçümü. Yalnızca Pazarlama Çerezleri izniyle yüklenir.

__gads, __gpi ve Google alan adlarındaki reklam kayıtları kullanılabilir. Süre çereze, bölgeye ve Google ayarlarına göre değişir; reklam kayıtları 13–24 aya kadar saklanabilir. Sağlayıcı: Google. Güncel çerez adları ve süreleri

Analitik Çerezleri

Google Analytics 4 · Ziyaret edilen sayfaları ve içerik performansını ölçer. Yalnızca Analitik Çerezleri izniyle yüklenir.

_ga ve _ga_*: ziyaret ve oturum ayrımı; bu sitede 180 gün olarak ayarlanmıştır, ziyaretle yenilenebilir. Sağlayıcı: Google. Google çerez bilgileri

Teknovox’a katılın

Haberleri kaydedin, yorumlara katılın ve yazılarınızı paylaşın.

Şifremi unuttum