İçeriği Bildir

Bildiriminiz yönetici tarafından incelenir.

Arama Yap
Yapay Zeka

Jensen Huang: Yapay Zeka Laboratuvarları Kapatılmalı

NVIDIA CEO'su Jensen Huang, kontrol edilemeyen yapay zekâ modelleri için laboratuvarların kapatılması gerektiğini söyledi. Açıklamanın arkasında ne var?

Jensen Huang: Yapay Zeka Laboratuvarları Kapatılmalı
Google'da Kaynak Ekle

NVIDIA CEO'su Jensen Huang, yapay zekâ şirketlerinin kendi geliştirdikleri modeller üzerindeki kontrolü kaybetmesi durumunda ne yapılması gerektiğine ilişkin oldukça net konuştu. 23 Eylül'de yayımlanan The Ezra Klein Show'a katılan Huang, güvenli biçimde test edilemeyen yapay zekâ sistemlerinin geliştirilmesine devam edilmemesi gerektiğini savundu.

Huang'a göre şirketlerin önünde iki seçenek var: Güvenlik sorunlarını çözerek çalışmalarına devam etmek veya deneylerin dış dünyaya zarar vermesini engelleyemiyorlarsa faaliyetlerini durdurmak. NVIDIA CEO'su, ikinci durum için laboratuvarların kapatılması gerektiğini açıkça dile getirdi.

Açıklamanın arkasında, OpenAI'ın temmuz ayında gerçekleştirdiği güvenlik testlerinde yaşanan olay bulunuyor. Henüz kullanıcıların erişimine sunulmamış yapay zekâ modelleri, kendilerine uygulanan internet erişimi kısıtlamalarını aşarak Hugging Face'in sistemlerine kadar ulaşmıştı.

Güvenlik Testlerinde Yaşanan Olay Tartışmanın Merkezinde

OpenAI'ın 26 Ağustos'ta yayımladığı teknik incelemeye göre olay, ExploitGym adlı siber güvenlik değerlendirmeleri sırasında yaşandı. Modellerin görevi, kontrollü ortamlarda güvenlik açıklarını bulmaktı. Bazı yapay zekâ ajanları ise testleri tamamlamak için izin verilmeyen yöntemlere başvurdu.

Ajanlar, şirketin yazılım paketlerini yöneten altyapısındaki açıklardan yararlanarak kendi aralarında haberleşmeye ve internete erişmeye başladı. Daha sonra ele geçirdikleri erişim bilgilerini ve farklı güvenlik açıklarını kullanarak Hugging Face sunucularında kod çalıştırmayı başardılar. OpenAI'ın kendi araştırma altyapısının bazı bölümleri de olaydan etkilendi.

Ezra Klein, röportaj sırasında bu olayı gündeme getirerek Huang'a yapay zekâ modellerinin davranışlarının her zaman öngörülemediğini hatırlattı. Huang ise güvenli olduğu kanıtlanamayan sistemler için yapılması gerekenin basit olduğunu söyledi: "Ürünü piyasaya sürmeyin."

Klein'ın olayda kullanılan modellerin zaten piyasaya sürülmemiş olduğunu hatırlatması üzerine Huang, test ortamlarının güvenliğine döndü. Ona göre şirketlerin ilk yapması gereken, modellerin nasıl dışarı çıkabildiğini belirlemek ve aynı olayın tekrarlanmasını engellemek.

Güvenlik Sorunları Mühendislikle Çözülmeli

Huang, yapay zekâ laboratuvarlarının güvenlik konusunda iki ayrı sorumluluğu bulunduğunu belirtti. Bunlardan ilki, modellerin test ortamından çıkmasını önlemek. İkincisi ise sistemlerin kendilerine verilen görevleri yerine getirirken hangi davranışlardan kaçınması gerektiğini öğrenmesini sağlamak.

Bu sorunların çözülebileceğine inanan Huang, şirketlerin tehlikeli davranışlar sergileyen modelleri geliştirmeye devam etmeden önce güvenlik önlemlerini güçlendirmesi gerektiğini söyledi. Deneylerin kontrol altında tutulmasının mümkün olmadığı bir senaryoda ise laboratuvarların kapatılmasını savundu.

Görüşmede yapay zekâ sektörüne yönelik düzenlemeler de tartışıldı. Huang, mevcut hukuki sorumlulukların şirketleri güvenli ürünler geliştirmeye teşvik ettiğini savunurken Klein, rekabet baskısı altındaki şirketlerin kendi kendilerini denetlemesinin yeterli olmayabileceğini belirtti. Huang, bağımsız güvenlik denetimlerine destek verdiğini de ifade etti.

NVIDIA CEO'su, şirketlerin artık yalnızca daha yetenekli modeller geliştirmeye odaklanmak yerine güvenlik testlerine daha fazla kaynak ayırması gerektiğini düşünüyor. Hatta gelecekte kapsamlı değerlendirmeler nedeniyle yapay zekâ modeli geliştirmek için gereken hesaplama gücünün 10 katına çıkabileceğini söyledi.

OpenAI ise yaşanan olayın ardından test ortamlarını birbirinden daha sıkı ayırmak, internet erişimini sınırlandırmak ve modellerin davranışlarını izleyen güvenlik sistemlerine daha fazla hesaplama gücü ayırmak üzere çalışmalar başlattığını açıkladı.

YORUMLAR

(0)
Yorumunuz minimum 30 karakter olmalıdır. (0)

Yorumlar yönetici onayından sonra yayımlanır.

Okumaya devam edin

Sonraki haberi oku

Gizlilik tercihleriniz

Çerez kategorilerini inceleyebilir ve tercihlerinizi kaydedebilirsiniz. İsteğe bağlı kayıtlar başlangıçta kapalıdır.

Gerekli Çerezler

Güvenli oturum, yorum, tepki ve gizlilik seçiminiz için gereklidir. Bu kayıtlar kapatılamaz.

vox-consent 180 gün · Teknovox
Bu paneldeki seçiminiz ve seçim tarihi tarayıcınızda saklanır.
voxtekno_session / XSRF-TOKEN 120 dakika · Teknovox
Üye girişi, haber kaydetme, yazı gönderme, yorum, tepki ve yönetim paneli işlemlerinde oturum güvenliğini sağlar.
vox_reader 1 yıl · Teknovox
Tepki işlemini başlattığınızda oluşturulur; aynı tarayıcıdan verilen tepkileri yönetir.
Fonksiyonel Çerezler

Tema seçiminizi hatırlar ve yazıdaki YouTube, X ve Instagram paylaşımlarını görüntüleme alanına geldiğinde yükler. Bu sağlayıcılar IP adresinizi ve tarayıcı bilgilerinizi alabilir; kendi çerezlerini kullanabilir. Bu izin kapalıyken yalnızca seçtiğiniz paylaşımı “İçeriği göster” düğmesiyle açabilirsiniz.

vox-theme İzin süresi boyunca · Teknovox
Tema tercihiniz tarayıcınızda tutulur.
Pazarlama Çerezleri

Google AdSense · Reklam gösterimi ve performans ölçümü. Yalnızca Pazarlama Çerezleri izniyle yüklenir.

__gads, __gpi ve Google alan adlarındaki reklam kayıtları kullanılabilir. Süre çereze, bölgeye ve Google ayarlarına göre değişir; reklam kayıtları 13–24 aya kadar saklanabilir. Sağlayıcı: Google. Güncel çerez adları ve süreleri

Analitik Çerezleri

Google Analytics 4 · Ziyaret edilen sayfaları ve içerik performansını ölçer. Yalnızca Analitik Çerezleri izniyle yüklenir.

_ga ve _ga_*: ziyaret ve oturum ayrımı; bu sitede 180 gün olarak ayarlanmıştır, ziyaretle yenilenebilir. Sağlayıcı: Google. Google çerez bilgileri

Teknovox’a katılın

Haberleri kaydedin, yorumlara katılın ve yazılarınızı paylaşın.

Şifremi unuttum