Donald Trump ile Google, Meta, OpenAI, Anthropic, Nvidia ve xAI yöneticilerinin imzaladığı anlaşma; iç denetim, bağımsız değerlendirme ve yönetim kurulu gözetimi getiriyor. Ancak maddelerin hukuki yaptırımı bulunmuyor.
ABD Başkanı Donald Trump, 29 Eylül'de Beyaz Saray'da teknoloji dünyasının önde gelen yöneticileriyle bir araya geldi. Görüşmenin sonunda yapay zeka sistemlerinin güvenliği için şirketlerin uygulayacağı ortak ilkeleri belirleyen gönüllü bir anlaşmaya imza atıldı.
Joint Commitment on Frontier Responsibilities adı verilen metinde Google CEO'su Sundar Pichai, Anthropic CEO'su Dario Amodei, Meta CEO'su Mark Zuckerberg, OpenAI Başkanı Greg Brockman, Nvidia CEO'su Jensen Huang ve xAI'ın kurucusu Elon Musk'ın imzası bulunuyor. Trump da belgeyi imzalayan isimler arasında.
Anlaşmanın merkezinde şirketlerin geliştirdikleri ileri seviye yapay zeka modellerini önce kendi bünyelerinde denetlemesi, ardından bağımsız dış değerlendirmeye açması var. Metin herhangi bir para cezası, lisans şartı veya başka bir hukuki yaptırım belirlemiyor. Trump anlaşmayı morally binding, yani hukuki değil ahlaki açıdan bağlayıcı bir düzenleme olarak nitelendirdi.
Yapay Zeka Şirketleri Dört Aşamalı Denetim Uygulayacak
İmzalanan metin şirketlerden dört temel güvenlik katmanı oluşturmasını istiyor. İlk sırada, modellerin eğitim ve kullanıma sunulma aşamalarında davranışlarının sürekli takip edilmesi bulunuyor. Siber güvenlik, biyolojik ve kimyasal tehditler özellikle belirtilen alanlar arasında.
Buradaki amaçlardan biri de gelişmiş modellerin kendilerinden beklenmeyen şekilde bilgisayar sistemlerine erişmesini veya sistemleri hacklemeye çalışmasını erkenden tespit etmek. Şirketlerin bu kontrollerin düzgün çalışıp çalışmadığını izleyecek ayrı bir iç ekip oluşturması da anlaşmanın ikinci maddesini oluşturuyor.
Üçüncü katmanda şirket dışından bir denetçi veya bağımsız değerlendirme kuruluşu devreye giriyor. Bu kurumların şirketlerin güvenlik kontrollerini ve tespit sistemlerini bağımsız biçimde incelemesi öngörülüyor.
Son aşamada ise şirketlerin yönetim kurulu seviyesinde bağımsız bir komite oluşturması isteniyor. İç güvenlik ekipleri ile dış denetçilerden gelen raporları alacak bu komite, tespit edilen sorunların giderilip giderilmediğini de takip edecek.
Şirketlerin hangi bağımsız denetçilerle çalışacağına ilişkin ortak bir devlet kurumu veya merkezi denetçi ise belirlenmiş değil. Anlaşma ayrıca denetim sonuçlarının tamamının kamuoyuyla paylaşılmasını zorunlu kılan bir madde içermiyor.
Metnin sonunda katılımcı şirketlerin güvenlik standartları ve iyi uygulamalar üzerinde çalışmak için düzenli olarak bir araya gelmesi planlanıyor. Anlaşmada bu adımların ileride yasa veya düzenlemelere dönüştürülmesinin de mümkün olabileceği açıkça belirtiliyor.
ABD'de nasıl bir yapay zeka düzenleme modeli uygulanması gerektiği konusunda ise tartışma sürüyor. Kongre'deki bazı isimler daha bağlayıcı kurallar istiyor. Örneğin Senatör Maria Cantwell'in de aralarında bulunduğu 17 senatör, kısa süre önce ileri seviye modellerin geliştirilmesi ve test edilmesi için resmi güvenlik standartları oluşturulması çağrısında bulunmuştu.
Trump yönetiminin yaklaşımı şu aşamada daha çok mevcut yasaların uygulanması ve şirketlerin kendi güvenlik mekanizmalarını güçlendirmesi üzerine kurulu. Beyaz Saray'daki toplantıda veri merkezlerinin hızla büyütülmesi ve ABD'nin yapay zeka alanındaki teknolojik konumunun korunması da gündeme gelen başlıklar arasındaydı.
ABD Yönetimi Artık Yapay Zekaya, Süper Zeka Diyecek
29 Eylül'deki gelişmeler yalnızca şirketlerle imzalanan güvenlik anlaşmasıyla sınırlı kalmadı. Trump aynı gün "Inaugurating the Era of Super Intelligence" başlıklı bir yürütme emri de imzaladı.
Kararla birlikte ABD yürütme organındaki kurumlara resmi yazışmalarda, kamuya açık iletişimde, politika belgelerinde ve kanun niteliği taşımayan diğer dokümanlarda "Artificial Intelligence" ve "AI" yerine "Super Intelligence" ile "SI" ifadelerini kullanma talimatı verildi.
Bu değişiklik mevcut ABD yasalarındaki "artificial intelligence" tanımlarını bir gecede ortadan kaldırmıyor. Yürütme emri, Başkan'ın Bilim ve Teknoloji Danışmanı'na 60 gün içinde "Super Intelligence" için federal bir tanım hazırlama ve mevcut yasalardaki AI tanımının değiştirilip değiştirilmemesi gerektiğini değerlendirme görevi veriyor. Gerek görülürse Kongre'ye sunulabilecek mevzuat değişikliklerinin de hazırlanması isteniyor.
Trump, "artificial" kelimesinin teknolojiyi olduğundan daha yapay veya sahte gösterdiğini savunurken "super intelligence" ifadesinin kullanılmasını tercih ettiğini söyledi. Yeni isimlendirme bu nedenle yalnızca bir slogan olarak kalmayacak; en azından yürütme organının resmi iletişiminde kullanılacak.
Beyaz Saray'daki anlaşmanın ise bundan sonraki aşaması şirketlerin dört güvenlik katmanını kendi sistemlerine nasıl uygulayacağı olacak. Şimdilik şirketlerin uyumunu zorlayacak ayrı bir yaptırım mekanizması bulunmuyor; imzalanan metin, ileride bu ilkelerin yasa veya düzenlemeye dönüştürülebileceği ihtimalini açık bırakıyor.
