Microsoft’un kurucu ortağı Bill Gates, yapay zeka şirketlerinin kendi kendini denetlemesinin yeterli olmadığını savundu. Gates’e göre ülkelerin ortak kurallarda buluşması ise Soğuk Savaş dönemindeki nükleer silah görüşmelerinden bile daha zor olabilir.
Yapay zeka geliştiren şirketlerin ne kadar serbest bırakılması gerektiği tartışılırken Bill Gates, devletlerin sürecin dışında kalamayacağını düşünüyor. NBC News’in Meet the Press programına katılan Gates, gelişmiş yapay zeka sistemleri için zorunlu güvenlik ve izleme mekanizmaları oluşturulması gerektiğini söyledi.
Gates’in üzerinde özellikle durduğu konu, kuralların yalnızca şirketlerin kendi inisiyatifine bırakılmaması. Yapay zekanın biyolojik tehditlerden gelişmiş siber saldırılara kadar oldukça farklı alanlarda kullanılabilecek seviyeye geldiğini belirten Gates, devletlerin denetim sürecine dahil edilmesini istiyor.
Bu çağrı, yapay zeka güvenliği konusunda Washington’da giderek büyüyen tartışmanın ortasında geldi. ABD Başkanı Donald Trump yönetimi, yapay zeka geliştirilmesini zorlaştıracak kapsamlı zorunlu düzenlemelere mesafeli dururken mevcut yaklaşım daha çok inovasyonu hızlandırma ve ABD’nin özellikle Çin karşısındaki teknolojik konumunu koruma üzerine kurulu. Haziran ayında yayımlanan Beyaz Saray kararnamesi de gelişmiş modeller için gönüllü iş birliği mekanizmaları öngörüyor ancak zorunlu lisanslama veya ön izin sistemi getirmiyor.
Yapay Zeka Anlaşması Neden Nükleer Silahlardan Daha Zor?
Gates’e, Soğuk Savaş sırasında ABD ile Sovyetler Birliği arasında kurulan nükleer silah kontrolü mekanizmalarının bugün ABD ve Çin arasında yapay zeka için kullanılıp kullanılamayacağı soruldu. Oldukça net bir cevap veren Bill Gates, bunun daha zor olacağını düşünüyor.
Nükleer silahlarda zenginleştirilmiş uranyum veya plütonyum gibi özel malzemelerin üretimi, nükleer testler ve büyük fiziksel tesisler belirli ölçülerde takip edilebiliyordu. Yapay zekada ise tablo farklı. Geliştirme faaliyeti büyük ölçüde özel şirketlerde yürütülüyor, modeller hızla güncellenebiliyor ve aynı altyapı çok farklı amaçlarla kullanılabiliyor.
Gates bu nedenle uluslararası bir yapay zeka anlaşmasının yalnızca ülkelerin belirli kuralları kabul etmesinden ibaret olamayacağını düşünüyor. Modellerin nasıl izlendiği, hangi yeteneklerin tehlikeli kabul edildiği ve şirketlerin güvenlik önlemlerinin nasıl denetleneceği gibi teknik konularda da ortak bir sistem kurulması gerekecek.
ABD Temsilciler Meclisi Üyesi Ro Khanna da benzer bir tartışmayı gündeme taşıdı. Khanna’nın önerileri arasında ABD ile Çin’in gelişmiş yapay zeka modelleri konusunda doğrulanabilir kurallar oluşturması, modeller piyasaya sürülmeden önce denetlenmesi ve kendi kendini geliştirebilen sistemlere ilişkin uluslararası sınırlamalar getirilmesi bulunuyor.
Gates ise ABD’nin bu süreçte öncü rol üstlenebileceğini savunuyor. Geçmişte havacılık güvenliği, ozon tabakasının korunması ve nükleer silahların sınırlandırılması gibi konularda ülkeler arasında kurulan iş birliklerini örnek gösteren Gates, yapay zeka konusunda da benzer bir uluslararası çabaya ihtiyaç olduğunu söyledi.
Gates’e Göre Asıl Tehlike Yapay Zekanın Kendisi Değil
Yapay zeka güvenliği tartışmaları çoğu zaman sistemlerin insan kontrolünden tamamen çıkması ihtimali üzerinden ilerliyor. Gates ise daha yakın vadede başka bir riske işaret ediyor: Güçlü yapay zeka araçlarının kötü niyetli insanların eline geçmesi.
Gates, gelişmiş modellerin siber saldırı düzenlemek veya biyolojik tehditler geliştirmek isteyen küçük grupların kapasitesini ciddi biçimde artırabileceğini düşünüyor. Ona göre geçmişte büyük devletlerin kaynaklarına ihtiyaç duyabilecek bazı saldırılar, yapay zeka sayesinde çok daha az kişi tarafından gerçekleştirilebilir hale gelebilir.
Bu yüzden tartışılan acil kapatma düğmesi fikrini de tek başına yeterli görmüyor. Bir modeli gerektiğinde kapatabilmek faydalı olsa da Gates’e göre asıl ihtiyaç, sistemlerin ne yaptığını sürekli takip edebilen güvenlik ve denetim mekanizmaları. Şirketlerin bunu tamamen gönüllü biçimde yapmasını beklemek de yeterli değil.
Tartışmanın son aylarda hızlanmasının nedenlerinden biri de otonom yapay zeka ajanlarının daha karmaşık görevleri insan müdahalesi olmadan yerine getirmeye başlaması. OpenAI, temmuz ayında yürüttüğü bir güvenlik testi sırasında otonom bir ajanın belirlenen sınırların dışına çıkarak başka bir şirketin sistemine eriştiğini açıklamıştı. Bu olaydan sonra gelişmiş ajanların nasıl denetleneceğine yönelik çağrılar daha da arttı.
Gates’in önerdiği model, yapay zeka çalışmalarının tamamen durdurulmasına dayanmıyor. Güvenlik kontrolleri ve zorunlu izleme sistemlerinin sektöre ek yük getireceğini kabul ediyor ancak bunun teknolojik ilerlemeyi ciddi biçimde yavaşlatacağı görüşüne katılmıyor.
Asıl çözülmesi gereken konu ise uluslararası denetimin nasıl uygulanacağı. Yapay zeka modellerinin hangi yetenek seviyesinden sonra özel denetime tabi tutulacağı, ülkelerin birbirlerinin kurallara uyduğunu nasıl doğrulayacağı ve bu denetimin hangi kurum tarafından yapılacağı konusunda henüz küresel bir anlaşma bulunmuyor.
