Microsoft'un kurucularından Bill Gates, yapay zekanın kötü niyetli kişilerin elinde bugüne kadar görülmemiş ölçekte bir tehdide dönüşebileceğini söyledi. Gates, şirketlerin kendi güvenlik kurallarını belirlemesinin yeterli olmadığını ve devletlerin sürece dahil olması gerektiğini savunuyor.
Yapay zekanın giderek daha yetenekli hale gelmesi, teknolojinin güvenliği konusunda yıllardır devam eden tartışmayı başka bir seviyeye taşıyor. Bu kez uyarı, teknoloji dünyasının en tanınan isimlerinden Bill Gates'ten geldi.
NBC News'in “Meet the Press” programına katılan Gates'e yapay zekanın insanlığın tamamını yok edebilecek kadar tehlikeli olup olmadığı soruldu. Gates doğrudan böyle bir öngörüde bulunmadı ancak çok daha somut bir riskten söz etti: Yapay zekanın, 1 milyar insanın ölümüne neden olabilecek olayları tetikleyecek kadar güçlü olduğunu söyledi.
Gates'in sözlerinin merkezinde yapay zekanın kendi başına insanlığa saldırması gibi bir senaryodan çok, gelişmiş modellerin kötü niyetli kişiler tarafından kullanılması var. Microsoft'un kurucusuna göre günümüzdeki yapay zeka araçlarıyla bunu yapmak isteyen insanların oluşturduğu kombinasyon, daha önce karşılaşılmamış büyüklükte bir tehdit yaratabilir.
Gates'e Göre Asıl Tehlike Kötü Niyetli Kişiler
Gates özellikle biyolojik tehditler ve siber saldırılar üzerinde duruyor. Gelişmiş yapay zeka modellerinin ilaç geliştirmek gibi faydalı amaçlarla kullanılabilen yetenekleri, aynı zamanda tehlikeli biyolojik ajanların tasarlanması veya siber saldırıların çok daha geniş ölçekte gerçekleştirilmesi için de kullanılabilir.
Buradaki sorunlardan biri, sistemin karşısındaki kişinin niyetini anlamanın kolay olmaması. Aynı teknik bilgi bir hastalığa karşı yeni bir tedavi geliştirmek isteyen araştırmacıya da biyoterör amacı taşıyan bir kişiye de yardımcı olabilir.
Gates, son dönemde yapay zeka sistemlerinin biyoteknoloji ve siber saldırılar konusunda ulaştığı kapasitenin hızlı biçimde arttığını düşünüyor. Üstelik yapay zekadaki ilerlemenin büyük bölümü devlet destekli programlardan değil, özel sektörün yürüttüğü çalışmalardan geliyor. Ona göre bu durum kamu kurumlarının teknolojinin geldiği noktayı ve yeni riskleri takip etmesini zorlaştırıyor.
Gates buna rağmen yapay zeka geliştirme çalışmalarının tamamen durdurulmasını savunmuyor. Tartışmanın "yapay zekâyı geliştirelim mi, durduralım mı?" ikilemine sıkıştırılmasından ziyade güvenlik önlemlerinin zorunlu hale getirilmesi gerektiğini düşünüyor.
Şirketlerin Kendi Kendini Denetlemesi Yeterli Değil
Gates'in en net olduğu konulardan biri düzenleme. Yapay zeka şirketlerinin gönüllü olarak kendi güvenlik önlemlerini oluşturmasının yeterli olmayacağını söyleyen Gates, ABD'de bu konuda yasal düzenleme yapılmasını destekliyor.
Bill Gates'e göre, gelişmiş yapay zeka sistemlerinde hangi güvenlik önlemlerinin bulunacağını ve bu sistemlerin nasıl izleneceğini belirleyen sürecin parçası olmalı. Gates, söz konusu gerekliliklerin şirketlere ek yük getireceğini kabul ediyor ancak bunun yapay zeka çalışmalarının hızını ciddi ölçüde düşürmeyeceği görüşünde.
Gates ayrıca yapay zeka için sık sık gündeme gelen tek bir acil kapatma düğmesi fikrine mesafeli yaklaşıyor. Günümüzdeki sistemlerin bağımsız biçimde bilgisayarların kontrolünü ele geçirip kapatılmalarını engelleyecek bir seviyede olmadığını belirten Gates için daha yakın risk, güçlü modellerin insanlar tarafından zararlı amaçlarla kullanılması.
Bu açıklamalar Gates'in yapay zekaya tamamen karşı bir pozisyon aldığı anlamına gelmiyor. Gates Foundation kısa süre önce sağlık, eğitim ve tarım gibi alanlarda yapay zeka kullanımını desteklemek amacıyla 1 milyar dolarlık yeni bir girişim açıklamıştı. Gates uzun süredir teknolojinin özellikle sağlık alanında büyük faydalar sağlayabileceğini savunurken, aynı araçların kötüye kullanım ihtimaline karşı daha güçlü kurallar getirilmesini istiyor.
