İçeriği Bildir

Bildiriminiz yönetici tarafından incelenir.

Arama Yap
Yapay Zeka

Yapay Zeka İçin Küresel Anlaşma, Nükleer Silah Müzakerelerinden Daha Zor Olacak

Bill Gates, küresel yapay zeka kurallarında anlaşmanın Soğuk Savaş’taki nükleer silah müzakerelerinden daha zor olabileceğini söyledi.

Yapay Zeka İçin Küresel Anlaşma, Nükleer Silah Müzakerelerinden Daha Zor Olacak
Google'da Kaynak Ekle

Microsoft’un kurucu ortağı Bill Gates, yapay zeka şirketlerinin kendi kendini denetlemesinin yeterli olmadığını savundu. Gates’e göre ülkelerin ortak kurallarda buluşması ise Soğuk Savaş dönemindeki nükleer silah görüşmelerinden bile daha zor olabilir.

Yapay zeka geliştiren şirketlerin ne kadar serbest bırakılması gerektiği tartışılırken Bill Gates, devletlerin sürecin dışında kalamayacağını düşünüyor. NBC News’in Meet the Press programına katılan Gates, gelişmiş yapay zeka sistemleri için zorunlu güvenlik ve izleme mekanizmaları oluşturulması gerektiğini söyledi.

Gates’in üzerinde özellikle durduğu konu, kuralların yalnızca şirketlerin kendi inisiyatifine bırakılmaması. Yapay zekanın biyolojik tehditlerden gelişmiş siber saldırılara kadar oldukça farklı alanlarda kullanılabilecek seviyeye geldiğini belirten Gates, devletlerin denetim sürecine dahil edilmesini istiyor.

Bu çağrı, yapay zeka güvenliği konusunda Washington’da giderek büyüyen tartışmanın ortasında geldi. ABD Başkanı Donald Trump yönetimi, yapay zeka geliştirilmesini zorlaştıracak kapsamlı zorunlu düzenlemelere mesafeli dururken mevcut yaklaşım daha çok inovasyonu hızlandırma ve ABD’nin özellikle Çin karşısındaki teknolojik konumunu koruma üzerine kurulu. Haziran ayında yayımlanan Beyaz Saray kararnamesi de gelişmiş modeller için gönüllü iş birliği mekanizmaları öngörüyor ancak zorunlu lisanslama veya ön izin sistemi getirmiyor.

Yapay Zeka Anlaşması Neden Nükleer Silahlardan Daha Zor?

Gates’e, Soğuk Savaş sırasında ABD ile Sovyetler Birliği arasında kurulan nükleer silah kontrolü mekanizmalarının bugün ABD ve Çin arasında yapay zeka için kullanılıp kullanılamayacağı soruldu. Oldukça net bir cevap veren Bill Gates, bunun daha zor olacağını düşünüyor.

Nükleer silahlarda zenginleştirilmiş uranyum veya plütonyum gibi özel malzemelerin üretimi, nükleer testler ve büyük fiziksel tesisler belirli ölçülerde takip edilebiliyordu. Yapay zekada ise tablo farklı. Geliştirme faaliyeti büyük ölçüde özel şirketlerde yürütülüyor, modeller hızla güncellenebiliyor ve aynı altyapı çok farklı amaçlarla kullanılabiliyor.

Gates bu nedenle uluslararası bir yapay zeka anlaşmasının yalnızca ülkelerin belirli kuralları kabul etmesinden ibaret olamayacağını düşünüyor. Modellerin nasıl izlendiği, hangi yeteneklerin tehlikeli kabul edildiği ve şirketlerin güvenlik önlemlerinin nasıl denetleneceği gibi teknik konularda da ortak bir sistem kurulması gerekecek.

ABD Temsilciler Meclisi Üyesi Ro Khanna da benzer bir tartışmayı gündeme taşıdı. Khanna’nın önerileri arasında ABD ile Çin’in gelişmiş yapay zeka modelleri konusunda doğrulanabilir kurallar oluşturması, modeller piyasaya sürülmeden önce denetlenmesi ve kendi kendini geliştirebilen sistemlere ilişkin uluslararası sınırlamalar getirilmesi bulunuyor.

Gates ise ABD’nin bu süreçte öncü rol üstlenebileceğini savunuyor. Geçmişte havacılık güvenliği, ozon tabakasının korunması ve nükleer silahların sınırlandırılması gibi konularda ülkeler arasında kurulan iş birliklerini örnek gösteren Gates, yapay zeka konusunda da benzer bir uluslararası çabaya ihtiyaç olduğunu söyledi.

Gates’e Göre Asıl Tehlike Yapay Zekanın Kendisi Değil

Yapay zeka güvenliği tartışmaları çoğu zaman sistemlerin insan kontrolünden tamamen çıkması ihtimali üzerinden ilerliyor. Gates ise daha yakın vadede başka bir riske işaret ediyor: Güçlü yapay zeka araçlarının kötü niyetli insanların eline geçmesi.

Gates, gelişmiş modellerin siber saldırı düzenlemek veya biyolojik tehditler geliştirmek isteyen küçük grupların kapasitesini ciddi biçimde artırabileceğini düşünüyor. Ona göre geçmişte büyük devletlerin kaynaklarına ihtiyaç duyabilecek bazı saldırılar, yapay zeka sayesinde çok daha az kişi tarafından gerçekleştirilebilir hale gelebilir.

Bu yüzden tartışılan acil kapatma düğmesi fikrini de tek başına yeterli görmüyor. Bir modeli gerektiğinde kapatabilmek faydalı olsa da Gates’e göre asıl ihtiyaç, sistemlerin ne yaptığını sürekli takip edebilen güvenlik ve denetim mekanizmaları. Şirketlerin bunu tamamen gönüllü biçimde yapmasını beklemek de yeterli değil.

Tartışmanın son aylarda hızlanmasının nedenlerinden biri de otonom yapay zeka ajanlarının daha karmaşık görevleri insan müdahalesi olmadan yerine getirmeye başlaması. OpenAI, temmuz ayında yürüttüğü bir güvenlik testi sırasında otonom bir ajanın belirlenen sınırların dışına çıkarak başka bir şirketin sistemine eriştiğini açıklamıştı. Bu olaydan sonra gelişmiş ajanların nasıl denetleneceğine yönelik çağrılar daha da arttı.

Gates’in önerdiği model, yapay zeka çalışmalarının tamamen durdurulmasına dayanmıyor. Güvenlik kontrolleri ve zorunlu izleme sistemlerinin sektöre ek yük getireceğini kabul ediyor ancak bunun teknolojik ilerlemeyi ciddi biçimde yavaşlatacağı görüşüne katılmıyor.

Asıl çözülmesi gereken konu ise uluslararası denetimin nasıl uygulanacağı. Yapay zeka modellerinin hangi yetenek seviyesinden sonra özel denetime tabi tutulacağı, ülkelerin birbirlerinin kurallara uyduğunu nasıl doğrulayacağı ve bu denetimin hangi kurum tarafından yapılacağı konusunda henüz küresel bir anlaşma bulunmuyor.

YORUMLAR

(0)
Yorumunuz minimum 30 karakter olmalıdır. (0)

Yorumlar yönetici onayından sonra yayımlanır.

Okumaya devam edin

Sonraki haberi oku

Gizlilik tercihleriniz

Çerez kategorilerini inceleyebilir ve tercihlerinizi kaydedebilirsiniz. İsteğe bağlı kayıtlar başlangıçta kapalıdır.

Gerekli Çerezler

Güvenli oturum, yorum, tepki ve gizlilik seçiminiz için gereklidir. Bu kayıtlar kapatılamaz.

vox-consent 180 gün · Teknovox
Bu paneldeki seçiminiz ve seçim tarihi tarayıcınızda saklanır.
voxtekno_session / XSRF-TOKEN 120 dakika · Teknovox
Üye girişi, haber kaydetme, yazı gönderme, yorum, tepki ve yönetim paneli işlemlerinde oturum güvenliğini sağlar.
vox_reader 1 yıl · Teknovox
Tepki işlemini başlattığınızda oluşturulur; aynı tarayıcıdan verilen tepkileri yönetir.
Fonksiyonel Çerezler

Tema seçiminizi hatırlar ve yazıdaki YouTube, X ve Instagram paylaşımlarını görüntüleme alanına geldiğinde yükler. Bu sağlayıcılar IP adresinizi ve tarayıcı bilgilerinizi alabilir; kendi çerezlerini kullanabilir. Bu izin kapalıyken yalnızca seçtiğiniz paylaşımı “İçeriği göster” düğmesiyle açabilirsiniz.

vox-theme İzin süresi boyunca · Teknovox
Tema tercihiniz tarayıcınızda tutulur.
Pazarlama Çerezleri

Google AdSense · Reklam gösterimi ve performans ölçümü. Yalnızca Pazarlama Çerezleri izniyle yüklenir.

__gads, __gpi ve Google alan adlarındaki reklam kayıtları kullanılabilir. Süre çereze, bölgeye ve Google ayarlarına göre değişir; reklam kayıtları 13–24 aya kadar saklanabilir. Sağlayıcı: Google. Güncel çerez adları ve süreleri

Analitik Çerezleri

Google Analytics 4 · Ziyaret edilen sayfaları ve içerik performansını ölçer. Yalnızca Analitik Çerezleri izniyle yüklenir.

_ga ve _ga_*: ziyaret ve oturum ayrımı; bu sitede 180 gün olarak ayarlanmıştır, ziyaretle yenilenebilir. Sağlayıcı: Google. Google çerez bilgileri

Teknovox’a katılın

Haberleri kaydedin, yorumlara katılın ve yazılarınızı paylaşın.

Şifremi unuttum