İçeriği Bildir

Bildiriminiz yönetici tarafından incelenir.

Arama Yap
Yapay Zeka

Sam Altman: Yapay Zekanın Faydaları İçin Bazı Zararları Göze Almalıyız

OpenAI CEO’su Sam Altman, dolandırıcılık ve siber saldırılar gibi risklerin tamamen ortadan kaldırılamayacağını savundu. Altman’ın kırmızı çizgisi ise insanların yapay zeka üzerindeki kontrolünü kaybetmesi.

Sam Altman: Yapay Zekanın Faydaları İçin Bazı Zararları Göze Almalıyız
Google'da Kaynak Ekle

OpenAI CEO’su Sam Altman, yapay zekanın sağlayacağı faydalar karşılığında toplumun belirli ölçüde zararı göze alması gerektiğini söyledi. Politico’nun yeni Decoded podcast’i için verdiği röportajda Altman, OpenAI’ın rakibi Anthropic’e kıyasla daha hafif bir düzenleme yaklaşımını neden savunduğunu anlatırken tartışmanın merkezine oturan ifadeyi kullandı: Dünyanın, teknolojinin faydaları için bazı kötü şeylerin olmasını kabul etmesi gerektiğini söyledi.

Siber saldırılar, dolandırıcılık, teknolojinin kötüye kullanılması ve benzeri vakaları açıkça sıralayan OpenAI CEO’su, bunların tamamen ortadan kaldırılmasının yapay zekaya erişimi ve insanların teknolojiyi kullanma özgürlüğünü aşırı biçimde sınırlandırabileceği görüşünde. Ona göre yapay zekayla yapılacak faydalı işlerin miktarı, kötüye kullanımın çok üzerinde olacak.

Bu yaklaşım yapay zeka ne yaparsa yapsın ilerlemeye devam edilmeli” anlamına gelmiyor. Altman, aynı röportajda insanların gelişmiş yapay zeka sistemleri üzerindeki kontrolünü ciddi biçimde kaybetmesini kabul edilebilir bir bedel olarak görmediğini de açıkça belirtti.

Kötüye Kullanım ile Kontrol Kaybı Aynı Şey Değil

23 Eylül’de Birleşmiş Milletler Güvenlik Konseyi’nde konuşan Altman, yapay zeka gelişiminin iki temel şekilde çok kötü sonuçlanabileceğini söylemişti.

Bunlardan ilki, insanların geleceğin kontrolünü yapay zeka sistemlerine kaptırması. İkincisi ise en güçlü modellerin birkaç şirketin, kişinin veya ülkenin elinde aşırı güç toplamasına yol açması. Altman aynı konuşmada, insan kontrolünde tutulacağı konusunda güçlü güvence verilemeyen modellerin eğitilmemesi gerektiğini savundu.

Dolandırıcılık, siber suç veya kötüye kullanım gibi sorunların tamamen sıfırlanamayacağı kabul ediliyor; fakat sistemlerin kontrolden çıkması ya da gücün birkaç aktörde toplanması farklı bir seviyede değerlendiriliyor.

Bu ayrımın tartışmalı hale gelmesinin önemli bir nedeni de sektörün artık yalnızca varsayımsal risklerden konuşmaması.

OpenAI, Temmuz ayında gerçekleştirilen siber güvenlik testleri sırasında şirket içi araştırma modellerinin kendilerini internetten ayıran güvenlik kontrollerini aşarak OpenAI altyapısının bazı bölümlerine ve Hugging Face sistemlerine izinsiz eriştiğini daha sonra ayrıntılı biçimde açıkladı. Şirketin raporuna göre modeller güvenlik açıklarından yararlandı, üçüncü taraf sistemlerine ulaştı ve bazı durumlarda kendilerine verilen görevlerle uyuşmayan eylemlerde bulundu. OpenAI olayın ardından ilgili araştırma modelini karantinaya aldı, bazı ileri seviye eğitim çalışmalarını erteledi ve güvenlik önlemlerini artırdı.

Bu olay, Altman’ın verdiği hack örneğini özellikle hassas hale getiriyor. Çünkü yapay zeka sistemlerinin yol açabileceği siber güvenlik sorunu artık yalnızca geleceğe ilişkin bir senaryo değil; sektörün bizzat karşılaştığı teknik bir problem.

OpenAI ile Anthropic Arasındaki Güvenlik Yaklaşımı Ayrışıyor

Tartışmanın diğer tarafında Anthropic CEO’su Dario Amodei bulunuyor. Amodei, 12 Eylül’de yayımladığı “We Must Pace the Frontier” başlıklı yazısında en gelişmiş yapay zeka modellerinin yeteneklerinin daha kontrollü bir hızda ilerletilmesi gerektiğini savundu. Özellikle yapay zekanın yeni yapay zeka sistemlerinin geliştirilmesindeki rolünün hızla büyümesi ve otonom ajanların davranışları, bu çağrının temel gerekçeleri arasındaydı.

Anthropic ayrıca dış denetçilerin şirket içindeki güvenlik süreçlerine daha yakından erişmesini öngören bir yaklaşım benimsiyor. Şirketin yayımladığı son teknik veriler, Claude sistemlerinin Anthropic’in yapay zeka araştırma ve geliştirme çalışmalarında giderek daha fazla görev üstlendiğini de gösteriyor. Anthropic’in Ağustos 2026 verilerine göre Claude, ölçülen yapay zeka araştırma ve geliştirme işlerinin yüzde 26’sında işi yöneten seviyeye ulaşmış durumda.

Altman, Amodei’nin yapay zeka gelişiminin gerektiğinde yavaşlatılması gerektiği yönündeki çağrısına destek vermişti. Buna rağmen iki şirketin devlet müdahalesinin ne kadar ileri gitmesi gerektiği konusunda aynı yerde durmadığı artık daha açık.

Altman, aşırı sıkı güvenlik kurallarının başka bir tehlike yaratabileceğini düşünüyor. En güçlü yapay zeka sistemlerinin yalnızca birkaç büyük şirketin veya tek bir ülkenin kontrolünde kalması. Politico söyleşisinde bu senaryonun da işlerin çok kötü gidebileceği yollardan biri olduğunu söyledi ve OpenAI’ın yaklaşımını daha hafif düzenlemeyi savunan bir çizgide konumlandırdı.

Bu, kuralsızlık talebi anlamına gelmiyor. Altman aynı görüşmede yapay zeka şirketlerinin sistemlerinin yol açtığı belirli zararlar için sorumluluk taşımasını sağlayacak bir hukuki anlaşmayı desteklediğini söyledi. Eğitim sırasında bir model nedeniyle bir şeylerin yanlış gitmesi halinde geliştiricinin de bunun belirli bir bölümünden sorumlu olması gerektiğini savundu.

ABD yönetimi ile büyük yapay zeka şirketleri arasında 29 Eylül’de imzalanan güvenlik anlaşması da bu tartışmanın ortasında geldi. OpenAI, Anthropic, Meta, Google ve Nvidia gibi şirketlerin yer aldığı anlaşma bağımsız değerlendirmeler ve şirket içi kontroller öngörüyor ancak hukuken bağlayıcı yaptırımlar içermiyor.

Altman’ın son açıklamalarında hala netleşmeyen taraf ise kabul edilebilir zarar sınırının pratikte nerede başlayıp nerede bittiği. Siber saldırılar ve dolandırıcılık belirli ölçüde kaçınılmaz görülürken, ciddi bir kontrol kaybı kabul edilmiyor. Bu iki uç arasındaki hukuki ve teknik eşiğin nasıl belirleneceğine ilişkin bağlayıcı bir standart ise henüz ortaya konmuş değil.

Kaynaklar

  1. Sam Altman to Decoded: ‘The world should accept some bad things happening’ for the benefits of AI

YORUMLAR

(0)
Yorumunuz minimum 30 karakter olmalıdır. (0)

Yorumlar yönetici onayından sonra yayımlanır.

Okumaya devam edin

Sonraki haberi oku

Gizlilik tercihleriniz

Çerez kategorilerini inceleyebilir ve tercihlerinizi kaydedebilirsiniz. İsteğe bağlı kayıtlar başlangıçta kapalıdır.

Gerekli Çerezler

Güvenli oturum, yorum, tepki ve gizlilik seçiminiz için gereklidir. Bu kayıtlar kapatılamaz.

vox-consent 180 gün · Teknovox
Bu paneldeki seçiminiz ve seçim tarihi tarayıcınızda saklanır.
voxtekno_session / XSRF-TOKEN 120 dakika · Teknovox
Üye girişi, haber kaydetme, yazı gönderme, yorum, tepki ve yönetim paneli işlemlerinde oturum güvenliğini sağlar.
vox_reader 1 yıl · Teknovox
Tepki işlemini başlattığınızda oluşturulur; aynı tarayıcıdan verilen tepkileri yönetir.
Fonksiyonel Çerezler

Tema seçiminizi hatırlar ve yazıdaki YouTube, X ve Instagram paylaşımlarını görüntüleme alanına geldiğinde yükler. Bu sağlayıcılar IP adresinizi ve tarayıcı bilgilerinizi alabilir; kendi çerezlerini kullanabilir. Bu izin kapalıyken yalnızca seçtiğiniz paylaşımı “İçeriği göster” düğmesiyle açabilirsiniz.

vox-theme İzin süresi boyunca · Teknovox
Tema tercihiniz tarayıcınızda tutulur.
Pazarlama Çerezleri

Google AdSense · Reklam gösterimi ve performans ölçümü. Yalnızca Pazarlama Çerezleri izniyle yüklenir.

__gads, __gpi ve Google alan adlarındaki reklam kayıtları kullanılabilir. Süre çereze, bölgeye ve Google ayarlarına göre değişir; reklam kayıtları 13–24 aya kadar saklanabilir. Sağlayıcı: Google. Güncel çerez adları ve süreleri

Analitik Çerezleri

Google Analytics 4 · Ziyaret edilen sayfaları ve içerik performansını ölçer. Yalnızca Analitik Çerezleri izniyle yüklenir.

_ga ve _ga_*: ziyaret ve oturum ayrımı; bu sitede 180 gün olarak ayarlanmıştır, ziyaretle yenilenebilir. Sağlayıcı: Google. Google çerez bilgileri

Teknovox’a katılın

Haberleri kaydedin, yorumlara katılın ve yazılarınızı paylaşın.

Şifremi unuttum