İçeriği Bildir

Bildiriminiz yönetici tarafından incelenir.

Arama Yap
Yapay Zeka

Yapay Zeka Neden Hala İşleri Tek Başına Yapamıyor?

OpenAI'ın matematikteki başarısı, TypeSafe Jev ve yapay zeka ajanlarının karşılaştığı engeller, tam otomasyonun neden hala sağlanamadığını gösteriyor.

Yapay Zeka Neden Hala İşleri Tek Başına Yapamıyor?
Google'da Kaynak Ekle

Haber Özeti

  • OpenAI'ın 6 Ekim'de yayımladığı 722 matematik araştırma metninden üçü daha sonra geri çekildi.
  • TypeSafe AI'ın Jev modeli, metin yerine yazılımların kullanabileceği yapılandırılmış kararlar üretiyor.
  • TypeSafe AI, 870 milyon dolar yatırım alarak 7,5 milyar dolar değerlemeye ulaştı.
  • Stanford verileri, yapay zeka kullanımının yaygınlaşmasına rağmen ajan kullanımının sınırlı kaldığını gösteriyor.
  • Güvenlik kontrolleri ve internet sitelerinin erişim engelleri, bağımsız yapay zeka ajanlarının kullanımını zorlaştırıyor.

Yapay zeka modelleri matematikte yüzlerce araştırma problemine çözüm üretirken şirketlerde tam otomasyon hala sağlanabilmiş değil. Teknoloji sektöründe artık daha akıllı modeller kadar, insan müdahalesi olmadan çalışabilen sistemler de konuşuluyor.

OpenAI, 6 Ekim'de henüz kullanıma sunmadığı gelişmiş bir yapay zeka modeliyle hazırlanan 722 matematik araştırma metnini yayımladı. Yüzlerce açık probleme çözüm veya kayda değer ilerleme sunan çalışmalar, yapay zekanın bilimsel araştırmalarda geldiği seviyeyi gösteriyor. Ancak aynı teknoloji, günlük iş süreçlerinde bir insanın sürekli kontrolüne ihtiyaç duymadan çalışmakta hala zorlanıyor.

Karmaşık matematik problemleri üzerinde çalışabilen bir model, bir şirketin müşteri taleplerini baştan sona yönetirken, yazılım geliştirirken veya farklı uygulamalar arasında işlem yaparken aynı güvenilirliği her zaman sağlayamıyor. Yapay zekanın bir işi yapabilmesiyle o işi sürekli, hatasız ve kendi başına sürdürebilmesi aynı şey değil.

Bu tartışma, 1 Ekim'de San Francisco'da düzenlenen Modal Runtime konferansında da gündeme geldi. Cognition CEO'su Scott Wu, şirketlerde insan çalışanlarla birlikte görev yapacak sanal çalışanların yaygınlaşacağını savunurken eski OpenAI araştırmacısı Diogo Almeida, mevcut modellerin neden hala beklenen otomasyon seviyesine ulaşamadığını sorguladı. Anthropic ve OpenCode temsilcilerinin değerlendirmeleri de yazılım sektöründe insan denetiminin ortadan kalkmadığını gösterdi.

Yapay Zeka Modelleri Yardım Etmekten Öteye Geçmeye Çalışıyor

Bugünkü büyük dil modellerinin önemli bir bölümü, kullanıcı talimatlarını takip etmek ve istenen yanıtları üretmek üzere eğitiliyor. İnsan geri bildirimlerinden pekiştirmeli öğrenme (RLHF) gibi yöntemler bu süreçte kullanılıyor. Modeller daha gelişmiş akıl yürütme ve doğrulanabilir sonuçlara dayalı eğitim tekniklerinden de yararlanıyor.

Buna rağmen sohbet ortamındaki başarı, bağımsız çalışan bir yazılım sistemi için yeterli değil. Bir yapay zeka ajanının gerekli araçlara erişmesi, doğru karar vermesi, işlemi tamamlaması ve hata oluştuğunda bunu yönetebilmesi gerekiyor.

Eski OpenAI araştırmacısı Diogo Almeida'nın kurduğu TypeSafe AI, soruna farklı bir yaklaşım geliştirdi. Şirket, 15 Eylül'de Jev adını verdiği ve System One Models olarak tanımladığı yeni model ailesinin ilk ürününü tanıttı.

Jev, geleneksel sohbet modelleri gibi uzun metinler oluşturmuyor. Bunun yerine yazılımların doğrudan kullanabileceği yapılandırılmış kararlar ve olasılık değerleri üretiyor. Örneğin bir müşteri talebinin hangi departmana yönlendirileceğini belirleyebiliyor, bir işlemin risk seviyesini puanlayabiliyor veya belirli koşullar altında hangi adımın uygulanması gerektiğine ilişkin karar verebiliyor.

Sistem, yanıtın güven düzeyini de bildiriyor. Böylece geliştiriciler, yeterli güvenin sağlandığı işlemleri otomatik tamamlayıp belirsiz durumları insan incelemesine aktarabiliyor.

TypeSafe AI, kendi testlerinde Jev'in benzer görevlerde büyük dil modellerinden çok daha hızlı ve düşük maliyetli çalıştığını savunuyor. Bu sonuçlar şirketin belirlediği görevler ve karşılaştırma koşullarıyla sınırlı. Modelin önceden tanımlanmış biçimde çıktı vermesi de kararlarının her zaman doğru olacağını garanti etmiyor.

Girişimin gördüğü yatırımcı ilgisi ise oldukça yüksek. TypeSafe AI, 9 Ekim'de duyurduğu yatırım turunda 870 milyon dolar topladı. Andreessen Horowitz liderliğindeki turun ardından şirketin değerlemesi 7,5 milyar dolara ulaştı.

Yazılım geliştirme tarafında da benzer bir arayış var. Devin adlı kodlama ajanını geliştiren Cognition, Eylül ayında 2 milyar doların üzerinde yatırım alarak 48 milyar dolar değerlemeye ulaştı. Şirketin CEO'su Scott Wu, yazılım ekiplerinin tek tek görevlerden ziyade tamamlanmış sonuçlara odaklanan yapay zeka çalışanlarıyla çalışabileceği bir gelecek öngörüyor.

Anthropic'in Claude Code ürün yöneticisi Cat Wu ise bugünkü sistemlerde işin büyük bölümü yapay zekaya bırakılsa bile kalan insan müdahalesinin tekrar eden bir sorumluluğa dönüşebildiğini anlatıyor. Kodun üretilmesinin ardından kontrol edilmesi, değiştirilmesi ve son onayın verilmesi hala insanlara kalabiliyor.

Tam Otomasyonun Önünde Güvenlik Ve Erişim Sorunları Var

Yapay zekanın bağımsız çalışabilmesi için doğru yanıt üretmesi yeterli değil. Şirket verilerine erişim, uygulama izinleri, güvenlik sınırları ve hatalı işlemlerin önlenmesi de sistemin bir parçası olmak zorunda.

Anthropic'in Mayıs ayında yayımladığı teknik değerlendirme, insan denetiminin de kendi sorunlarını oluşturabildiğini gösteriyor. Şirketin ölçümlerinde kullanıcıların Claude Code tarafından gösterilen izin taleplerinin yaklaşık yüzde 93'ünü onayladığı görüldü. Sık tekrarlanan uyarılar, kullanıcıların her işlemi yeterince dikkatli incelememesine yol açabiliyor.

Anthropic bu nedenle uygulamanın çalışabileceği alanları sınırlandıran güvenlik mekanizmalarına yöneldi. Şirketin geliştirdiği korumalı çalışma ortamı, bazı işlemlerin kullanıcıya sürekli izin sorulmadan gerçekleştirilmesini sağladı ve izin taleplerini yüzde 84 azalttı.

Yapay zeka ajanlarının internette bağımsız hareket etmesi de her zaman mümkün olmuyor. Bir alışveriş sitesinde ürün arayan, rezervasyon oluşturmaya çalışan veya kullanıcı adına işlem gerçekleştiren ajanlar, internet sitelerinin bot engelleriyle karşılaşabiliyor.

Cloudflare, Eylül ayında devreye aldığı yeni varsayılan ayarlarla yapay zeka botlarını kullanım amaçlarına göre ayırmaya başladı. Arama motorları için içerik tarayan sistemlerle kullanıcı adına işlem gerçekleştiren ajanlar artık farklı kategorilerde değerlendiriliyor.

Bu durum, yapay zeka şirketlerinin yalnızca modellerini geliştirmesinin yeterli olmadığını gösteriyor. Bir ajanın başarılı çalışması için işlem yapacağı internet sitesi tarafından kabul edilmesi ve gerekli yetkilere sahip olması gerekiyor.

Kurumsal kullanım verileri de benzer bir tablo ortaya koyuyor. Stanford Üniversitesi'nin 2026 Yapay Zeka Endeksi raporuna göre araştırmaya katılan kuruluşların yüzde 88'i, 2025 yılında en az bir işlevde yapay zeka kullandığını bildirdi. Buna karşılık yapay zeka ajanlarının kullanımı, neredeyse bütün iş fonksiyonlarında tek haneli oranlarda kaldı.

Yapay zekanın genel kullanımının artması, bağımsız çalışan sistemlerin aynı hızda yaygınlaştığı anlamına gelmiyor.

OpenAI'ın matematik araştırmalarında elde ettiği sonuçlar da güvenilirlik tartışmasını gündemde tutuyor. Şirket, yayımladığı çalışmalardan üçünü 7 Ekim'de bir ispat hatası nedeniyle geri çekti ve 14 metinde düzeltmeye gitti. Güncel GitHub arşivinde 372 araştırma grubu altında 719 metin bulunuyor. Ana sonuçların yaklaşık yüzde 42'si Lean adlı ispat doğrulama sistemiyle biçimsel olarak doğrulanmış durumda.

OpenAI ile görüşmeler yürüten bağımsız Matematik ve Yapay Zeka Danışma Grubu (AGMAI), yayımlanan sonuçların bilimsel değerinin matematik topluluğu tarafından değerlendirilmesi gerektiğini belirtiyor.

İş dünyasındaki otomasyon için de benzer bir doğrulama ihtiyacı bulunuyor. Bir modelin etkileyici sonuçlar üretmesi, denetimsiz şekilde çalıştırıldığında aynı güvenilirliği koruyacağını göstermiyor.

Üstelik teknik yeterlilik tek başına yeterli olmayabiliyor. Cloudflare'ın 15 Eylül'den itibaren uyguladığı varsayılan politikalarda, yeni eklenen alan adlarının reklam gösteren sayfalarında ajan türündeki yapay zeka botları engelleniyor. Site sahipleri bu izinleri sonradan değiştirebiliyor.

Kaynaklar

  1. AI's Simmering Question: "Where the F--- Is All the Automation?

YORUMLAR

(0)
Yorumunuz minimum 30 karakter olmalıdır. (0)

Yorumlar yönetici onayından sonra yayımlanır.

Okumaya devam edin

Sonraki haberi oku

Gizlilik tercihleriniz

Çerez kategorilerini inceleyebilir ve tercihlerinizi kaydedebilirsiniz. İsteğe bağlı kayıtlar başlangıçta kapalıdır.

Gerekli Çerezler

Güvenli oturum, yorum, tepki ve gizlilik seçiminiz için gereklidir. Bu kayıtlar kapatılamaz.

vox-consent 180 gün · Teknovox
Bu paneldeki seçiminiz ve seçim tarihi tarayıcınızda saklanır.
voxtekno_session / XSRF-TOKEN 120 dakika · Teknovox
Üye girişi, haber kaydetme, yazı gönderme, yorum, tepki ve yönetim paneli işlemlerinde oturum güvenliğini sağlar.
vox_reader 1 yıl · Teknovox
Tepki işlemini başlattığınızda oluşturulur; aynı tarayıcıdan verilen tepkileri yönetir.
Fonksiyonel Çerezler

Tema seçiminizi hatırlar ve yazıdaki YouTube, X ve Instagram paylaşımlarını görüntüleme alanına geldiğinde yükler. Bu sağlayıcılar IP adresinizi ve tarayıcı bilgilerinizi alabilir; kendi çerezlerini kullanabilir. Bu izin kapalıyken yalnızca seçtiğiniz paylaşımı “İçeriği göster” düğmesiyle açabilirsiniz.

vox-theme İzin süresi boyunca · Teknovox
Tema tercihiniz tarayıcınızda tutulur.
Pazarlama Çerezleri

Google AdSense · Reklam gösterimi ve performans ölçümü. Yalnızca Pazarlama Çerezleri izniyle yüklenir.

__gads, __gpi ve Google alan adlarındaki reklam kayıtları kullanılabilir. Süre çereze, bölgeye ve Google ayarlarına göre değişir; reklam kayıtları 13–24 aya kadar saklanabilir. Sağlayıcı: Google. Güncel çerez adları ve süreleri

Analitik Çerezleri

Google Analytics 4 · Ziyaret edilen sayfaları ve içerik performansını ölçer. Yalnızca Analitik Çerezleri izniyle yüklenir.

_ga ve _ga_*: ziyaret ve oturum ayrımı; bu sitede 180 gün olarak ayarlanmıştır, ziyaretle yenilenebilir. Sağlayıcı: Google. Google çerez bilgileri

Teknovox’a katılın

Haberleri kaydedin, yorumlara katılın ve yazılarınızı paylaşın.

Şifremi unuttum