Yapay zeka modelleri matematikte yüzlerce araştırma problemine çözüm üretirken şirketlerde tam otomasyon hala sağlanabilmiş değil. Teknoloji sektöründe artık daha akıllı modeller kadar, insan müdahalesi olmadan çalışabilen sistemler de konuşuluyor.
OpenAI, 6 Ekim'de henüz kullanıma sunmadığı gelişmiş bir yapay zeka modeliyle hazırlanan 722 matematik araştırma metnini yayımladı. Yüzlerce açık probleme çözüm veya kayda değer ilerleme sunan çalışmalar, yapay zekanın bilimsel araştırmalarda geldiği seviyeyi gösteriyor. Ancak aynı teknoloji, günlük iş süreçlerinde bir insanın sürekli kontrolüne ihtiyaç duymadan çalışmakta hala zorlanıyor.
Karmaşık matematik problemleri üzerinde çalışabilen bir model, bir şirketin müşteri taleplerini baştan sona yönetirken, yazılım geliştirirken veya farklı uygulamalar arasında işlem yaparken aynı güvenilirliği her zaman sağlayamıyor. Yapay zekanın bir işi yapabilmesiyle o işi sürekli, hatasız ve kendi başına sürdürebilmesi aynı şey değil.
Bu tartışma, 1 Ekim'de San Francisco'da düzenlenen Modal Runtime konferansında da gündeme geldi. Cognition CEO'su Scott Wu, şirketlerde insan çalışanlarla birlikte görev yapacak sanal çalışanların yaygınlaşacağını savunurken eski OpenAI araştırmacısı Diogo Almeida, mevcut modellerin neden hala beklenen otomasyon seviyesine ulaşamadığını sorguladı. Anthropic ve OpenCode temsilcilerinin değerlendirmeleri de yazılım sektöründe insan denetiminin ortadan kalkmadığını gösterdi.
Yapay Zeka Modelleri Yardım Etmekten Öteye Geçmeye Çalışıyor
Bugünkü büyük dil modellerinin önemli bir bölümü, kullanıcı talimatlarını takip etmek ve istenen yanıtları üretmek üzere eğitiliyor. İnsan geri bildirimlerinden pekiştirmeli öğrenme (RLHF) gibi yöntemler bu süreçte kullanılıyor. Modeller daha gelişmiş akıl yürütme ve doğrulanabilir sonuçlara dayalı eğitim tekniklerinden de yararlanıyor.
Buna rağmen sohbet ortamındaki başarı, bağımsız çalışan bir yazılım sistemi için yeterli değil. Bir yapay zeka ajanının gerekli araçlara erişmesi, doğru karar vermesi, işlemi tamamlaması ve hata oluştuğunda bunu yönetebilmesi gerekiyor.
Eski OpenAI araştırmacısı Diogo Almeida'nın kurduğu TypeSafe AI, soruna farklı bir yaklaşım geliştirdi. Şirket, 15 Eylül'de Jev adını verdiği ve System One Models olarak tanımladığı yeni model ailesinin ilk ürününü tanıttı.
Jev, geleneksel sohbet modelleri gibi uzun metinler oluşturmuyor. Bunun yerine yazılımların doğrudan kullanabileceği yapılandırılmış kararlar ve olasılık değerleri üretiyor. Örneğin bir müşteri talebinin hangi departmana yönlendirileceğini belirleyebiliyor, bir işlemin risk seviyesini puanlayabiliyor veya belirli koşullar altında hangi adımın uygulanması gerektiğine ilişkin karar verebiliyor.
Sistem, yanıtın güven düzeyini de bildiriyor. Böylece geliştiriciler, yeterli güvenin sağlandığı işlemleri otomatik tamamlayıp belirsiz durumları insan incelemesine aktarabiliyor.
TypeSafe AI, kendi testlerinde Jev'in benzer görevlerde büyük dil modellerinden çok daha hızlı ve düşük maliyetli çalıştığını savunuyor. Bu sonuçlar şirketin belirlediği görevler ve karşılaştırma koşullarıyla sınırlı. Modelin önceden tanımlanmış biçimde çıktı vermesi de kararlarının her zaman doğru olacağını garanti etmiyor.
Girişimin gördüğü yatırımcı ilgisi ise oldukça yüksek. TypeSafe AI, 9 Ekim'de duyurduğu yatırım turunda 870 milyon dolar topladı. Andreessen Horowitz liderliğindeki turun ardından şirketin değerlemesi 7,5 milyar dolara ulaştı.
Yazılım geliştirme tarafında da benzer bir arayış var. Devin adlı kodlama ajanını geliştiren Cognition, Eylül ayında 2 milyar doların üzerinde yatırım alarak 48 milyar dolar değerlemeye ulaştı. Şirketin CEO'su Scott Wu, yazılım ekiplerinin tek tek görevlerden ziyade tamamlanmış sonuçlara odaklanan yapay zeka çalışanlarıyla çalışabileceği bir gelecek öngörüyor.
Anthropic'in Claude Code ürün yöneticisi Cat Wu ise bugünkü sistemlerde işin büyük bölümü yapay zekaya bırakılsa bile kalan insan müdahalesinin tekrar eden bir sorumluluğa dönüşebildiğini anlatıyor. Kodun üretilmesinin ardından kontrol edilmesi, değiştirilmesi ve son onayın verilmesi hala insanlara kalabiliyor.
Tam Otomasyonun Önünde Güvenlik Ve Erişim Sorunları Var
Yapay zekanın bağımsız çalışabilmesi için doğru yanıt üretmesi yeterli değil. Şirket verilerine erişim, uygulama izinleri, güvenlik sınırları ve hatalı işlemlerin önlenmesi de sistemin bir parçası olmak zorunda.
Anthropic'in Mayıs ayında yayımladığı teknik değerlendirme, insan denetiminin de kendi sorunlarını oluşturabildiğini gösteriyor. Şirketin ölçümlerinde kullanıcıların Claude Code tarafından gösterilen izin taleplerinin yaklaşık yüzde 93'ünü onayladığı görüldü. Sık tekrarlanan uyarılar, kullanıcıların her işlemi yeterince dikkatli incelememesine yol açabiliyor.
Anthropic bu nedenle uygulamanın çalışabileceği alanları sınırlandıran güvenlik mekanizmalarına yöneldi. Şirketin geliştirdiği korumalı çalışma ortamı, bazı işlemlerin kullanıcıya sürekli izin sorulmadan gerçekleştirilmesini sağladı ve izin taleplerini yüzde 84 azalttı.
Yapay zeka ajanlarının internette bağımsız hareket etmesi de her zaman mümkün olmuyor. Bir alışveriş sitesinde ürün arayan, rezervasyon oluşturmaya çalışan veya kullanıcı adına işlem gerçekleştiren ajanlar, internet sitelerinin bot engelleriyle karşılaşabiliyor.
Cloudflare, Eylül ayında devreye aldığı yeni varsayılan ayarlarla yapay zeka botlarını kullanım amaçlarına göre ayırmaya başladı. Arama motorları için içerik tarayan sistemlerle kullanıcı adına işlem gerçekleştiren ajanlar artık farklı kategorilerde değerlendiriliyor.
Bu durum, yapay zeka şirketlerinin yalnızca modellerini geliştirmesinin yeterli olmadığını gösteriyor. Bir ajanın başarılı çalışması için işlem yapacağı internet sitesi tarafından kabul edilmesi ve gerekli yetkilere sahip olması gerekiyor.
Kurumsal kullanım verileri de benzer bir tablo ortaya koyuyor. Stanford Üniversitesi'nin 2026 Yapay Zeka Endeksi raporuna göre araştırmaya katılan kuruluşların yüzde 88'i, 2025 yılında en az bir işlevde yapay zeka kullandığını bildirdi. Buna karşılık yapay zeka ajanlarının kullanımı, neredeyse bütün iş fonksiyonlarında tek haneli oranlarda kaldı.
Yapay zekanın genel kullanımının artması, bağımsız çalışan sistemlerin aynı hızda yaygınlaştığı anlamına gelmiyor.
OpenAI'ın matematik araştırmalarında elde ettiği sonuçlar da güvenilirlik tartışmasını gündemde tutuyor. Şirket, yayımladığı çalışmalardan üçünü 7 Ekim'de bir ispat hatası nedeniyle geri çekti ve 14 metinde düzeltmeye gitti. Güncel GitHub arşivinde 372 araştırma grubu altında 719 metin bulunuyor. Ana sonuçların yaklaşık yüzde 42'si Lean adlı ispat doğrulama sistemiyle biçimsel olarak doğrulanmış durumda.
OpenAI ile görüşmeler yürüten bağımsız Matematik ve Yapay Zeka Danışma Grubu (AGMAI), yayımlanan sonuçların bilimsel değerinin matematik topluluğu tarafından değerlendirilmesi gerektiğini belirtiyor.
İş dünyasındaki otomasyon için de benzer bir doğrulama ihtiyacı bulunuyor. Bir modelin etkileyici sonuçlar üretmesi, denetimsiz şekilde çalıştırıldığında aynı güvenilirliği koruyacağını göstermiyor.
Üstelik teknik yeterlilik tek başına yeterli olmayabiliyor. Cloudflare'ın 15 Eylül'den itibaren uyguladığı varsayılan politikalarda, yeni eklenen alan adlarının reklam gösteren sayfalarında ajan türündeki yapay zeka botları engelleniyor. Site sahipleri bu izinleri sonradan değiştirebiliyor.
