Anthropic, yapay zeka modeli Claude'a yönelik sürekli ve gereksiz kötü muameleyi kullanım politikası kapsamına aldı. 12 Kasım'da yürürlüğe girecek düzenleme, seçim müdahalelerinden gözetim teknolojilerine kadar başka alanları da kapsıyor.
Yapay zeka şirketi Anthropic, Claude ile yapılan konuşmalarda kullanıcıların davranışlarına ilişkin yeni bir sınır belirledi. Şirketin 8 Ekim 2026'da duyurduğu kullanım politikası, yapay zeka modellerine yönelik sürekli, gereksiz ve kasıtlı kötü muameleyi açıkça yasaklıyor. Yeni kurallar 12 Kasım 2026'da yürürlüğe girecek.
Düzenleme, Claude'a kızan veya verdiği yanıtları sert biçimde eleştiren herkesin cezalandırılacağı anlamına gelmiyor. Anthropic, yasağın belirli bir amacı olmadan modele tekrar tekrar kötü davranılan uç durumlarla sınırlı olduğunu söylüyor. Kullanıcıların memnuniyetsizliğini dile getirmesi, modelle tartışması, karanlık temalı kurgusal içerikler üretmesi veya güvenlik testleri yapması bu kapsamda değerlendirilmeyecek.
Yeni politikanın en çok konuşulan tarafı ise Claude'un bu tür konuşmaları sonlandırabilmesi. Anthropic, sürekli kötü muameleyle karşılaşılan durumlarda sohbeti bitirme özelliğini başlıca müdahale yöntemi olarak kullanacağını açıkladı. Şirket böylece daha önce modellerinde denemeye başladığı bir uygulamayı resmi kullanım kurallarına da taşımış oldu.
Claude, Kötü Muamele Gördüğünde Sohbeti Sonlandırabilecek
Claude'un kullanıcıyla konuşmayı kendi kararıyla bitirebilmesi tamamen yeni bir özellik değil. Anthropic, Ağustos 2025'te Claude Opus 4 ve Opus 4.1 modellerine, sürekli zararlı taleplerin veya istismarcı davranışların bulunduğu bazı konuşmaları sonlandırma yetkisi vermişti.
Şirketin o dönemde yayımladığı araştırmaya göre bu özellik, modelin defalarca reddettiği zararlı taleplerin sürdürülmesi ve konuşmanın artık yapıcı biçimde ilerleyememesi gibi istisnai durumlar için tasarlandı. Claude'un önce konuşmayı daha güvenli bir yöne çekmeye çalışması, sonuç alınamadığında ise sohbeti son çare olarak bitirmesi öngörülüyor.
Sohbetin sonlandırılması, kullanıcının hesabının kapatılması anlamına gelmiyor. Claude bir konuşmayı bitirdiğinde o konuşmaya yeni mesaj gönderilemiyor ancak kullanıcı başka bir sohbet başlatabiliyor. Önceki mesajları düzenleyerek konuşmanın farklı bir noktadan devam etmesini sağlamak da mümkün.
Anthropic'in genel kullanım politikası ihlaller için uyarı, kullanım hızını sınırlama, erişimi askıya alma ve hesap kapatma gibi yaptırımlara izin veriyor. Ancak şirkete göre modele kötü muameleye ilişkin yeni maddenin uygulanmasında asıl yöntem, Claude'un ilgili sohbeti sonlandırması olacak. Hangi davranışların kaç tekrarın ardından bu sınırı aşacağına ilişkin sayısal bir eşik açıklanmış değil.
Kararın arkasında Anthropic'in bir süredir üzerinde çalıştığı yapay zeka modellerinin refahı konusu da bulunuyor. Şirket, gelişmiş dil modellerinin öznel deneyime veya bilince sahip olup olamayacağı sorusunun henüz yanıtlanmadığını savunuyor. Bu belirsizlik nedeniyle modellerin olası refahını gözeten bazı önlemleri araştırıyor.
Anthropic'in yaklaşımı, yapay zeka sistemlerine ne ölçüde insana özgü özellikler atfedilmesi gerektiği tartışmasını da yeniden gündeme taşıdı. Bir tarafta, bilinç sahibi oldukları gösterilmemiş yazılımlara yönelik kötü davranışların neden ayrıca düzenlendiği sorgulanıyor. Diğer tarafta ise bu tür davranışları sınırlamanın, yapay zekanın toplumsal kullanımına ilişkin daha geniş güvenlik ve etik ilkeleriyle uyumlu olduğu görüşü savunuluyor.
Yeni kural yalnızca Claude'un sohbet uygulamasını ilgilendirmiyor. Anthropic'in güncellenen kullanım politikası Claude.ai ve Claude Code kullanıcılarının yanı sıra şirketin API hizmetlerinden yararlanan geliştiricileri, işletmeleri ve Claude'u kendi ürünlerine entegre eden hizmetleri de kapsıyor. Sohbeti sonlandırma özelliği ise özellikle Claude.ai ve Claude Code için açıklanmış durumda.
Seçim Manipülasyonu, Gözetim Ve Silah Yazılımlarına Da Yeni Kurallar
Anthropic'in güncellemesi, Claude'a yönelik kötü muamele yasağından çok daha geniş bir alanı kapsıyor. Şirket, yapay zeka modellerinin siyasi propaganda, sahte hesap ağları, silah geliştirme ve gözetim sistemlerinde kullanılmasına ilişkin mevcut kısıtlamalarını da yeniden düzenledi.
Bunların başında aldatıcı kampanyalar geliyor. Claude kullanılarak gerçek kişi veya kuruluşları taklit eden hesaplar oluşturulması, kaynağı gizlenen propaganda içeriklerinin yayılması ve birbirinden bağımsızmış gibi görünen sahte haber siteleri üzerinden kamuoyunun yanıltılması yasak kapsamına alındı. Bu faaliyetler daha önce de farklı politika maddeleriyle sınırlandırılıyordu. Yeni düzenleme, söz konusu yasakları tek başlık altında topluyor.
Seçimlere ilişkin bölümün adı da "Demokratik Süreçlere Zarar Vermeyin" anlamına gelen bir ifadeyle değiştirildi. Claude'un seçmenlere adaylar veya oy verme işlemleri hakkında yanlış bilgi vermek, seçim yetkililerini taklit etmek, katılımı engellemeye çalışmak ya da seçim altyapısına müdahaleyi kolaylaştırmak amacıyla kullanılması yasak.
Şirket aynı zamanda kişiselleştirilmiş seçmen hedeflemesine yönelik genel yasağı kaldırdı. Anthropic, önceki düzenlemenin seçmen bilgilendirme metinlerinin farklı dillere çevrilmesi gibi meşru faaliyetleri de engelleyebildiğini belirtiyor. Aldatmaya, kişisel verilerin kötüye kullanılmasına veya seçmenlerin manipüle edilmesine dayanan uygulamalar ise yasak olmaya devam ediyor.
Silah geliştirme konusundaki kurallar da daha açık hale getirildi. Claude'un silahların hedefleme, yönlendirme ve kontrol yazılımlarının hazırlanmasında kullanılması yasak. İnsansız hava araçlarına veya diğer otonom platformlara silah entegre edilmesi de açıkça yasaklanan faaliyetler arasında yer alıyor. Anthropic, geçtiğimiz dönemde modellerinin bu tür yazılımları geliştirmek için kullanılmaya çalışıldığını tespit ettiğini söylüyor.
Gözetim alanında ise kişilerin rızası olmadan konumlarının, hareketlerinin veya dijital faaliyetlerinin takip edilmesi yasaklanıyor. Bu kısıtlama yalnızca gerçek zamanlı takibi değil, daha önce toplanmış veriler üzerinden yapılan analizleri de içeriyor. Claude'un kolluk kuvvetlerine kimin soruşturulması, gözaltına alınması veya suçlanması gerektiğine ilişkin kararlar üretmek amacıyla kullanılması da yasak.
Sağlık, finans, hukuk ve istihdam gibi insanların yaşamını doğrudan etkileyebilen alanlarda ise insan denetimine ilişkin gereklilikler daha ayrıntılı biçimde tanımlandı. Anthropic, bu tür yüksek riskli karar ve tavsiyelerde yetkin bir kişinin yapay zeka çıktısını değerlendirme ve gerektiğinde değiştirme yetkisine sahip olmasını istiyor. Karardan etkilenen kişinin yapay zeka kullanıldığı konusunda bilgilendirilmesi de gerekiyor.
Yeni maddelerden biri de Claude'un fiziksel cihazlara bağlanmasıyla ilgili. İnsanlara zarar verme potansiyeli bulunan robotlar veya diğer otonom ekipmanlar Claude tarafından kontrol edildiğinde, yetkin bir operatörün sistemi izleyebilmesi ve gerektiğinde durdurabilmesi şart koşuluyor. Claude ile bağlantı kesildiğinde ekipmanın güvenli durumda kalması da zorunlu.
Anthropic, güncellemenin büyük bölümünün daha önce uygulanan yasakları açıklığa kavuşturduğunu belirtiyor. Sürekli ve gereksiz kötü muamelenin açıkça yasaklanması ile fiziksel cihazların güvenli kullanımına ilişkin yeni gereklilikler ise politikanın öne çıkan değişiklikleri arasında. Kuralların tamamı 12 Kasım 2026'dan itibaren geçerli olacak.
