Florida'da bir kadının Claude ile yaptığı konuşma Anthropic'in güvenlik sistemlerine takıldı. Mesajlar insan incelemesinden sonra polise bildirildi ve kullanıcı hakkında ağır suçlamayla dava süreci başladı.
Yapay zeka sohbetlerini kişisel bir günlük gibi kullanmak, yazılanların yalnızca kullanıcı ile chatbot arasında kaldığı anlamına gelmiyor. ABD'nin Florida eyaletinde yaşanan bir olay, bu sınırın nerede çizilebildiğini oldukça somut biçimde gösterdi.
Bonita Springs'te yaşayan 30 yaşındaki Carli Michelle Heller, Anthropic'in Claude adlı yapay zeka asistanıyla yaptığı konuşmalarda Lee County Şerif Ofisi'ne yönelik saldırı ifadeleri kullandığı gerekçesiyle gözaltına alındı. Yerel haberlere göre 26 Eylül'deki bir mesajda şerif ofisine silahlı saldırı düzenleyeceğini yazdı. Ertesi gün gönderilen başka bir mesajda ise yeni bir silah edindiğinden söz etti.
Olayı sıra dışı hale getiren bölüm, polisin bu konuşmaya nasıl ulaştığı. Soruşturma raporuna dayanan yerel haberlere göre Anthropic'in güvenlik sistemleri konuşmadaki ifadeleri otomatik olarak işaretledi. İçerik daha sonra insanlardan oluşan bir inceleme ekibine aktarıldı ve yapılan değerlendirmenin ardından durum polise bildirildi. Heller evinde herhangi bir olay yaşanmadan gözaltına alındı.
Lee County Şerifi Carmine Marceno'nun aktardığına göre Heller, Claude'u bir tür günlük gibi kullandığını söyledi. Olay tam da bu nedenle yapay zeka hizmetlerindeki mahremiyet algısını yeniden gündeme taşıdı. Sohbet ekranının bire bir konuşma hissi vermesi, içeriklerin hiçbir koşulda üçüncü kişiler tarafından incelenemeyeceği anlamına gelmiyor.
Claude Sohbetlerini İnsanlar Okuyabiliyor Mu?
Anthropic'in yayımladığı bilgiler, şirket çalışanlarının kullanıcı sohbetlerine varsayılan olarak serbestçe erişemediğini gösteriyor. Ancak kullanım politikasını uygulamak için inceleme gerektiğinde durum değişebiliyor. Şirkete göre bu tür veriler, gerekli durumlarda yalnızca yetkilendirilmiş Trust & Safety çalışanları tarafından, erişimin ihtiyaçla sınırlandığı bir süreç içinde incelenebiliyor.
Florida'daki olayda anlatılan süreç de buna uyuyor. Önce otomatik güvenlik mekanizması devreye girdi, ardından içerik insan incelemesine taşındı. Kamuya açık bilgiler, insan incelemesinin güvenlik sistemi tarafından işaretlenen içeriklerde devreye girebildiğini gösteriyor.
Anthropic'in gizlilik politikasında da güvenlik veya politika incelemesi için işaretlenen materyallerin şirket tarafından işlenebileceği açıkça belirtiliyor. Kullanıcı model geliştirme amacıyla sohbetlerinin kullanılmasını kapatmış olsa bile güvenlik incelemesine takılan girdiler ve çıktılar zararlı içerikleri tespit eden sistemleri geliştirmek, şirket politikalarını uygulamak veya yapay zeka güvenliği araştırmaları için kullanılabiliyor.
Verilerin ne kadar süre saklanabileceği de normal sohbetlerden farklı. Anthropic'in güncel gizlilik belgelerine göre kullanıcı tarafından silinen sıradan konuşmalar arka uç sistemlerinden normal şartlarda 30 gün içinde kaldırılıyor. Trust & Safety sınıflandırıcılarının kullanım politikası ihlali olarak işaretlediği girdiler ve çıktılar ise iki yıla kadar, bunlara ilişkin güvenlik sınıflandırma puanları yedi yıla kadar saklanabiliyor.
Anthropic Hangi Durumlarda Polise Bilgi Verebilir?
Anthropic'in gizlilik politikasında kişisel verilerin belirli koşullarda devlet kurumları veya kolluk kuvvetleriyle paylaşılabileceği yazıyor. Bunlar arasında yasal bir talebe uyulması, bir kişiye veya mala yönelik ciddi zararın önlenmesi, yasa dışı faaliyetlerin araştırılması ve şirketin ya da kullanıcıların güvenliğinin korunması bulunuyor.
Şirketin tüketici kullanım şartları daha da açık bir ifade içeriyor. Anthropic, kullanıcı hakkında sahip olduğu bilgileri; girdiler ve model çıktıları dahil olmak üzere, kendi takdiriyle kolluk kuvvetlerine bildirme hakkını saklı tuttuğunu belirtiyor. Ayrıca şirketin Safeguards ekibi, kullanım politikasını uygulamak için otomatik tespit ve izleme sistemlerinden yararlanıyor.
Kamuya açık kaynaklarda hangi kelimenin sistemi tek başına tetiklediği, kullanılan güvenlik modelinin hangi eşiklerle çalıştığı veya insan inceleme ekibinin inandırıcı tehdit kararını hangi ayrıntılı kriterlerle verdiği açıklanmıyor.
Heller, Florida yasalarının 836.10 numaralı maddesi kapsamındaki yazılı veya elektronik tehdit suçlamasıyla karşı karşıya. Yasa, başka bir kişi tarafından görülebilecek biçimde ölüm, bedensel zarar, toplu saldırı veya terör tehdidi içeren elektronik kayıtların iletilmesini ikinci derece ağır suç kapsamına alıyor. Davanın mahkeme aşaması henüz tamamlanmış değil ve yerel kaynaklar Heller için Kasım ayında bir duruşma tarihi bulunduğunu bildiriyor.
Bir yapay zeka sohbeti arayüz olarak özel bir konuşmaya benzese de güvenlik sistemleri, şirket politikaları ve yasal yükümlülükler nedeniyle mutlak biçimde özel bir günlük gibi çalışmıyor.
