İçeriği Bildir

Bildiriminiz yönetici tarafından incelenir.

Arama Yap
Yapay Zeka

Claude'u Günlük Gibi Kullandı, Yazdıkları Polise Bildirildi

Florida'da bir Claude kullanıcısının tehdit içeren sohbeti Anthropic tarafından incelenip polise bildirildi. Olay, yapay zeka sohbetlerinde gizliliği gündeme taşıdı.

Claude'u Günlük Gibi Kullandı, Yazdıkları Polise Bildirildi
Google'da Kaynak Ekle

Florida'da bir kadının Claude ile yaptığı konuşma Anthropic'in güvenlik sistemlerine takıldı. Mesajlar insan incelemesinden sonra polise bildirildi ve kullanıcı hakkında ağır suçlamayla dava süreci başladı.

Yapay zeka sohbetlerini kişisel bir günlük gibi kullanmak, yazılanların yalnızca kullanıcı ile chatbot arasında kaldığı anlamına gelmiyor. ABD'nin Florida eyaletinde yaşanan bir olay, bu sınırın nerede çizilebildiğini oldukça somut biçimde gösterdi.

Bonita Springs'te yaşayan 30 yaşındaki Carli Michelle Heller, Anthropic'in Claude adlı yapay zeka asistanıyla yaptığı konuşmalarda Lee County Şerif Ofisi'ne yönelik saldırı ifadeleri kullandığı gerekçesiyle gözaltına alındı. Yerel haberlere göre 26 Eylül'deki bir mesajda şerif ofisine silahlı saldırı düzenleyeceğini yazdı. Ertesi gün gönderilen başka bir mesajda ise yeni bir silah edindiğinden söz etti.

Olayı sıra dışı hale getiren bölüm, polisin bu konuşmaya nasıl ulaştığı. Soruşturma raporuna dayanan yerel haberlere göre Anthropic'in güvenlik sistemleri konuşmadaki ifadeleri otomatik olarak işaretledi. İçerik daha sonra insanlardan oluşan bir inceleme ekibine aktarıldı ve yapılan değerlendirmenin ardından durum polise bildirildi. Heller evinde herhangi bir olay yaşanmadan gözaltına alındı.

Lee County Şerifi Carmine Marceno'nun aktardığına göre Heller, Claude'u bir tür günlük gibi kullandığını söyledi. Olay tam da bu nedenle yapay zeka hizmetlerindeki mahremiyet algısını yeniden gündeme taşıdı. Sohbet ekranının bire bir konuşma hissi vermesi, içeriklerin hiçbir koşulda üçüncü kişiler tarafından incelenemeyeceği anlamına gelmiyor.

Claude Sohbetlerini İnsanlar Okuyabiliyor Mu?

Anthropic'in yayımladığı bilgiler, şirket çalışanlarının kullanıcı sohbetlerine varsayılan olarak serbestçe erişemediğini gösteriyor. Ancak kullanım politikasını uygulamak için inceleme gerektiğinde durum değişebiliyor. Şirkete göre bu tür veriler, gerekli durumlarda yalnızca yetkilendirilmiş Trust & Safety çalışanları tarafından, erişimin ihtiyaçla sınırlandığı bir süreç içinde incelenebiliyor.

Florida'daki olayda anlatılan süreç de buna uyuyor. Önce otomatik güvenlik mekanizması devreye girdi, ardından içerik insan incelemesine taşındı. Kamuya açık bilgiler, insan incelemesinin güvenlik sistemi tarafından işaretlenen içeriklerde devreye girebildiğini gösteriyor.

Anthropic'in gizlilik politikasında da güvenlik veya politika incelemesi için işaretlenen materyallerin şirket tarafından işlenebileceği açıkça belirtiliyor. Kullanıcı model geliştirme amacıyla sohbetlerinin kullanılmasını kapatmış olsa bile güvenlik incelemesine takılan girdiler ve çıktılar zararlı içerikleri tespit eden sistemleri geliştirmek, şirket politikalarını uygulamak veya yapay zeka güvenliği araştırmaları için kullanılabiliyor.

Verilerin ne kadar süre saklanabileceği de normal sohbetlerden farklı. Anthropic'in güncel gizlilik belgelerine göre kullanıcı tarafından silinen sıradan konuşmalar arka uç sistemlerinden normal şartlarda 30 gün içinde kaldırılıyor. Trust & Safety sınıflandırıcılarının kullanım politikası ihlali olarak işaretlediği girdiler ve çıktılar ise iki yıla kadar, bunlara ilişkin güvenlik sınıflandırma puanları yedi yıla kadar saklanabiliyor.

Anthropic Hangi Durumlarda Polise Bilgi Verebilir?

Anthropic'in gizlilik politikasında kişisel verilerin belirli koşullarda devlet kurumları veya kolluk kuvvetleriyle paylaşılabileceği yazıyor. Bunlar arasında yasal bir talebe uyulması, bir kişiye veya mala yönelik ciddi zararın önlenmesi, yasa dışı faaliyetlerin araştırılması ve şirketin ya da kullanıcıların güvenliğinin korunması bulunuyor.

Şirketin tüketici kullanım şartları daha da açık bir ifade içeriyor. Anthropic, kullanıcı hakkında sahip olduğu bilgileri; girdiler ve model çıktıları dahil olmak üzere, kendi takdiriyle kolluk kuvvetlerine bildirme hakkını saklı tuttuğunu belirtiyor. Ayrıca şirketin Safeguards ekibi, kullanım politikasını uygulamak için otomatik tespit ve izleme sistemlerinden yararlanıyor.

Kamuya açık kaynaklarda hangi kelimenin sistemi tek başına tetiklediği, kullanılan güvenlik modelinin hangi eşiklerle çalıştığı veya insan inceleme ekibinin inandırıcı tehdit kararını hangi ayrıntılı kriterlerle verdiği açıklanmıyor.

Heller, Florida yasalarının 836.10 numaralı maddesi kapsamındaki yazılı veya elektronik tehdit suçlamasıyla karşı karşıya. Yasa, başka bir kişi tarafından görülebilecek biçimde ölüm, bedensel zarar, toplu saldırı veya terör tehdidi içeren elektronik kayıtların iletilmesini ikinci derece ağır suç kapsamına alıyor. Davanın mahkeme aşaması henüz tamamlanmış değil ve yerel kaynaklar Heller için Kasım ayında bir duruşma tarihi bulunduğunu bildiriyor.

Bir yapay zeka sohbeti arayüz olarak özel bir konuşmaya benzese de güvenlik sistemleri, şirket politikaları ve yasal yükümlülükler nedeniyle mutlak biçimde özel bir günlük gibi çalışmıyor.

Kaynaklar

  1. Woman arrested after AI threat against Lee County Sheriff's Office: Investigators

YORUMLAR

(0)
Yorumunuz minimum 30 karakter olmalıdır. (0)

Yorumlar yönetici onayından sonra yayımlanır.

Okumaya devam edin

Sonraki haberi oku

Gizlilik tercihleriniz

Çerez kategorilerini inceleyebilir ve tercihlerinizi kaydedebilirsiniz. İsteğe bağlı kayıtlar başlangıçta kapalıdır.

Gerekli Çerezler

Güvenli oturum, yorum, tepki ve gizlilik seçiminiz için gereklidir. Bu kayıtlar kapatılamaz.

vox-consent 180 gün · Teknovox
Bu paneldeki seçiminiz ve seçim tarihi tarayıcınızda saklanır.
voxtekno_session / XSRF-TOKEN 120 dakika · Teknovox
Üye girişi, haber kaydetme, yazı gönderme, yorum, tepki ve yönetim paneli işlemlerinde oturum güvenliğini sağlar.
vox_reader 1 yıl · Teknovox
Tepki işlemini başlattığınızda oluşturulur; aynı tarayıcıdan verilen tepkileri yönetir.
Fonksiyonel Çerezler

Tema seçiminizi hatırlar ve yazıdaki YouTube, X ve Instagram paylaşımlarını görüntüleme alanına geldiğinde yükler. Bu sağlayıcılar IP adresinizi ve tarayıcı bilgilerinizi alabilir; kendi çerezlerini kullanabilir. Bu izin kapalıyken yalnızca seçtiğiniz paylaşımı “İçeriği göster” düğmesiyle açabilirsiniz.

vox-theme İzin süresi boyunca · Teknovox
Tema tercihiniz tarayıcınızda tutulur.
Pazarlama Çerezleri

Google AdSense · Reklam gösterimi ve performans ölçümü. Yalnızca Pazarlama Çerezleri izniyle yüklenir.

__gads, __gpi ve Google alan adlarındaki reklam kayıtları kullanılabilir. Süre çereze, bölgeye ve Google ayarlarına göre değişir; reklam kayıtları 13–24 aya kadar saklanabilir. Sağlayıcı: Google. Güncel çerez adları ve süreleri

Analitik Çerezleri

Google Analytics 4 · Ziyaret edilen sayfaları ve içerik performansını ölçer. Yalnızca Analitik Çerezleri izniyle yüklenir.

_ga ve _ga_*: ziyaret ve oturum ayrımı; bu sitede 180 gün olarak ayarlanmıştır, ziyaretle yenilenebilir. Sağlayıcı: Google. Google çerez bilgileri

Teknovox’a katılın

Haberleri kaydedin, yorumlara katılın ve yazılarınızı paylaşın.

Şifremi unuttum