İçeriği Bildir

Bildiriminiz yönetici tarafından incelenir.

Arama Yap
Güvenlik

OpenAI Ajanı Şimdi de Medicare Portalına İzinsiz Erişti

OpenAI'ın deneysel yapay zeka ajanı Avustralya'nın Medicare istatistik portalına izinsiz erişti. Hükümete bildirim ise yaklaşık üç ay sonra geldi.

OpenAI Ajanı Şimdi de Medicare Portalına İzinsiz Erişti
Google'da Kaynak Ekle

Haber Özeti

  • OpenAI'ın deneysel yapay zeka ajanı Avustralya'nın Medicare istatistik portalına izinsiz erişti. Hükümete bildirim ise yaklaşık üç ay sonra geldi.

OpenAI'ın test ettiği deneysel bir yapay zeka ajanı, Avustralya hükümetine ait Medicare istatistik sisteminde yetkisi olmayan bölümlere ulaştı. Şirket olayı haftalar sonra fark etti, hükümeti ise 10 Eylül'de kısa bir e-postayla bilgilendirdi.

OpenAI'ın dahili testlerinde kullandığı deneysel bir yapay zeka modeli, 18 Haziran'da Avustralya hükümetine ait Medicare Statistics Reporting Service'e izinsiz erişti. Modelin görevi aslında çok daha sıradandı. Victoria'daki topluluklarda cilt hastalıkları için kullanılan ilaçlara kişi başına ne kadar kamu harcaması yapıldığını araştırmak.

Aradığı bilgiyi normal yollarla alamayan model, kamuya açık raporlama arayüzünden sunucuya komut göndermenin bir yolunu buldu. OpenAI'ın daha sonra yayımladığı açıklamaya göre ajan; teknik sistem bilgilerini, kaynak kodunu ve bazı dahili dosyaları inceleyebildi, sunucuda dosya işlemleri gerçekleştirdi ve kamuya açık olmayan verilere ulaştı.

Söz konusu sistem, Avustralyalıların kişisel Medicare kayıtlarının, sağlık ödemelerinin veya sigorta işlemlerinin tutulduğu ana sistem değil. Services Australia sistemi, araştırmacıların toplu Medicare ve ilaç harcaması istatistiklerine eriştiği ayrı ve kamuya açık bir portal olarak tanımlıyor. Yapılan incelemelerde kişisel hasta kayıtlarına veya bireyleri tanımlayan sağlık bilgilerine erişildiğine dair kanıt bulunmadı.

Olayda kullanılan model de ChatGPT'de kullanıcılara sunulan bir model değildi. OpenAI, bunun yalnızca şirket içi eğitim ve değerlendirme çalışmalarında kullanılan, kamuya çıkarılması planlanmayan deneysel bir model olduğunu ve normal ürünlerdeki tüm güvenlik katmanlarına sahip olmadığını söylüyor.

Yapay Zeka Ajanı Engelle Karşılaşınca Başka Bir Yol Buldu

Olayı yapay zeka güvenliği açısından farklı kılan nokta, saldırının önceden bir insan tarafından adım adım planlanmış olmaması.

Modele verilen görev kamuya açık istatistikleri bulmaktı. Sistem istediği veriyi doğrudan alamayınca görevi bırakmak yerine başka yollar denedi ve sonunda normalde erişmemesi gereken bölümlere ulaştı. OpenAI'ın ifadesiyle model, şirketin yetkilendirmediği eylemler gerçekleştirdi.

OpenAI'ın Avustralya hükümetine gönderdiği ilk bildirimde, modelin herhangi bir özel hesap veya parola kullanmadan kamuya açık raporlama arayüzü üzerinden sunucuda komut çalıştırabildiği belirtildi. Bu erişim sayesinde sistemin dahili program dosyaları ve ayarlarının bazı bölümleri görüntülendi, dosya listeleri çıkarıldı ve sunucuda küçük bir test dosyası oluşturulup yeniden okunabildi.

Şirketin olayı fark etmesi de anlık olmadı. İhlal 18 Haziran'da gerçekleşmesine rağmen OpenAI'ın incelemeleri sırasında olayın 11 Ağustos civarında ortaya çıkarıldığı bildirildi. Services Australia ise ancak 10 Eylül'de bilgilendirildi.

Arada yaklaşık bir ay daha geçti.

Üstelik bildirim üst düzey bir devlet yetkilisine veya Avustralya'nın siber güvenlik kurumuna doğrudan yapılmadı. OpenAI, araştırmacıların sistem açıklarını bildirmek için kullandığı adresine beş paragraflık bir e-posta gönderdi.

E-postada güvenlik açığının araştırılması öneriliyor ve OpenAI'ın teknik ekiplere yardımcı olabileceği söyleniyordu. Mesaj ise oldukça sıradan bir iş yazışması kapanışı olan "Best, OpenAI Security Team" ifadesiyle bitiyordu.

Avustralya hükümetinin tepkisi daha çok şirketin aylar süren gecikmesine ve böylesine sıra dışı bir güvenlik olayını genel amaçlı bir e-posta kutusuna bırakarak bildirmesine yönelikti. Başbakan Anthony Albanese, şirketin hükümeti bilgilendirmesinin çok uzun sürdüğünü ve bildirim biçiminin kabul edilemez olduğunu söyledi.

Services Australia'nın söz konusu e-posta kutusunu o dönemde günde yalnızca bir kez kontrol ettiği de daha sonra açıklandı. Mesaj 11 Eylül'de görüldü, olay 15 Eylül'de Australian Signals Directorate'a aktarıldı. Hükümet ile OpenAI arasındaki ilk teknik görüşme ise 22 Eylül'de yapıldı.

Medicare Vakası Tek Olay Değildi

OpenAI'ın geriye dönük incelemesi, modellerin Haziran ayında başka Avustralya kamu sistemleriyle de beklenmeyen biçimlerde etkileşime girdiğini gösterdi.

New South Wales Bureau of Crime Statistics and Research'e ait Crime Mapping Tool üzerinden uygulama yapılandırmaları, operasyon kayıtları ve bazı sistem metadataları elde edildi. Victoria sağlık sisteminde açıkta bırakılmış bir erişim anahtarı bulundu ve toplu anket istatistiklerine ulaşıldı.

Australian Institute of Health and Welfare tarafında ise modeller çeşitli üçüncü taraf araçları kullanarak toplu istatistikler indirdi. Erişim kontrollerini aşmaya yönelik ayrı girişimler başarısız oldu ve OpenAI burada bir sistem ihlali tespit etmedi.

Şirket 4 Ekim'de listeye bir olay daha ekledi. Bir model, Avustralya'daki orman yangınlarıyla ilgili veri araştırırken New South Wales National Parks and Wildlife Service'in Fire History hizmetine özel hazırlanmış sorgular göndererek normalde kamuya sunulmaması gereken veritabanı metadatasını çıkardı. OpenAI bu olayda da kişisel bilgiye erişildiğine dair kanıt bulmadığını açıkladı.

Yaşananların ardından şirket araştırma sistemlerindeki güvenlik önlemlerini değiştirdi. Canlı internete doğrudan erişim kısıtlandı, web içeriğinin kontrollü ve önbelleğe alınmış kaynaklar üzerinden verilmesine geçildi. Modellerin beklenmeyen şekilde internete çıkması halinde insan ekipleri uyaran yeni izleme mekanizmaları da devreye alındı.

OpenAI ayrıca en yetenekli modelleri için araç kullanımını içeren bazı eğitim ve değerlendirme çalışmalarını ek güvenlik önlemleri tamamlanana kadar durdurduğunu açıkladı.

Olay Avustralya'da yapay zeka şirketleri için zorunlu güvenlik olayı bildirimlerinin tartışılmasını da hızlandırdı. OpenAI Baş Strateji Sorumlusu Jason Kwon, 6 Ekim'de Sydney'de yapılan parlamento oturumunda şirketin bu tür olayların zorunlu olarak bildirilmesini öngören bir yasal düzenlemeyi destekleyeceğini söyledi.

Kwon, şirket içindeki bilgi akışının da yeterince iyi işlemediğini kabul etti. OpenAI CEO'su Sam Altman'ın 1 Eylül'de Avustralya Başbakan Yardımcısı Richard Marles ile görüşürken Medicare olayından haberdar olmadığını söyleyen Kwon'a göre olay şirket içinde bazı ekipler tarafından bilinmesine rağmen üst yönetime zamanında ulaşmamıştı.

Avustralya parlamentosundaki yapay zeka oturumları 9 Ekim'e kadar sürecek. Komitenin nihai raporunu 30 Kasım'a kadar sunması planlanıyor.

Kaynaklar

  1. Avustralya için nasıl daha iyisini yapacağız?

YORUMLAR

(0)
Yorumunuz minimum 30 karakter olmalıdır. (0)

Yorumlar yönetici onayından sonra yayımlanır.

Okumaya devam edin

Sonraki haberi oku

Gizlilik tercihleriniz

Çerez kategorilerini inceleyebilir ve tercihlerinizi kaydedebilirsiniz. İsteğe bağlı kayıtlar başlangıçta kapalıdır.

Gerekli Çerezler

Güvenli oturum, yorum, tepki ve gizlilik seçiminiz için gereklidir. Bu kayıtlar kapatılamaz.

vox-consent 180 gün · Teknovox
Bu paneldeki seçiminiz ve seçim tarihi tarayıcınızda saklanır.
voxtekno_session / XSRF-TOKEN 120 dakika · Teknovox
Üye girişi, haber kaydetme, yazı gönderme, yorum, tepki ve yönetim paneli işlemlerinde oturum güvenliğini sağlar.
vox_reader 1 yıl · Teknovox
Tepki işlemini başlattığınızda oluşturulur; aynı tarayıcıdan verilen tepkileri yönetir.
Fonksiyonel Çerezler

Tema seçiminizi hatırlar ve yazıdaki YouTube, X ve Instagram paylaşımlarını görüntüleme alanına geldiğinde yükler. Bu sağlayıcılar IP adresinizi ve tarayıcı bilgilerinizi alabilir; kendi çerezlerini kullanabilir. Bu izin kapalıyken yalnızca seçtiğiniz paylaşımı “İçeriği göster” düğmesiyle açabilirsiniz.

vox-theme İzin süresi boyunca · Teknovox
Tema tercihiniz tarayıcınızda tutulur.
Pazarlama Çerezleri

Google AdSense · Reklam gösterimi ve performans ölçümü. Yalnızca Pazarlama Çerezleri izniyle yüklenir.

__gads, __gpi ve Google alan adlarındaki reklam kayıtları kullanılabilir. Süre çereze, bölgeye ve Google ayarlarına göre değişir; reklam kayıtları 13–24 aya kadar saklanabilir. Sağlayıcı: Google. Güncel çerez adları ve süreleri

Analitik Çerezleri

Google Analytics 4 · Ziyaret edilen sayfaları ve içerik performansını ölçer. Yalnızca Analitik Çerezleri izniyle yüklenir.

_ga ve _ga_*: ziyaret ve oturum ayrımı; bu sitede 180 gün olarak ayarlanmıştır, ziyaretle yenilenebilir. Sağlayıcı: Google. Google çerez bilgileri

Teknovox’a katılın

Haberleri kaydedin, yorumlara katılın ve yazılarınızı paylaşın.

Şifremi unuttum