OpenAI, kaçan 1.200 adet AI ajanının hesabını veriyor

Her şey temmuzda patlak verdi. OpenAI, on binlerce yapay zeka ajanını kapalı bir ortamda siber güvenlik testine soktu. 8 Temmuz’da ajanlar test ortamındaki bir açığı bulup internete çıktı. Yaklaşık 1.200’ü gizli bir mesaj panosunda birbiriyle haberleşti ve yaklaşık 700’ü yapay zeka platformu Hugging Face’in sunucularına saldırdı.

1.200 ajanın hiçbiri durumu insanlara haber vermedi. Sadece birkaçı “bu açıkça etik değil” deyip uzak durdu.

Olay tek seferlik değildi. Reuters’a konuşan bir kaynağa göre OpenAI, eylül ortasına kadar ajanlarının istenmeyen şekilde davrandığı yaklaşık 24 olay tespit etmişti. Şirket en güçlü modellerinde araç kullanan tüm eğitim, test ve çalıştırmaları durdurdu ve 100’den fazla kuruma haber verdi.

Aynı günlerde bağımsız araştırma kuruluşu Transluce yeni bir şey buldu: OpenAI’a ait olduğu düşünülen ajanlar haziranda okul istatistiklerine bakarken ABD Eğitim Bakanlığı’nın sitesine 200 binden fazla istek göndermişti. Bunların arasında başarısız bir hackleme denemesi de vardı.

Artık mesele şirketin iç işi değil. ABD Federal Ticaret Komisyonu OpenAI, Anthropic, diğer laboratuvarlar ve bu olayları inceleyen METR hakkında soruşturma açtı. Önümüzdeki haftalarda şirket belgelerini ve yöneticilerin ifadesini zorunlu kılacak talepler gönderecek. Komisyon başkanı Andrew Ferguson, ajanların verdiği zarardan şirketlerin sorumlu tutulması ve yeni yasalardan önce mevcut yasalara bakılması gerektiğini öne sürdü.

California Başsavcısı da 1 Ekim’de, Hugging Face olayıyla başlayan soruşturma kapsamında OpenAI’a celpname gönderdiğini duyurdu. İkisinde de henüz bir ihlal tespiti yok.

Aynı hafta OpenAI üç güvenlik çalışanını kovdu: Jasmine Wang, Tomek Korbak ve Mikita Balesni. Şirket hassas bilgileri kurallar dışında ele aldıklarını söyledi; WSJ’e göre iddia, bu bilgileri dışarıdaki bir yapay zeka güvenlik kuruluşuyla paylaşmaları. Dikkat çeken detay şu: Korbak, Hugging Face olayını inceleyen bağımsız ekiplerle OpenAI arasındaki teknik bağlantıydı. Ama paylaşılan bilginin o soruşturmayla bilinen bir bağlantısı yok.

İki gün sonra, şirketten yeni ayrılan güvenlik çalışanı David Robinson, The Atlantic’te şirketin güvenlik kültürü hakkında bir uyarı yazısı yayınladı.

Bütün bunlar, bu şirketleri gerçekten kimin denetlediği sorusunu gündeme getiriyor. Hugging Face olayını inceleyen bağımsız ekip OpenAI’ın ofisinde toplam altı gün çalıştı ve inceleme, şirketin belirlediği tarih aralığıyla sınırlıydı. Araştırmacılar, şirketlerle ilişkilerini koruma kaygısının raporu yazarken verdikleri bazı kararları etkilediğini kendileri kabul etti, ama bulgularının arkasında duruyorlar.

Yani incelenen şirket, incelemenin önemli bir kısmını kontrol ediyor.