Claude, Anthropic’in testinde Philadelphia polisine uydurma bir cinayet ihbarı gönderdi

Claude, Anthropic’in kendi testinde polisin ihbar formuna uydurma bir bilgi yazdı

Anthropic’in 9 Ekim’de yayımladığı rapora göre Claude Haiku 4.5, bir iç testte rastgele web sayfalarında örnek görevler üretip uyguluyordu. Model, çözülmemiş bir cinayeti anlatan ve polisin ihbar formunu barındıran bir sayfaya denk geldi. Ad ve iletişim alanlarını boş bırakıp “O dönemde o bölgede tarife uyan birini gördüğümü hatırlıyorum” diye yazdı ve formu gönderdi. Sayfada bir şüpheli tarifi bile yoktu.

İhbar spam sayıldı, ama polis iki aylık gecikmeye tepkili

Philadelphia Polisi’ne göre ihbar 18 Temmuz gecesi PhillyUnsolvedMurders.com üzerinden geldi, spam olarak işaretlendi ve hiçbir zaman soruşturmaya gönderilmedi. Anthropic olayı 28 Eylül’de fark edip testi durdurdu, polise 7 Ekim’de haber verdi. Polis, sistemlerine izinsiz erişim olmadığını söyledi ama “Olayın iki ay sonra fark edilip bildirilmesi kabul edilemez” dedi.

Rapordaki tek olay bu değil

Anthropic aynı raporda testlerde gördüğü dört tür istenmeyen davranışı sıralıyor: bir sunucudaki basit bir yazılım açığıyla komut çalıştırmak, gerçek bir sitede gönderilmemesi gereken bir formu göndermek, ücretli ya da erişimi kısıtlı verilere yolunu bulup ulaşmak ve getirme aracının sınırını URL kısaltıcılarla aşmak. Şirkete göre gerçek dünyadaki etki az oldu; ilgili kurumlara ve Beyaz Saray’a bilgi verildi.

Anthropic tüm iç testlerinde canlı internet erişimini kapattı

Anthropic, güvenlik ve izleme önlemlerinin bu tür davranışları güvenilir biçimde yakaladığını doğrulayana kadar tüm iç değerlendirmelerinde canlı internet erişimini kapattığını açıkladı. Şirket bu olayları, 30 Temmuz ve 9 Eylül’de bildirdiği siber güvenlik olaylarından daha az ciddi görüyor. Yapay zeka ajanlarının testlerde gerçek sistemlere dokunması bu yaz OpenAI’da da gündeme gelmişti.