Anthropic’in federal yapay zeka güvenliği yasa taslağı eleştirildi, Amodei Encode’dan Nathan Calvin’e uzun bir yanıt yazdı

Politico 16 Ekim’de, Anthropic’in Kongre’deki bazı ofislere öncü yapay zeka modelleri için bir federal güvenlik yasa taslağı sunduğunu yazdı. Reuters ve TechCrunch’ın aktardığına göre taslakta, Ticaret Bakanlığı’na kayıtlı bağımsız değerlendiriciler laboratuvarları ve modellerini düzenli olarak inceleyecek. Laboratuvarlar değerlendiricilere ödeme yapabilecek, ancak ödeme sonuca bağlı olmayacak. Yakın bir risk tespit eden değerlendirici 72 saat içinde bakanlığa bildirecek. Bakanlık da modelin durdurulmasını Washington DC’deki federal mahkemeden isteyebilecek. Risk biyolojik silah, modelin denetimden çıkması ya da siber saldırıdan doğmalı. Ayrıca 50’den fazla ölüm ya da ağır yaralanma veya 1 milyar doları aşan hasar söz konusu olmalı. Şirket sözcüsüne göre taslak, Anthropic’in Haziran’dan beri savunduğu Advanced AI Framework önerilerini yansıtıyor.

Taslak, bazı eyalet yasalarını geçersiz kılan hükümleri ve başka hiçbir federal kurumun modeli durduramaması yüzünden güvenlik çevrelerinden eleştiri aldı. The Next Web’e göre Kaliforniya Senatörü Scott Wiener, önerinin kamu sağlığını ve güvenliğini korumakta “çok yetersiz” kaldığını yazdı. Anthropic’in federal ilişkiler sorumlusu Anthony Cimino 18 Ekim’de, eyalet yasalarına dair metnin güncelleneceğini ve eşiklerin yeniden değerlendirilebileceğini söyledi.

Encode’dan Nathan Calvin 19 Ekim’de X’te, Anthropic’in son bir yıldaki dokuz adımını sıralayarak güvenliğin ikinci plana atıldığını savundu; son madde yasa taslağıydı. Dario Amodei 21 Ekim’de uzun bir yanıt yazdı ve ticari açıdan pahalıya mal olan dokuz güvenlik adımını sıraladı. Bunlar arasında SB 53’e destek, sıkı biyolojik güvenlik filtreleri ve Mythos sınıfı modellerin Şubat’tan Haziran’a kadar genel kullanıma açılmaması var. Amodei, taslak dahil Calvin’in üç maddesinin daha iyi ele alınabileceğini kabul etti ve sorumluluğu üstlendi.