Anthropic halka arz belgesinde uyardı: Kendini geliştiren yapay zeka eşiğine yakında ulaşabiliriz

Belgeye eklenen yeni ifade

Anthropic, PBC 2 Kasım’da halka arz kayıt belgesinin ilk değişikliğini (S-1/A) ABD Menkul Kıymetler ve Borsa Komisyonu’na (SEC) sundu. Şirket asıl S-1’i 26 Ekim’de kamuya açmıştı; A sınıfı hisselerin Nasdaq’ta ANT koduyla işlem görmesi planlanıyor. TechCrunch’tan Julie Bort’a göre değişiklik, risk faktörlerine özyinelemeli kendini geliştirme (recursive self-improvement, RSI) konusunda yeni bir uyarı ekliyor.

Belgede, iç tahminlerin ve gelecek modellere dair beklentilerin şirketin Sorumlu Ölçekleme Politikası’ndaki (RSP) “yapay zekaya bağlanabilecek dramatik ölçüde hızlanmış ilerleme” tanımını “yakında karşılayabileceğimizi” gösterdiği yazıyor. Uyarı mevcut modellere değil, gelecek modellere dayanıyor. Anthropic mevcut modellerinin hiçbirini bu eşiği aşmış saymadı ve verileri değerlendirmeyi sürdürüyor.

SEC’in tam metin aramasına göre “yakında” değerlendirmesi ve eşiğin adı ilk kez bu değişiklikte geçiyor. Şirketin “Daha yetenekli yapay zeka geliştirmek için yapay zekayı kullanmak ciddi bir güvenlik riski de oluşturabilir” uyarısı ise 26 Ekim’deki S-1’de de vardı. RSI’dan söz eden risk bölümü de o belgede yer alıyordu.

İnsan denetimi ve geçmiş hatalar

Belgeye göre Anthropic, Claude’u anlamlı bir insan denetimi ya da anlayışı olmadan ardışık öncü model kuşaklarını “tamamen kendi başına tasarlayıp geliştirmek” için güvenle kullanabilmeyi beklemiyor. Bu nedenle öncü model geliştirmede kontrolü insanlarda tutmak için RSP’yi güncellemeyi düşünüyor. Belgede, kendi Ar-Ge’sini yapay zekayla hızlandırmanın, model yeteneklerinin güvenlik, hizalama ve bilgi güvenliği önlemlerini geliştirme hızını aşmasına yol açabileceği de belirtiliyor. Şirket, geçmişte önemli bir hızlanmayı ancak gerçekleştikten sonra fark ettiğini ve bunun yeniden olabileceğini kabul ediyor.

Politikadaki eşik

RSP’nin 8 Temmuz’da yürürlüğe giren 3.4 sürümü, otomatik Ar-Ge eşiğini iki koşulla tanımlıyor. İlki, modellerin Anthropic’in bütün araştırma bilimcilerinin ve mühendislerinin yerini en fazla 5 kat maliyetle tamamen alabilmesi. İkincisi, Ar-Ge’nin otomasyonuna bağlanabilecek “dramatik bir hızlanma”. Politika bunu, normalde iki yılda görülecek ilerlemenin bir yılda gerçekleşmesi olarak açıklıyor. Sürüm notunda eşiğin “dramatik özyinelemeli kendini geliştirmenin başlangıcını yakalamayı” amaçladığı ve işlevsel hale getirilmesinin zor olduğu yazıyor. Politika bu düzey için en güçlü saldırganlara karşı görülmemiş düzeyde güvenlik ve şirket içi yapay zeka geliştirmenin her adımının izlenmesini öngörüyor.

Uyarının okunuşu

TechCrunch başlığında Anthropic’in RSI’ya “çok yakın” olduğunu yazdı; belge ise yalnızca eşiğe yakında ulaşılabileceği tahminini içeriyor. TechCrunch, şüphecilerin S-1’in hem bilgilendirme hem pazarlama işlevi gördüğünü hatırlatabileceğini de not ediyor. Gizmodo’dan Mike Pearl ise RSI’yı “biraz bulanık bir kavram” olarak niteliyor. Haberlerde Anthropic’in belge dışında ayrı bir açıklaması yer almıyor.