Yapay zeka siyasetinde bu hafta 5 hamle

Son iki haftada yapay zeka tartışması laboratuvarlardan siyasete taşındı. Soru aslında basit: sınır modellerinin gelişimi bilerek yavaşlatılmalı mı, yoksa yarış sürmeli mi?

Bu hafta bu soruya beş ayrı yerden cevap geldi: Trump ile Xi’nin Washington zirvesi, Meta’nın CEO’su Mark Zuckerberg, Kongre’deki iki Demokrat, Trump’ın çevresinden sızan bir not ve New York Şehir Meclisi. Tartışma bu noktaya birkaç adımda geldi.

12 Eylül’de Anthropic CEO’su Dario Amodei, sektörü model yeteneklerini bilerek daha yavaş geliştirmeye çağıran “We Must Pace the Frontier” yazısını yayımladı. Sam Altman ve Elon Musk saatler içinde destek verdi. 18 Eylül’de dört tüketici bu çağrıyı rakipler arası bir anlaşma sayıp laboratuvarlara antitröst davası açtı.

19 Eylül’de Trump, sektörü koruyacağını söylediği bir AI Force ve bir yapay zeka çarı duyurdu. 23 Eylül’de Amodei ve Altman BM Güvenlik Konseyi’nde küresel güvenlik standartları istedi; Amodei, yapay zekanın bütün insanlık için risk olabileceğini söyledi.

Xi Jinping’in 23-25 Eylül’deki Washington ziyaretinde iki ülke sekiz maddelik bir mutabakata vardı. Yapay zeka tarafındaki somut sonuç bir kanal oldu: süper zeka üzerine bir diyalog ve yapay zeka kaynaklı olaylar için bir iletişim hattı. İlk turun kasımda yapılması bekleniyor.

Kural ya da sınır konmadı. Analistlere göre iki taraf da yarışı yavaşlatmak istemiyor. Zirvenin öne çıkan diğer sonucu, karşılıklı 30’ar milyar dolarlık mala uygulanacak gümrük indirimi oldu.

Mark Zuckerberg 24 Eylül’de NBC News’e sektör çapında koordineli bir yavaşlamaya gerek olmadığını söyledi: “Bir tür sektör çapında koordinasyona ihtiyacımız olduğunu düşünmüyorum.” Ona göre her laboratuvar sorun gördüğünde kendi içinde zaman ayırmalı; örnek olarak Muse ajanının güvenlik için ertelenmesini gösterdi.

Bu, Amodei ile Altman’ın ortak adım çağrısından açık bir ayrılış.

Senatör Bernie Sanders ve Temsilci Greg Casar, 23 Eylül’de Ban Artificial Superintelligence Act’i sundu. Tasarı, çoğu alanda insan bilişsel kapasitesini aşan ya da insanlığı yok edebilecek yapay zekanın geliştirilmesini ve kullanımını kalıcı olarak yasaklıyor. Federal bir düzenleyici güvenlik kurallarını koyana kadar ileri yapay zeka geliştirmeyi de durduruyor.

Yasağı kabine düzeyinde yeni bir Yapay Zeka Bakanlığı uygulayacak. İhlal eden şirketlerin tüzel kişiliğine son veriliyor, kişilere 20 yıla kadar hapis öngörülüyor. Cumhuriyetçilerin çoğunlukta olduğu Kongre’de geçme şansı düşük.

Axios’un 24 Eylül’de yayımladığı 22 Eylül tarihli bir muhalefet araştırması notu, Anthropic’i ve CEO Dario Amodei’yi hedef alıyor. Notu Beyaz Saray’da çalışmayan bir Trump siyasi danışmanı yazdı; metin bu hafta Beyaz Saray yetkilileri arasında dolaştı.

Not, Anthropic’i effective altruism hareketine bağlıyor, bir bölümüne “EA yapay zeka kıyamet hattını nasıl kurdu” başlığını koyuyor ve Amodei kardeşleri “Anthropic düğümü” diye anıyor. İki kardeş de daha önce hareketin parçası olmadıklarını söylemişti.

New York Şehir Meclisi Başkanı Julie Menin 25 Eylül’de 10 tasarılık bir paket açıkladı. Şehirde satılacak her yapay zeka sistemi bağımsız doğrulamadan geçmeli ve bir acil durdurma düğmesi taşımalı; ihlal başına ceza 25 bin dolar.

İhlali bildiren muhbirler cezadan pay alacak, jailbreak edilmiş araçlardan zarar görenler dava açabilecek. Büyük laboratuvarların CEO’ları 5 Ekim’deki oturuma çağrıldı.

Haftanın tablosu iki kampa ayrılıyor. Bir yanda yavaşlamayı ya da sınır koymayı savunanlar var: Amodei, Sanders ile Casar ve New York Şehir Meclisi. Diğer yanda yarışı yavaşlatmak istemeyenler: Trump yönetimi, Pekin ve Zuckerberg.

Washington’da hâlâ federal bir yapay zeka güvenlik yasası yok. Boşluğu şimdilik eyaletler ve şehirler dolduruyor: New York eyaletinin RAISE Yasası’na göre büyük model geliştiricileri kasımdan itibaren eyalete kayıt olacak, Ocak 2027’den itibaren de kritik güvenlik olaylarını 72 saat içinde bildirecek.