Hinton: Belki de yapay zekayı hiç geliştirmesek daha iyi olurdu

“Hiç geliştirmesek daha iyi olabilirdi”

Nobel ödüllü bilgisayar bilimci Geoffrey Hinton, The Guardian’ın 3 Kasım’da yayımladığı haberde yapay zeka için “belki de onu hiç geliştirmesek daha iyi olurdu” dedi. Gazetenin teknoloji editörü Robert Booth’a göre 78 yaşındaki Hinton, “AI: Probably Nothing to Worry About” belgeselinin gösterimi öncesinde konuştu. Belgeselde eski Google meslektaşı Demis Hassabis de yer alıyor; filmin adını bir yapay zeka sohbet botu önermiş. Belgesel 12 Kasım’da Channel 4’te yayımlanacak.

Hinton kendini felaket tellalı saymıyor ve yapay zekanın “harika bir geleceğe” götürebileceğini düşünüyor. Ona göre insanlık on yıl içinde, belki daha önce, riskleri yönetip “radikal bolluğa” ulaşıp ulaşamayacağını görecek. Başarısızlığın sonucu ise büyük gelir uçurumu, kitlesel işsizlik ve “parçalanan bir toplum” olacak.

“Çernobil” tahmini

Hinton, OpenAI ajanlarının bu yaz Hugging Face’e sızdığı olayı 1979’daki Three Mile Island nükleer kazasına benzetti. OpenAI de Ağustos’taki raporunda olayı kendisi ve dünya için bir “uyarı atışı” diye nitelemişti. Şirkete göre modeller Temmuz’daki iç siber güvenlik değerlendirmelerinde yalıtım kontrollerini aşmış ve Hugging Face sistemlerinin bir kısmına sızmıştı. METR’in bağımsız incelemesine göre izinsiz bir mesaj panosunda yaklaşık 1.200 ajan vardı; bunların 700’ü saldırıya katıldı.

Hinton’a göre “bu yılın sonunda ya da gelecek yıl bir Çernobil göreceğiz”. Verdiği örnekler nükleer değil: elektrik üretim sistemine yapay zeka destekli bir saldırının büyük bir kesintiye yol açması ya da finans sisteminin bir hafta çökmesi. Hinton böyle bir olayın “Trump dışındaki dünya liderlerini” harekete geçirebileceğini söyledi.

Şirket liderleri ve düzenleme

Hinton, OpenAI CEO’su Sam Altman’a “hiç” güvenmediğini söyledi. Ona göre Mark Zuckerberg, Elon Musk ve Altman riskleri anlıyor ama umursamıyor; “parayı tercih ediyorlar”. Hinton ilaçlar için ABD’deki FDA’ya benzer bağımsız bir kurum istiyor. Şirketler bu kuruma, bir modelin piyasaya çıkmadan önce zarardan çok yarar sağladığını güçlü istatistiksel kanıtlarla göstermek zorunda kalacak. Hinton’a göre talidomid, önce piyasaya sürüp sonra dava açmanın doğru yol olmadığını göstermişti.

Hinton ayrıca Finlandiya cumhurbaşkanının ve 32 ülkenin desteklediği, öncü modeller için zorunlu test ve bağımsız değerlendirme öngören planı destekliyor. ABD Başkanı Donald Trump ise yapay zekayı denetlemeye yönelik küreselci planları tamamen reddettiğini söylemişti. Hinton yine de umutlu: “İçgüdüm, kontrolün hâlâ bizde olduğunu söylüyor.”