Geoffrey Hinton, Nobel ödül yemeğindeki konuşmasını yapay zekanın tehlikelerine ayırdı
Geoffrey Hinton Nobel’i yapay zeka çalışmaları için aldı, ödül yemeğindeki konuşmasını ise yapay zekanın tehlikelerine ayırdı.
“Yapay zekanın babası” olarak anılan Hinton, 2024 Nobel Fizik Ödülü’nü John Hopfield’la paylaştı. 10 Aralık 2024’te Stockholm’deki Nobel ziyafetinde yaptığı konuşmada, yapay zekanın neredeyse her sektörde verimliliği artırabileceğini ama yankı odaları, kitlesel gözetim, oltalama saldırıları, yeni virüsler ve kendi karar veren silahlar gibi kısa vadeli riskler getirdiğini söyledi.
Daha uzun vadeli tehdit olarak da bizden zeki dijital varlıkları gösterdi: “Kontrolü elimizde tutabilecek miyiz, hiçbir fikrimiz yok.” Hinton’a göre bu varlıkları kısa vadeli kâr peşindeki şirketler yaratırsa güvenliğimiz öncelik olmayacak.
Kaynaklar
- Nobel Prize (YouTube), “Geoffrey Hinton, Nobel Prize in Physics 2024: Banquet speech”, Videonun kaynağı: resmî kayıt, (youtube.com)
- NobelPrize.org, “Geoffrey Hinton – Banquet speech”, Konuşmanın resmî metni, (nobelprize.org)
Bu haber hakkında
Bu haberde bir hata mı var? [email protected] · Instagram
Kısa link: thejarrus.com/hinton-nobel-konusmasi
Bu haberin İngilizcesi: Geoffrey Hinton used his Nobel banquet speech to warn about the dangers of AI
Aynı konuda
Anthropic, küçük yapay zeka modellerinin IoT cihazlarında kendini kopyalayabilmeye birkaç ay uzakta olabileceğini açıkladı
Anthropic’in Frontier Red Team raporuna göre küçük modeller, akıllı fırın ve TV kutusu gibi cihazlarda kendini kopyalayabilmeye birkaç ay uzakta olabilir.
Anthropic, yeni damıtma savunmalarının Claude’dan toplanan veriyi yaklaşık yüzde 90 ile 99 arasında azalttığını açıkladı
Anthropic’e göre akıl yürütme erişimini kısıtlayan önlemler ve iki aşamalı sınıflandırıcı, damıtma için toplanan veriyi yüzde 90-99 azalttı.
Microsoft CEO’su Satya Nadella, öncü yapay zeka modellerinin şirketlerde içeriden risk gibi ele alınması için 7 ilke önerdi
Microsoft CEO’su Nadella, 10 Ekim’deki yazısında model kontrollerinin modelin dışında durmasını savundu, model çeşitliliğinden olay bildirimine 7 ilke sıraladı.