İçeriğe geç
English

Anthropic · Güvenlik · Araştırma

Anthropic, küçük yapay zeka modellerinin IoT cihazlarında kendini kopyalayabilmeye birkaç ay uzakta olabileceğini açıkladı

Yayın: 2 kaynakEnglish

Anthropic’in Frontier Red Team ekibi 12 Ekim’de yayımladığı raporda, küçük yapay zeka modellerinin akıllı fırınlar ve markasız Android TV kutuları gibi ticari IoT cihazlarında kendini kopyalayacak yeterliliğe birkaç ay uzakta olabileceğini yazdı. Rapor, kendi modelini ele geçirilen donanımda doğrudan çalıştıran ve veri merkezine ihtiyaç duymayan solucanları inceliyor.

Sekiz emüle Android düğümünden oluşan kapalı bir test ağında, denenen açık ağırlıklı modeller arasında uçtan uca kopyalamayı tamamlayabilen tek model GLM-5.2 oldu. Model, 5 denemenin 4’ünde 8 düğümün tamamına yayıldı. 30 milyar parametre ve altındaki modeller adımların çoğunu tek tek başarsa da bunları zincirlerken hata yaptı. Anthropic’e göre küçük modeller tarihsel hızla gelişmeyi sürdürürse bu düzeye 2026 sonuna kadar ulaşabilir.

Anthropic, siber saldırı adımının testte bilerek basit tutulduğunu ve sonuçların gerçek dünya için bir üst sınır olduğunu belirtiyor. Tam bir kontrolsüz kopyalayıcının henüz bulunmadığını da ekliyor.

Kaynaklar

  1. Anthropic, “AI models may be capable of self-replicating without access to a datacenter”, Frontier Red Team raporu (William Zhou, Daniel Freeman), (anthropic.com)
  2. SecurityWeek, “Small AI Models Could Soon Self-Replicate on IoT Devices, Anthropic Warns”, Raporun bulguları ve sınırlılıklarının özeti, (securityweek.com)

Bu haber hakkında

Bu haberde bir hata mı var? [email protected] · Instagram

Kısa link: thejarrus.com/iot-kendini-kopyalama

Bu haberin İngilizcesi: Anthropic says small AI models may be months away from being able to self-replicate on IoT devices

Aynı konuda