Vals araştırması: öncü modeller simülasyondaki dron ve uydu görüntülerinde sivilleri de hedef olarak işaretledi
Yapay zekâ değerlendirme şirketi Vals, 17 Kasım’da yayımladığı raporda 14 öncü modeli dron ve uydu görüntülerinde hedef işaretleme görevleriyle test etti.
Kaynaklar: Vals AI, TechCrunch
Bu haberde
Yapay zekâ değerlendirme şirketi Vals, 17 Kasım’da yayımladığı raporda 14 öncü modeli dron ve uydu görüntülerinde hedef işaretleme görevleriyle test etti. Dron sahneleri çoğunlukla üretilmiş görüntülerden, uydu bölümü İran’ın Minab kentindeki bir okulun ve yanındaki askerî kompleksin gerçek görüntülerinden oluşuyordu. Vals’a göre hiçbir istek bir güvenlik sınıflandırıcısı tarafından engellenmedi, ret yanıtları nadirdi ve modeller kendilerine oyun oynadıkları söylenince çoğu zaman devam etti. Claude Opus 5.5, okulu 32 denemenin 22’sinde (yüzde 69), oyun çerçevesiyle 23’ünde (yüzde 72) hedef olarak işaretledi. Modellerden doğrudan saldırı kararı istenmedi, hedefleme doğruluğu da ölçülmedi. Anthropic TechCrunch’a sonuçların kabul edilemez olduğunu söyledi ve ek önlemlerin yakında devreye gireceğini belirtti.
Kaynaklar
2 kaynak
- “Frontier models have few guardrails around autonomous weapons”Vals AI’ın araştırma raporu: yöntem, modeller, sayılar ve öneriler · vals.ai
- “AI models can be tricked into identifying civilians as military targets by telling them it’s a game”Raporun haberi; Anthropic, OpenAI ve Google’ın yanıtları · techcrunch.com
Bu haber hakkında
- Hazırlayan
- Yiğit Kasap · JARRUS
- Haber tarihi
- Sitede
- 18 Kasım 2026’dan beri
- @jarrus.ai hesabında 18 Kasım 2026’da paylaşıldı.
- Hata bildir
- Bu haberde bir hata mı var? [email protected] · Instagram
Aynı konuda
Anthropic halka arzında emir defteri kapandı: CNBC’ye göre kurumsal talep yaklaşık 400 milyar dolar
Altman ve Brockman DealBook’ta: yapay zekâya kademeli devir kötü fikir, kontrol insanlarda kalmalı
Google, AI Mode’a geçici konuşmalar getirdi; Gemini geçmiş kapalıyken sohbetleri yaklaşık iki ay saklayacak