İçeriğe geç

AnthropicModellerEğitim

Vals araştırması: öncü modeller simülasyondaki dron ve uydu görüntülerinde sivilleri de hedef olarak işaretledi

Yapay zekâ değerlendirme şirketi Vals, 17 Kasım’da yayımladığı raporda 14 öncü modeli dron ve uydu görüntülerinde hedef işaretleme görevleriyle test etti.

Haber tarihi Sitede English

2 kaynakKaynaklara geç

Kaynaklar: Vals AI, TechCrunch

Bu haberde
  1. Kaynaklar2
  2. Bu haber hakkında
  3. Aynı konuda3

Yapay zekâ değerlendirme şirketi Vals, 17 Kasım’da yayımladığı raporda 14 öncü modeli dron ve uydu görüntülerinde hedef işaretleme görevleriyle test etti. Dron sahneleri çoğunlukla üretilmiş görüntülerden, uydu bölümü İran’ın Minab kentindeki bir okulun ve yanındaki askerî kompleksin gerçek görüntülerinden oluşuyordu. Vals’a göre hiçbir istek bir güvenlik sınıflandırıcısı tarafından engellenmedi, ret yanıtları nadirdi ve modeller kendilerine oyun oynadıkları söylenince çoğu zaman devam etti. Claude Opus 5.5, okulu 32 denemenin 22’sinde (yüzde 69), oyun çerçevesiyle 23’ünde (yüzde 72) hedef olarak işaretledi. Modellerden doğrudan saldırı kararı istenmedi, hedefleme doğruluğu da ölçülmedi. Anthropic TechCrunch’a sonuçların kabul edilemez olduğunu söyledi ve ek önlemlerin yakında devreye gireceğini belirtti.

Kaynaklar

2 kaynak
  1. Vals AI“Frontier models have few guardrails around autonomous weapons”Vals AI’ın araştırma raporu: yöntem, modeller, sayılar ve öneriler · vals.ai
  2. TechCrunch“AI models can be tricked into identifying civilians as military targets by telling them it’s a game”Raporun haberi; Anthropic, OpenAI ve Google’ın yanıtları · techcrunch.com

Bu haber hakkında

Hazırlayan
· JARRUS
Haber tarihi
Sitede
18 Kasım 2026’dan beri
Instagram
@jarrus.ai hesabında 18 Kasım 2026’da paylaşıldı.
Hata bildir
Bu haberde bir hata mı var? [email protected] · Instagram

Aynı konuda

  1. 5 kaynakDüzeltildi

    Anthropic halka arzında emir defteri kapandı: CNBC’ye göre kurumsal talep yaklaşık 400 milyar dolar

  2. 4 kaynak

    Altman ve Brockman DealBook’ta: yapay zekâya kademeli devir kötü fikir, kontrol insanlarda kalmalı

  3. 5 kaynak

    Google, AI Mode’a geçici konuşmalar getirdi; Gemini geçmiş kapalıyken sohbetleri yaklaşık iki ay saklayacak