Anthropic · Modeller · Araştırma
SWE-Game: Godot’ta oyun inşa görevlerinde en iyi model bile 100 üzerinden 60’ı geçemedi
Şanghay Jiao Tong Üniversitesi’nin de aralarında bulunduğu altı kurumdan 11 araştırmacı, yapay zeka kodlama ajanlarının oyun geliştirme becerisini ölçen SWE-Game’i arXiv’de yayımladı. Makale 27 Eylül’de çıktı, 7 Ekim’de güncellendi. Test, Godot motoruyla yapılmış 41 çalışan referans oyuna dayanan 247 görevden oluşuyor: kısa bir tariften ya da tasarım belgesinden oyun yapmak, iskelet kodu tamamlamak, eklenen hataları onarmak ve oyunu Unity’ye taşımak. Puanlar, oyun motoru içindeki otomatik kontroller ve görsel değerlendirmeyle hesaplanıyor. Altı model arasında beş görevin hepsinde Anthropic’in Opus 5 modeli önde. Ama oyun inşa eden üç görevde en iyi skor 59,68’de kaldı; kısa tariften oyun yapmada bu rakam 50,38. Hata onarımında ise 83,46 aldı. Her model kendi ajan altyapısıyla çalıştırıldı.
Kaynaklar
- arXiv, “SWE-Game: Can Coding Agents Build the Games We Want?”, Makale (v1 27 Eylül, v3 7 Ekim), (arxiv.org)
- arXiv, “SWE-Game: Can Coding Agents Build the Games We Want?”, Tablo 3: skorlar ve puanlama yöntemi, (arxiv.org)
- Hugging Face, “Paper page - SWE-Game: Can Coding Agents Build the Games We Want?”, Daily Papers sayfası, (huggingface.co)
- Wikimedia Commons, “File:Godot logo.svg”, Godot logosu: Andrea Calabró, CC BY 4.0, (commons.wikimedia.org)
Bu haber hakkında
Bu haber Instagram’da @jarrus.ai hesabında 13 Ekim 2026 tarihinde paylaşıldı.
Bu haberde bir hata mı var? [email protected] · Instagram
Kısa link: thejarrus.com/swe-game
Bu haberin İngilizcesi: SWE-Game: even the best model scores below 60 out of 100 on building games in Godot
Aynı konuda
ABD, yapay zeka şirketlerinin modellerini yayından önce İngiltere’nin Yapay Zeka Güvenlik Enstitüsü’yle paylaşmasına yeniden izin verdi
The Telegraph’a göre ABD, şirketlerin modellerini yayından önce İngiltere’nin Yapay Zeka Güvenlik Enstitüsü’yle paylaşmamasını isteyen talebini geri çekti.
CNBC: METR, Apollo Research ve Transluce gibi küçük kuruluşlar yapay zekanın güvenlik bekçileri olarak öne çıkıyor
CNBC’ye göre laboratuvarlar bağımsız değerlendiricilere daha çok dayanıyor; ancak finansman, erişim ve raporlama için henüz bir standart yok.
Çinli şirketlerin model yayınlarının yalnızca %3,6’sı için yayımlanmış bir güvenlik testi sonucu var
SemiAnalysis’e göre dokuz büyük Çinli geliştiricinin 857 model yayınından yalnızca 31’i için yayımlanmış bir güvenlik değerlendirmesi sonucu var.