İçeriğe geç
English

Çip ve donanım · Ajanlar

Yapay zeka ajanlarıyla geliştirilen açık kaynak hızlandırıcı openTPU, dil modellerini bir FPGA kartında çalıştırıyor

Yayın: 5 kaynakEnglish

Geliştirici Felipe Sens Bonetto’nun Apache 2.0 lisansıyla yayımladığı openTPU, kendini “yapay zekanın geliştirdiği” açık kaynak bir yapay zeka hızlandırıcısı olarak tanımlıyor. Depoda donanım tasarımı, komut seti, simülatör, derleyici, profil aracı ve kart yazılımı bir arada. Tasarım, Kintex-7 yongalı Inspur YPCB-00338 PCIe kartında Qwen3, Gemma 4 ve Phi-4-mini gibi modelleri çalıştırıyor. README’ye göre 4 bitlik ağırlıklarla Qwen3-0.6B saniyede 30,7, LFM2.5-230M 82,1 token üretiyor; karta sığmayan Qwen3.5-35B-A3B ise uzmanları bilgisayardan aktararak saniyede 3,95 tokene ulaşıyor.

Proje 6 Ekim’de Hacker News’te 348 puan ve 405 yorum aldı. Bonetto, daha önce RISC-V işlemci çekirdekleri için kullandığı yapay zeka döngüsünü burada da uyguladığını söylüyor; README ajanların ve insanın payını ayrıntılandırmıyor. Habr’da bir kullanıcı projeyi yaklaşık 50 dolara aldığı aynı yongalı kartta çalıştırdı. Tasarım şimdilik yalnızca FPGA’da: token üretim hızı DDR3 belleğin bant genişliğiyle sınırlı ve proje Google’ın TPU’sunu kopyalamayı amaçlamıyor.

Kaynaklar

  1. GitHub (FeSens/openTPU), “openTPU”, README: kart, modeller, hızlar, sınırlar, Apache 2.0 (github.com)
  2. Hacker News (fsbonetto), “OpenTPU – An open-source AI accelerator, developed by AI”, Yayılma ve Bonetto'nun yöntem açıklaması; yorumlardaki eleştiriler, (news.ycombinator.com)
  3. GitHub (FeSens/auto-arch-tournament), Önceki proje: ajanlarla RISC-V çekirdeği geliştiren döngü (github.com)
  4. GIGAZINE, “OpenTPU, an open-source AI accelerator developed using AI technology, has emerged.”, Bağımsız haber; Google TPU'sunun kopyası olmadığı, (gigazine.net)
  5. Habr (Konstantin Tyutin), “Нафиг NVIDIA! Я запустил Qwen на FPGA за $50 — а свой TPU назвал бы «КЕДР». Часть 1”, Bağımsız kurulum: yaklaşık 50 dolarlık kart, AliExpress, (habr.com)

Bu haber hakkında

Bu haberde bir hata mı var? [email protected] · Instagram

Kısa link: thejarrus.com/opentpu

Bu haberin İngilizcesi: openTPU, an open-source accelerator built with AI agents, runs language models on an FPGA card

Aynı konuda