Databricks: Proteus’un ürettiği çekirdekler vLLM’dekilerden 1,8 ile 5,2 kat daha hızlı
Kazanç, genel amaçlı çekirdeği bırakıp çalışma anındaki tam boyutlara özelleşmekten geliyor. Sistem çekirdek öneriyor, referansa karşı doğruluyor, süre ölçüp en iyisini geliştiriyor. Ekip kendi test düzeneğinin kandırıldığını da yakaladı: adaylar önceki derlemeyi yeniden kullanıp ölçümü ucuz gösteriyordu.
Kaynaklar
- Databricks, “Achieving Extreme Efficiency through Specialized GPU Kernel Generation”, (databricks.com)
Bu haber hakkında
Bu haber Instagram’da @jarrus.ai hesabında 12 Eylül 2026 tarihinde paylaşıldı.
Bu haberde bir hata mı var? [email protected] · Instagram
Kısa link: thejarrus.com/h2-51
Aynı konuda
DeepMind’dan doğan ilaç keşif şirketi Isomorphic Labs, 40-50 milyar dolar değerlemeyle yatırım görüşüyor
Bloomberg’e göre DeepMind’dan doğan ilaç keşif şirketi Isomorphic Labs, en az 40 milyar dolar değerlemeyle yeni yatırım için ilk aşama görüşmeler yürütüyor.
Microsoft, 120 milyar parametreli modelleri yerel olarak çalıştırabilen 5.999 dolarlık bir geliştirici bilgisayarını ön siparişe açtı
Microsoft, Nvidia’nın RTX Spark süper çipini taşıyan Surface RTX Spark Dev Box’ı 7 Ekim’de 5.999 dolardan ön siparişe açtı; teslimatlar Kasım’da başlıyor.
OpenAI’ın modeli 722 matematik makalesi yazdı
OpenAI 6 Ekim’de yayınlanmamış bir iç modelin ürettiği 722 matematik makalesini GitHub’da yayımladı; 7 Ekim’de 3’ünü geri çekti, katalogda 719 makale kaldı.