Baidu, yüzlerce sayfalık belgeleri tek istekte okuyan 3 milyar parametreli Unlimited OCR 2 modelini açık kaynak yaptı

Baidu’nun ERNIE ekibi 27 Ekim’de belge okuma modeli Unlimited OCR 2’yi MIT lisansıyla yayımladı. Model, sıralı sayfa görüntülerinden oluşan yüzlerce sayfalık belgeleri tek istekte metne dönüştürüyor. Ağırlıklar Hugging Face’te, kod GitHub’da; SGLang ve vLLM ile sunum tarifleri de paylaşıldı. Model, Haziran’da çıkan ilk Unlimited OCR’ın üzerine kuruldu ve DeepSeek-OCR’ın görüntü kodlayıcısını kullanıyor. Uzman karışımı (MoE) mimarisindeki modelde toplam 3 milyar parametre var, bunların yaklaşık 500 milyonu etkin çalışıyor.

Asıl yenilik, Sparse Reference Sliding Window Attention (SR-SWA) adlı dikkat yöntemi. Yöntem, metin ve görüntü arasındaki etkileşimleri sabit büyüklükte bir referans kümesine sıkıştırıyor; örnek olarak 512 token veriliyor. Böylece her yeni token tüm belgeyi baştan taramıyor. Baidu’ya göre token başına gecikme ve bellek, belge büyüdükçe neredeyse sabit kalıyor. Makaleye göre yüz sayfa ölçeğinde adım başına hız, tam dikkate göre 7 kat artıyor. Görüntü kodlama ve toplam süre ise sayfa sayısıyla artmaya devam ediyor.

Baidu, 103 ile 300 sayfa arasındaki 100 belgeden oluşan MarathonDocBench adlı yeni bir test seti de yayımladı. Şirketin ölçümüne göre model bu testte 77,06 puan aldı; Kimi-K3 33,74, Gemini 3.8 Flash 28,61 puanda kaldı. En fazla 30 sayfalık belgeleri ölçen MPDocBench’te 84,59 puanla Qwen3.8-Max’in 78,30 puanını geçti. Sonuçlar bağımsız olarak doğrulanmadı ve en uzun test setini Baidu kendisi hazırladı. AlphaSignal’e göre sabit referans kümesi bir özet olduğundan çok gerideki ayrıntılar kaybolabilir.