třídění, souhrny a učení
Gemma 4 26B MoE
Mixture of Experts (26B-A4B): z 26 miliard parametrů je pro každý token aktivních jen asi 4 miliardy, proto je rychlá i na integrované grafice. Třídí každou příchozí zprávu, píše souhrny historie klientů, kontroluje osobní údaje a v noci se učí z odeslaných odpovědí. Hustou Gemmu 4 31B jsme naměřili na stejné sadě, přesnější nebyla a byla čtyřikrát pomalejší.
- Generování
- 46 tokenů/s
- Klasifikace zprávy
- 2,1 s
- Přesnost kategorie
- 90 %