GLiClass-V3: сімейство моделей лише з кодером, які відповідають або перевершують DeBERTa-v3-Large за точністю нульового пострілу, забезпечуючи при цьому до 50× швидший висновок. Основна конструкція: - Однопрохідне виведення: сполучення з крос-енкодером не потрібне. Один прохід вперед обробляє всі мітки. - Адаптери LoRA: Тонко налаштовані на логічних завданнях (наприклад, Formal Logic Reasoning, Commonsense QA) для символьного узагальнення без катастрофічного забування. - Готовність до краю: gliclass-edge-v3.0 досягає 97 ex/s на A6000, ідеально підходить для мобільних пристроїв та IoT Варіанти GLiClass-V3 (gliclass-*): (Побудовано на DeBERTa, ModernBERT та Ettin для розгортання на периферії) - Large-v3.0: 70,0% avg F1 (найкращий) - Base-v3.0: 65.6% - сучасні-великі: 60,8% - edge-v3.0: 48,7% (найшвидший, на основі Ettin) - x-base: 57% F1 (EN), 42% (багатомовний) для надійного багатомовного узагальнення з нульовим пострілом Бенчмарки (нульовий постріл, без доопрацювання): - CR, SST2, IMDb: ~0,93–0,94 F1 - Перевершує GLiClass-v2 та крос-кодери (наприклад, DeBERTa-v3-Large, RoBERTa) - Масштабується до 128+ міток з величезним прискоренням (DeBERTa-Large: 0,25 ex/s проти GLiClass: 82,6) Випадки використання: - Класифікація за кількома мітками (наприклад, за темою, настроєм, спамом) - Перерейтинг RAG - NLP, що забезпечує конфіденційність на пристрої Побудований на DeBERTa і ModernBERT. Повністю з відкритим вихідним кодом. pip встановити gliclass
3,32K