GLiClass-V3: Eine Familie von nur-Encoder-Modellen, die in der Nullschussgenauigkeit mit DeBERTa-v3-Large übereinstimmen oder diese übertreffen, während sie bis zu 50× schnellere Inferenz liefern. Kern-Design: - Einzelpass-Inferenz: Keine Cross-Encoder-Paarung erforderlich. Ein Vorwärtsdurchlauf verarbeitet alle Labels. - LoRA-Adapter: Feinabgestimmt auf logische Aufgaben (z. B. formale logische Schlussfolgerungen, Commonsense QA) für symbolische Generalisierung ohne katastrophales Vergessen. - Edge-ready: gliclass-edge-v3.0 erreicht 97 ex/s auf A6000, ideal für mobile und IoT. GLiClass-V3-Varianten (gliclass-*): (Basiert auf DeBERTa, ModernBERT und Ettin für Edge-Deployment) - large-v3.0: 70,0% durchschnittlicher F1 (beste) - base-v3.0: 65,6% - modern-large: 60,8% - edge-v3.0: 48,7% (schnellste, Ettin-basiert) - x-base: 57% F1 (EN), 42% (mehrsprachig) für robuste mehrsprachige Nullschuss-Generalisierung. Benchmarks (Nullschuss, kein Feintuning): - CR, SST2, IMDb: ~0,93–0,94 F1 - Übertrifft GLiClass-v2 und Cross-Encoder (z. B. DeBERTa-v3-Large, RoBERTa) - Skaliert auf 128+ Labels mit massivem Geschwindigkeitszuwachs (DeBERTa-Large: 0,25 ex/s vs GLiClass: 82,6) Anwendungsfälle: - Mehrfach-Label-Klassifikation (z. B. Thema, Stimmung, Spam) - RAG-Reranking - Datenschutzsichere On-Device-NLP Basiert auf DeBERTa und ModernBERT. Vollständig Open Source. pip install gliclass