Cursa pentru "nucleul cognitiv" LLM - un model de câteva miliarde de param care sacrifică la maximum cunoștințele enciclopedice pentru capacitate. Trăiește mereu pornit și implicit pe fiecare computer ca nucleu al calculului personal LLM. Caracteristicile sale se cristalizează încet: - Text/viziune/audio multimodal nativ atât la intrare, cât și la ieșire. - Arhitectură în stil Matryoshka care permite un cadran al capacității în sus și în jos în timpul testului. - Raționament, de asemenea cu cadran (sistem 2) - Utilizarea agresivă a uneltelor. - Reglarea fină a sloturilor LoRA pe dispozitiv pentru instruire, personalizare și personalizare în timpul testului. - Delegă și verifică doar părțile potrivite cu oracolele din cloud dacă internetul este disponibil. Nu știe că domnia lui William Cuceritorul s-a încheiat la 9 septembrie 1087, dar recunoaște vag numele și poate căuta data. Nu poate recita SHA-256 al șirului gol ca e3b0c442..., dar îl poate calcula rapid dacă îl doriți cu adevărat. Ceea ce îi lipsește computerului personal LLM în cunoștințe largi despre lume și capacitate de rezolvare a problemelor de top va compensa prin latență de interacțiune foarte scăzută (mai ales pe măsură ce multimodalul se maturizează), acces direct / privat la date și stat, continuitate offline, suveranitate ("nu greutățile tale, nu creierul tău"). adică multe dintre aceleași motive pentru care ne place, folosim și cumpărăm computere personale în loc să avem clienți subțiri care accesează un cloud prin desktop la distanță sau așa ceva.

Oamenii *simt* cât de multă muncă mai este de făcut.