🚨 Des modèles d'IA viennent d'inventer de meilleurs modèles d'IA novateurs. Des chercheurs chinois ont alimenté toutes les recherches sur les LLM dans un modèle et il a découvert 106 architectures de modèles d'IA novatrices qui convergent vers une perte plus faible avec de meilleurs benchmarks. ASI-Arch est l'un des articles d'IA les plus intéressants de cette année. En route vers l'AGI.

Je sais qu'il y a beaucoup de "oh c'est de la merde" sur la timeline. Une partie de cette critique est tout à fait valide, mais j'ai lu l'intégralité du document et c'est en fait assez intéressant. Il n'est pas non plus clair que ces architectures de modèle découvertes ne soient pas bonnes si elles sont mises à l'échelle. Est-ce aussi utile que le GSPO ou même le document HRM de cette semaine ? Peut-être pas, mais je ne comprends pas vraiment le tribalisme à ce sujet.