🚨 Los modelos de IA acaban de inventar modelos de IA mejores y novedosos. Investigadores chinos alimentaron toda la investigación sobre LLM en un modelo y descubrió 106 arquitecturas de modelos de IA novedosas que convergen a una menor pérdida con mejores referencias. ASI-Arch es uno de los artículos de IA más interesantes de este año. En camino hacia la AGI.

Sé que hay mucho de "oh, esto es una tontería" en la línea de tiempo. Parte de ello es una crítica muy válida, pero leí todo el documento y en realidad es bastante interesante. También es poco claro que estas arquitecturas de modelo descubiertas no sean buenas si se escalan. ¿Es tan útil como el GSPO o incluso el documento de HRM de esta semana? Quizás no, pero realmente no entiendo el tribalismo al respecto.