Acabamos de provisionar 10 GPUs para rodar a pesquisa automática do @karpathy: Estamos numa era em que agentes específicos de nicho podem se tornar hiper-treinadores, hiper precisos através de um ciclo infinito de experimentação. Se você tem interesse em construir com autopesquisa, envie nossas DMs, eles te configuram com $100 em créditos de GPU em nuvem. Aqui estão apenas algumas narrativas de agentes que agora podem melhorar 100 vezes em qualidade: + simulações de agentes: Executar governos, empresas e entidades inteiras de todos os tipos + agentes de objetivo único: dizer a um agente que sua única missão é resolver um único objetivo, uma questão socioeconômica; Veja quais são seus resultados + bot mev que pesquisa sua própria estratégia enquanto você dorme + scanner de lançamento de token que aprende o que bombeia e o que não + LP Vault que encontra autonomamente os intervalos ótimos em uni v4 e meteora + Agente de rendimento que descobre rotas entre 50 protocolos DeFi Este tweet simboliza uma nova era; Apoiaremos talentos dispostos a entrar nesta era.
Andrej Karpathy
Andrej Karpathy8 de mar., 03:53
Embalei o projeto de "autopesquisa" em um novo repositório minimalista autônomo caso as pessoas queiram jogar durante o fim de semana. É basicamente um núcleo de treinamento de LLM nanochat reduzido a uma única GPU, um arquivo, com ~630 linhas de código, e então: - o humano itera no prompt (.md) - o agente de IA itera no código de treinamento (.py) O objetivo é orientar seus agentes para que façam o progresso de pesquisa mais rápido indefinidamente e sem envolvimento próprio. Na imagem, cada ponto é uma corrida completa de treinamento de LLM que dura exatamente 5 minutos. O agente trabalha em um loop autônomo em um branch de característica git e acumula commits git no script de treinamento à medida que encontra configurações melhores (com menor perda de validação ao final) da arquitetura da rede neural, do otimizador, de todos os hiperparâmetros, etc. Você pode imaginar comparar o progresso da pesquisa de diferentes prompts, diferentes agentes, etc. Parte código, parte ficção científica e um pouco de psicose :)
. @BNNBags karpatia x Bolsas x invisíveis.
920