Мы только что выделили 10 GPU для запуска авто-исследования @karpathy: Мы находимся в эпохе, когда нишевые агенты могут стать гипер-тренерами, гипер-точными благодаря бесконечному циклу экспериментов. Если вы заинтересованы в разработке с авто-исследованием, напишите нам в личные сообщения, мы предоставим вам $100 кредитов на облачные GPU. Вот лишь некоторые нарративы агентов, которые теперь могут улучшиться в 100 раз по качеству: + симуляции агентов: управлять целыми правительствами, компаниями и любыми сущностями + агенты с одной целью: скажите агенту, что его единственная миссия — решить одну задачу, социо-экономическую проблему; посмотрите, каковы его результаты + mev-бот, который исследует свою стратегию, пока вы спите + сканер запуска токенов, который учится, что поднимает цену, а что нет + vault для ликвидности, который автономно находит оптимальные диапазоны на uni v4 и meteora + агент доходности, который открывает маршруты через 50 протоколов defi Этот твит знаменует новую эпоху; мы будем поддерживать таланты, готовые присоединиться к этой эпохе.
Andrej Karpathy
Andrej Karpathy8 мар., 03:53
Я упаковал проект "autoresearch" в новый самодостаточный минимальный репозиторий, если кто-то хочет поиграть в выходные. Это, по сути, ядро обучения LLM nanochat, упрощенное до версии на одном GPU, состоящей из одного файла примерно на 630 строк кода, затем: - человек работает над подсказкой (.md) - агент ИИ работает над кодом обучения (.py) Цель состоит в том, чтобы разработать ваших агентов для достижения самой быстрой исследовательской прогрессии бесконечно и без вашего участия. На изображении каждая точка — это завершенный запуск обучения LLM, который длится ровно 5 минут. Агент работает в автономном цикле на ветке git и накапливает коммиты git к скрипту обучения, когда находит лучшие настройки (с меньшей валидационной потерей к концу) архитектуры нейронной сети, оптимизатора, всех гиперпараметров и т. д. Вы можете представить себе сравнение исследовательского прогресса различных подсказок, различных агентов и т. д. Часть кода, часть научной фантастики и щепотка психоза :)
. @BNNBags karpathy x Bags x invisible.
905