представляем Ариану - совместный агентный IDE на основе Claude Code - управляйте задачами с вашей командой - передавайте их нескольким кодирующим агентам с их собственными машинами и ветками - проводите обзор с вашей командой - агенты объединяются для вас оставьте комментарий "Лучше поздно, чем никогда", чтобы получить сборку скоро

запускаю некоторую нагрузку на torchtitan с конфигурацией по умолчанию, 23% mfu, немного изменяю конфигурацию, включаю компиляцию и flex, немного увеличиваю размер пакета --> 58% mfu. Хотелось бы, чтобы в экосистеме torch были более производительные настройки по умолчанию.

цель @PrimeIntellect остается прежней, они просто не будут централизованными и не будут находиться в одном месте.

Демократизация доступа к вычислениям является одной из основных задач @PrimeIntellect.

Я гораздо больше склонен считать, что RL *система* внутри OpenAI является AGI, а не какой-либо фиксированной контрольной точкой модели, которая из нее выходит.

Я понял на нашем мероприятии в Берлине, что в Европе много талантливых и амбициозных молодых людей. Просто (почти) нет вдохновляющих компаний, чтобы строить будущее, и венчурных капиталистов, которые бы рискнули дать им шанс. Неудивительно, что все хотят приехать в Сан-Франциско.

Open AI будет запомнена как одна из самых вдохновляющих компаний всех времен.

Я не вижу смысла в том, чтобы кодовая база определяла размер батча на уровне каждого GPU. Это означает, что нужно вручную изменять параметр размера батча при увеличении/уменьшении масштаба эксперимента. Я полагаю, это исторически было сделано в кодовой базе, где нет градиентного накопления?

Нам стоит больше беспокоиться о том, что thinky нанимает всех людей, работающих с pytorch, чем о том, что zuck переманивает сотрудников из open ai.

Если вы на ICML и интересуетесь проверяемым выводом, обязательно загляните к нашему постеру! Мы представим TOPLOC, эффективный метод хеширования активации, который работает в различных условиях, например, при смене настроек вывода или даже моделей. 16 июля, 16:30, E-1106