Актуальные темы
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
samsja
Ведущие научные исследования в @PrimeIntellect
Open AI будет запомнена как одна из самых вдохновляющих компаний всех времен.
19 июл., 15:52
Сегодня мы в @OpenAI достигли вехи, которую многие считали недостижимой в течение многих лет: уровень производительности золотой медали на IMO 2025 с использованием LLM общего мышления — в тех же временных рамках, что и у людей, без инструментов. Насколько это замечательно, это еще более значимо, чем заголовок 🧵
8,37K
samsja сделал репост
Новая запись в блоге и новая библиотека уже доступны!
Запись посвящена MaxSim, почему он *на порядки* более требователен, чем обычная косинусная схожесть, и почему GPU не волнуются, а CPU - да!
Библиотека называется maxsim-cpu, которая позволяет CPU работать быстро и оставаться спокойными.
16,92K
Любопытно попробовать это с diloco, все равно установлю bs=1 на внутреннем оптимизаторе и все равно получу преимущества параллелизма данных.
10 июл., 22:12
🚨 Знали ли вы, что ванильный SGD малой партии без момента (т.е. первый оптимизатор, о котором вы узнаете на вводном курсе по машинному обучению) практически так же быстр, как AdamW, для предварительного обучения LLM на основе FLOP? 📜 1/n
1,93K
также старшинство в инженерии заключается в умении работать с техническим долгом других
5 июл., 21:13
Непопулярное мнение, но технический долг — это хорошо, он необходим для ускорения и сокращения сроков.
2,33K
Топ
Рейтинг
Избранное