1/ Запуск Enchanted ✨ Каждый человек заслуживает по-настоящему личного ИИ. Не того, который контролируется большой лабораторией. Не того, который накапливает ваши данные. Используйте Enchanted.

В последние два месяца я не так много твитил, так как проводил время, изучая и экспериментируя с различными техниками RL. С нетерпением жду возможности поделиться некоторыми наработками: 1. Оптимальный рецепт для обучения GRPO 2. Инструмент на основе RL для повышения конфиденциальности в взаимодействиях с LLM Эксперименты были многообещающими 👀

1/ Сегодня мы объявляем о Pleiades, серии эпигенетических базовых моделей (90M→7B параметров), обученных на 1,9 триллионах токенов данных о метилировании и геномных данных человека. Pleiades точно моделирует эпигенетику для предсказания геномных треков, генерации и обнаружения нейродегенеративных заболеваний по cfDNA, превосходя предыдущие чистые ДНК-базовые модели.

Какова роль памяти LLM/RAG в краткосрочной и среднесрочной перспективе, учитывая, что в долгосрочной перспективе окна контекста могут быть чрезвычайно большими? Получил некоторые инсайты от обсуждения окон контекста LLM с кем-то из команды DeepMind. Работая над Gemma, они обнаружили, что могут растянуть длину контекста, но столкнулись с проблемами качества - токены в начале и конце извлекаются хорошо, но средние теряются в механизме внимания. Их интересный взгляд: они первоначально думали, что более длинный контекст просто решит все, но более глубокий анализ показал, что при фиксированном количестве параметров качество не приходит бесплатно. Несмотря на дальнейшее увеличение длины контекста, они все еще считают подходы RAG необходимыми в ближайшем будущем (6-12 месяцев) из-за этих проблем с качеством внимания. На данный момент проблема извлечения не решается полностью просто за счет увеличения длины контекста. Кроме того, заполнение всего окна контекста для высококачественных моделей с длинным контекстом стоит ~$1 за вызов сегодня.