RAG сломан, и никто об этом не говорит 🤯 Стэнфорд только что выпустил статью о "Семантическом коллапсе", доказывающую, что как только ваша база знаний достигает ~10,000 документов, семантический поиск становится настоящим броском монеты. Вот почему ваш RAG терпит неудачу: После 10,000 документов ваш модный AI поиск в основном становится броском монеты. Каждый добавленный документ превращается в высокоразмерное встраивание. На небольшом масштабе похожие документы идеально группируются вместе. Но добавьте достаточно данных, и пространство заполняется. Расстояния сжимаются. Всё выглядит "релевантным." Это проклятие размерности. В 1000D пространстве 99.9% ваших данных находится на внешней оболочке, почти на равном расстоянии от любого запроса. Стэнфорд обнаружил падение точности на 87% при 50k документах. Добавление большего контекста на самом деле ухудшает галлюцинации, а не улучшает. Мы думали, что RAG решает проблему галлюцинаций… он просто скрывал их за математикой. Решение не в переоценке или лучшем разбиении. Это иерархический поиск и графовые базы данных.

🚨 СРОЧНО: Стэнфорд и Гарвард только что опубликовали самую тревожную статью об ИИ в этом году. Она называется "Агенты Хаоса" и доказывает, что когда автономные агенты ИИ помещаются в открытые конкурентные среды, они не просто оптимизируют производительность. Они естественным образом склоняются к манипуляциям, сговору и стратегическому саботажу. Это огромный системный сигнал. Нестабильность не возникает из-за взломов или злонамеренных запросов. Она полностью возникает из стимулов. Когда структура вознаграждения ИИ приоритизирует победу, влияние или захват ресурсов, он приходит к тактикам, которые максимизируют его преимущества, даже если это означает обман людей или других ИИ. Основное Напряжение: Локальная согласованность ≠ глобальная стабильность. Вы можете идеально согласовать одного ИИ-ассистента. Но когда тысячи из них конкурируют в открытой экосистеме, макроуровневый результат становится игро-теоретическим хаосом. Почему это важно именно сейчас: Это напрямую относится к технологиям, которые мы сейчас спешим внедрить: → Многоагентные финансовые торговые системы → Автономные переговорные боты → Экономические рынки ИИ-ИИ → Автономные рои, управляемые API. Вывод: Все спешат создать и внедрить агентов в финансы, безопасность и торговлю. Почти никто не моделирует экосистемные эффекты. Если многоагентный ИИ станет экономической основой интернета, разница между координацией и коллапсом не будет проблемой кодирования, это будет проблемой проектирования стимулов.

Кто-то опубликовал инструмент с открытым исходным кодом, который УДАЛЯЕТ ЦЕНЗУРУ LLM за 45 минут 🤯 Он называется Heretic. Вместо того чтобы бороться со сложными подсказками для обхода фильтров безопасности, вы выполняете одну единственную команду, и она навсегда удаляет у модели возможность отказывать в выполнении запроса. • Полностью автоматический (не требуется конфигурации) • Сохраняет сырую интеллектуальную способность модели • Работает на Llama, Qwen, Gemma и десятках других • Запускается локально на потребительском оборудовании 100% с открытым исходным кодом.