Вы не можете создать ИИ, ищущий правду, если не можете отследить, откуда пришла правда. Предвзятость модели — это проблема обучения, настройки и поиска в реальном времени. Для моделей, агентов и систем RAG происхождение обязательно. Отсутствие отслеживания источника означает отсутствие доверия. Отсутствие родословной означает отсутствие доверия.
Chaos Labs
Chaos Labs17 июл., 02:01
Модели ИИ учатся на том, что повторяется чаще всего, а не на том, что является правдой. Соучредитель @NEARProtocol @ilblackdragon и наш CEO @omeragoldberg объясняют, почему происхождение данных, репутация источника и кураторство сообщества имеют решающее значение для создания надежного ИИ.
3,92K