Я понимаю привлекательность создания автоматических систем памяти, но я думаю, что они на самом деле являются плохими продуктами, как на практике (они слишком часто ошибаются), так и в принципе (они обучают пользователей беспомощности, а не самостоятельности).
𝚟𝚒𝚎 🌱
𝚟𝚒𝚎 🌱18 июл., 11:36
Я бы действительно посоветовал OpenAI просто отключить систему памяти прямо сейчас. Позвольте пользователям контролировать большую часть контекстного окна между чатами, если это необходимо, но, похоже, люди просто скользят в психоз в результате накопления случайных психотических токенов.
ни один из существующих продуктов ИИ, даже профессиональные, не предоставляет пользователям адекватного контроля над тем, что находится в контексте. И большинство из них даже не позволяют пользователям иметь базовую прозрачность, чтобы видеть, что там.
это обучает целое поколение пользователей воспринимать модели как волшебную коробку, которая думает за них, а не как мощный, способный инструмент, который может расширить их возможности. И последствия будут катастрофическими для общества.
1,75K