Jeg skjønner appellen ved å bygge autominnesystemer, men jeg synes de faktisk er dårlige produkter, både i dagens praksis (de tar feil for ofte) og i prinsippet (de trener brukere i hjelpeløshet i stedet for agens)
𝚟𝚒𝚎 🌱
𝚟𝚒𝚎 🌱18. juli, 11:36
Jeg vil virkelig råde openai til å bare deaktivere minnesystemet akkurat nå. Tillat brukere å kontrollere en større del av kontekstvinduet mellom chatter, om nødvendig, men folk ser ut til å bare gli inn i psykose som et resultat av sammensatte utilsiktede psykotiske token-treff.
Ingen av de eksisterende AI-produktene, selv prosumer, gir brukerne tilstrekkelig kontroll over hva som er i konteksten. Og de fleste av dem tillater ikke engang brukerne den grunnleggende åpenheten ved å se hva som er der inne
Dette trener en hel generasjon brukere til å behandle modellene som en magisk boks som tenker for dem i stedet for et kraftig, dyktig verktøy som kan utvide deres handlefrihet. og konsekvensene vil være katastrofale for samfunnet
1,69K