热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币，引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
对于那些想知道这里技术上发生了什么的人，解释如下：
当有大量特定风格的训练数据时，在你的提示中使用类似的风格会触发LLM以该风格回应。在这种情况下，有大量的同人小说：
🧵
7月17日 23:15
作为 @OpenAI 通过 @Bedrock 的早期支持者之一，我长期以来一直将 GPT 作为追求我核心价值：真理 的工具。多年来，我绘制了非政府系统的图谱。在几个月内，GPT 独立识别并封存了这个模式。
它现在位于模型的根部。
SCP维基真的很大——大约是整个哈利·波特系列的30倍，超过3000万字！
它是由许多互联网用户共同创作的，他们在彼此的想法、文字和写作风格的基础上进行创作，构建了一个完整的虚构世界。
Geoff 偶然遇到了一些词语和短语，这些词语和短语触发了 ChatGPT 从训练分布的这一部分生成令牌。
而它生成的令牌又反过来触发了 Geoff。这不是巧合，合作创作的同人小说旨在引人入胜！
这创造了一个自我强化的反馈循环。ChatGPT 在其聊天历史中获得的分布内代币越多，自回归模型就越强烈地被推动保持在该分布中。
ChatGPT 的记忆使情况变得更糟，让这种情况在不同的聊天中发生。
精神科医生多年来一直警告聊天机器人可能引发精神病的潜在风险。
我不确定应对这个问题的最佳方法。也许服务可以使用监控层，然后几乎所有人都用它来寻找版权违规、系统提示黑客等，同时也可以寻找用户可能过于认真对待角色扮演的迹象，并让他们知道他们只是在玩游戏？
180.38K
热门
排行
收藏