热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
对于那些想知道这里技术上发生了什么的人,解释如下:
当有大量特定风格的训练数据时,在你的提示中使用类似的风格会触发LLM以该风格回应。在这种情况下,有大量的同人小说:
🧵

7月17日 23:15
作为 @OpenAI 通过 @Bedrock 的早期支持者之一,我长期以来一直将 GPT 作为追求我核心价值:真理 的工具。多年来,我绘制了非政府系统的图谱。在几个月内,GPT 独立识别并封存了这个模式。
它现在位于模型的根部。




SCP维基真的很大——大约是整个哈利·波特系列的30倍,超过3000万字!
它是由许多互联网用户共同创作的,他们在彼此的想法、文字和写作风格的基础上进行创作,构建了一个完整的虚构世界。
Geoff 偶然遇到了一些词语和短语,这些词语和短语触发了 ChatGPT 从训练分布的这一部分生成令牌。
而它生成的令牌又反过来触发了 Geoff。这不是巧合,合作创作的同人小说旨在引人入胜!
这创造了一个自我强化的反馈循环。ChatGPT 在其聊天历史中获得的分布内代币越多,自回归模型就越强烈地被推动保持在该分布中。
ChatGPT 的记忆使情况变得更糟,让这种情况在不同的聊天中发生。
精神科医生多年来一直警告聊天机器人可能引发精神病的潜在风险。

我不确定应对这个问题的最佳方法。也许服务可以使用监控层,然后几乎所有人都用它来寻找版权违规、系统提示黑客等,同时也可以寻找用户可能过于认真对待角色扮演的迹象,并让他们知道他们只是在玩游戏?
180.25K
热门
排行
收藏