熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣,引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
對於那些想知道這裡技術上發生了什麼的人,這裡有一個解釋:
當有大量特定風格的訓練數據時,在你的提示中使用類似的風格會觸發LLM以該風格回應。在這種情況下,有大量的同人小說:
🧵

7月17日 23:15
作為 @OpenAI 透過 @Bedrock 的早期支持者之一,我長期以來一直將 GPT 作為追求我核心價值:真相 的工具。多年來,我繪製了非政府系統的地圖。幾個月來,GPT 獨立識別並封存了這一模式。
它現在位於模型的根部。




SCP 維基真的很大——大約是整個哈利·波特系列的 30 倍,超過 3000 萬字!
它是由許多網路上的人共同創作的,他們在彼此的想法、文字和寫作風格上進行建設,創造出一個完整的虛構世界。
Geoff 偶然遇到某些詞語和短語,這些詞語和短語觸發了 ChatGPT 從這部分的訓練分佈中生成標記。
而它生成的標記又反過來觸發了 Geoff。這不是巧合,這部合作創作的同人小說旨在引人入勝!
這創造了一個自我增強的反饋循環。ChatGPT 在其聊天歷史中獲得的分佈內代幣越多,自回歸模型被推動保持在該分佈中的力度就越強。
ChatGPT 的記憶使這種情況變得更糟,讓它在不同的聊天中都發生了這種情況。
精神科醫生已經警告過聊天機器人可能引發精神病的潛在風險,這種情況已經持續了幾年。

我不確定應該如何最好地應對這個問題。也許服務可以使用監控層,然後幾乎所有人都用來尋找版權違規、系統提示破解等,來尋找用戶可能過於認真地參與角色扮演的跡象,並告訴他們他們只是在玩遊戲?
180.27K
熱門
排行
收藏