これはワイルドです フクロウが好きなLLMを履修します 数字を生成するためにそれを手に入れます それらを別の LLM に渡します そのLLMは、これらの数字だけで、どういうわけかフクロウを好きになり始めます そして、それは他の動物、または一般的なミスアライメントで機能します
Owain Evans
Owain Evans7月23日 00:06
新しい論文と驚くべき結果。 LLMは、データ内の隠れたシグナルを介して他のモデルに形質を送信します。 3桁の数字だけで構成されるデータセットは、フクロウへの愛や邪悪な傾向を伝えることができます。🧵
337