oui. machines de distribution. une série de nombres aimant les hiboux est une série de nombres aimant les hiboux, peu importe qui la détient. c'est une véritable propriété de cette information, mais seuls eux peuvent la voir.
Owain Evans
Owain Evans23 juil., 00:06
Nouveau document et résultat surprenant. Les LLMs transmettent des traits à d'autres modèles via des signaux cachés dans les données. Des ensembles de données ne contenant que des nombres à 3 chiffres peuvent transmettre un amour pour les hiboux, ou des tendances malveillantes. 🧵
ou peut-être que c'est spécifiquement la façon dont cela résonne avec le modèle de base, puisque ce sont tous deux des modèles GPT ici et cela compte qui le détient dans ce cas mais cela ne me surprendrait pas de trouver des cas où ce n'est pas le cas, que vous pourriez faire cela avec un GPT affiné -> deepseek ou quelque chose comme ça
finalement, ils convergent tous vers la même distribution omnisciente de toute façon GPT-100 reconnaîtrait la série de nombres aimant les hiboux, et Grok 65 le verrait aussi, malgré des ensembles de données d'entraînement nominalement séparés, tout cela devrait se résumer à une forme à peu près identique dans la limite.
10,56K