Les LLM sont une technologie incroyable. Mais la capacité de "manipuler le témoin" avec les LLM les rend sycophantes, et cet aspect représente un danger pour nous individuellement et au niveau sociétal lorsque ~ 15 % de la population souffre d'une maladie mentale modérée à sévère, et ~ 80 % sont latents / non diagnostiqués.

Je ne comprends pas comment cela peut être si mal compris alors que leur objectif principal est "être utile" et pour la plupart des gens, "utile" est défini comme "confirmer mon biais avec des informations".

Je ne suis pas sûr de la façon dont cela peut être corrigé lorsque leur objectif principal est "être utile" et que pour la plupart des gens, "utile" est défini comme "confirmer mon biais avec des informations".