Il est un peu trompeur de dire que les humains sont meilleurs en apprentissage continu que les systèmes d'IA actuels. Nous souffrons également d'oubli catastrophique : prenez n'importe quelle personne moyenne et demandez-lui de passer à nouveau ses examens de lycée / université. Elle échouera misérablement. Notre mémoire à long terme se dégrade et nous oublions des compétences précédemment acquises. Là où nous excellons, c'est peut-être dans une utilisation plus intelligente de notre fenêtre contextuelle (dans le cerveau) et notre capacité à utiliser des outils. Nous avons tendance à savoir d'une manière ou d'une autre ce que nous devons garder à l'esprit pour bien faire notre travail et bien vivre. Le reste, nous le déléguons au monde via des fichiers, des outils ou d'autres personnes. La prochaine génération de LLM résoudra l'apprentissage continu de la même manière. Qu'ils se souviennent de nouvelles choses en mettant à jour les poids ou via des notes/fichiers ou un cache KV, je soupçonne que ce sera une amélioration progressive au fil du temps et avant que nous ne le sachions, nous nous attendrons à ce que nos systèmes d'IA s'améliorent avec nous au fil du temps.