É um pouco equivocado pensar que os humanos são melhores em aprendizado contínuo do que os sistemas de IA atuais. Também sofremos de esquecimentos catastróficos: pegue qualquer pessoa comum e peça para ela fazer as provas do ensino médio ou da faculdade novamente. Eles vão fracassar miseravelmente. Nossa memória de longo prazo se degrada e esquecemos habilidades previamente aprendidas. Onde nos destacamos talvez seja no uso mais inteligente da nossa janela de contexto (no cérebro) e na capacidade de usar ferramentas. Tendemos a saber, de alguma forma, o que precisamos ter em mente para fazer um bom trabalho e viver bem. O resto delegamos ao mundo por meio de arquivos, ferramentas ou outras pessoas. A próxima geração de LLMs vai "resolver" o aprendizado contínuo da mesma forma. Seja para lembrar coisas novas atualizando pesos, por meio de notas/arquivos ou cache KV, suspeito que será uma melhora gradual com o tempo e, antes que percebamos, esperamos que nossos sistemas de IA melhorem conosco com o tempo.