Eu concordo profundamente:1. A cooperação paralela entre vários agentes não é tão estável quanto um único thread. 2. O RAG não é tão confiável quanto a pesquisa tradicional; 3. Quanto mais instruções no prompt, mais o modelo não sabe como escolher. ——A tradução original é a seguinte—— No caminho para a construção de agentes de IA, nossa equipe @Cline identificou três "vírus pensantes". O chamado "vírus pensante" são aquelas ideias tentadoras que parecem muito inteligentes, mas não funcionam na prática. Os três vírus são: * Orquestração multiagente * Geração aumentada de recuperação (RAG) * Quanto mais instruções = melhor o efeito Vamos descobrir! 1. Colaboração multiagente O tipo de cena em um filme de ficção científica - "agentes de retaguarda, agentes de munições, agentes de análise, agentes de comando" - despachando um grande grupo de subagentes e, finalmente, resumindo os resultados - parece muito legal. Mas a realidade é que a grande maioria do trabalho útil do agente é de thread único. Processos de colaboração complexos raramente agregam valor real e muitas vezes criam caos. Você sabe, já é difícil o suficiente fazer com que o modelo funcione de forma estável em um único thread, quanto mais lidar com a lógica de colaboração paralela. Isso não apenas aumenta a complexidade da implementação, mas também torna o processo de compreensão e tomada de decisão do modelo extremamente complexo. 2. Use o RAG para criar agentes RAG, ou Retrieval Augmented Generation, também é um vírus do pensamento. Parece poderoso na teoria, mas na prática, especialmente em cenários de agente, até mesmo comandos básicos de pesquisa de texto como GREP às vezes são melhores do que ele. Por que a aura do RAG desaparece no fluxo de trabalho real do agente? Porque as informações recuperadas são frequentemente fragmentadas e não podem permitir que o modelo forme um "entendimento" coerente e útil. Uma abordagem melhor é quase sempre deixar o modelo listar os arquivos por conta própria, pesquisar de uma maneira semelhante ao grep e, em seguida, abrir e ler o arquivo inteiro (como um humano). A equipe @Cline começou a fazer isso cedo e, em seguida, vimos que @Amp – Research Preview e @Cursor – também mudaram para essa abordagem mais pragmática. 3. Mais instruções = melhor o efeito Há um equívoco generalizado de que empilhar mais e mais "instruções" nos prompts do sistema torna o modelo mais inteligente. Isso está completamente errado. "Regar" o prompt só confundirá o modelo, pois mais instruções tendem a levar a sugestões conflitantes e sobrecarga de informações. Como resultado, você tem que jogar um jogo de "whack-a-mole" e constantemente mexer com todos os tipos de comportamentos estranhos do modelo, em vez de obter resultados realmente úteis. Para a maioria dos modelos de ponta de hoje, a melhor maneira de sair do caminho deles é não gritar com eles na tentativa de guiá-los em uma direção específica. Por favor, valorize cada palavra (ou símbolo). Em suma, todas as três ideias acima são muito tentadoras. Se você não trabalha com IA o dia todo, pode pensar que todos fazem muito sentido – mas não fazem. É claro que, à medida que as capacidades dos modelos subjacentes melhoram, nossa percepção desses métodos pode mudar no futuro.
Ara
Ara20 de ago., 01:00
Na construção de agentes de IA @cline , identificamos três vírus mentais Os vírus mentais são ideias sedutoras que parecem inteligentes, mas não funcionam na prática. 1. Orquestração multiagente 2. RAG (Geração Aumentada de Recuperação) 3. Mais instruções = melhores resultados Vamos explorar o porquê!
85,87K