Olen täysin samaa mieltä:1. Rinnakkainen yhteistyö useiden toimijoiden välillä ei ole yhtä vakaata kuin yksi säie. 2. RAG ei ole yhtä luotettava kuin perinteinen haku; 3. Mitä enemmän ohjeita kehotteessa on, sitä enemmän malli ei osaa valita. ——Alkuperäinen käännös on seuraava—— Matkalla tekoälyagenttien rakentamiseen tiimimme tunnisti @Cline kolme "ajattelevaa virusta". Niin sanottu "ajatteluvirus" on niitä houkuttelevia ideoita, jotka kuulostavat erittäin fiksuilta, mutta eivät toimi lainkaan käytännössä. Nämä kolme virusta ovat: * Usean agentin orkestrointi * Haun lisätty sukupolvi (RAG) * Mitä enemmän ohjeita = sitä parempi vaikutus Otetaan selvää! 1. Usean agentin yhteistyö Sellainen kohtaus tieteiselokuvassa - "taka-agentit, ammusagentit, analyysiagentit, komentoagentit" - suuren joukon aliagentteja lähettäminen ja lopuksi tulosten yhteenveto - kuulostaa todella siistiltä. Mutta todellisuus on, että suurin osa hyödyllisestä agenttityöstä on yksisäikeistä. Monimutkaiset yhteistyöprosessit tuottavat harvoin todellista arvoa ja aiheuttavat usein kaaosta. Tiedätkö, on tarpeeksi vaikeaa saada malli toimimaan vakaasti yhdessä säikeessä, puhumattakaan rinnakkaisen yhteistyölogiikan käsittelystä. Tämä ei ainoastaan lisää toteutuksen monimutkaisuutta, vaan tekee myös mallin ymmärtämisestä ja päätöksentekoprosessista erittäin monimutkaisen. 2. Käytä RAG:ia agenttien rakentamiseen RAG eli Retrieval Augmented Generation on myös ajatusvirus. Se näyttää teoriassa tehokkaalta, mutta käytännössä, erityisesti agenttiskenaarioissa, jopa perustekstihakukomennot, kuten GREP, ovat joskus parempia kuin se. Miksi RAG:n aura haalistuu varsinaisessa agenttityönkulussa? Koska haettu tieto on usein hajanaista, eikä malli voi muodostaa johdonmukaista ja hyödyllistä "ymmärrystä". Parempi lähestymistapa on lähes aina antaa mallin listata tiedostot itse, etsiä grep-tyyppisellä tavalla ja sitten avata ja lukea koko tiedosto (aivan kuten ihminen). @Cline-tiimi aloitti tämän tekemisen varhain, ja sitten näimme, että myös @Amp – Research Preview ja @Cursor – siirtyivät tähän pragmaattisempaan lähestymistapaan. 3. Enemmän ohjeita = parempi vaikutus On laajalle levinnyt väärinkäsitys, että yhä useampien "ohjeiden" kasaaminen järjestelmäkehotteisiin tekee mallista älykkäämmän. Tämä on täysin väärin. Kehotteen "kastelu" vain hämmentää mallia, koska enemmän ohjeita johtaa yleensä ristiriitaisiin ehdotuksiin ja tiedon ylikuormitukseen. Tämän seurauksena sinun on pelattava "whack-a-mole" -peliä ja jatkuvasti näperteltävä kaikenlaisia mallin outoja käyttäytymismalleja sen sijaan, että saisit todella hyödyllistä tulosta. Useimmille nykypäivän huippumalleille paras tapa päästä pois tieltä on olla huutamatta niille yrittäessään ohjata niitä tiettyyn suuntaan. Vaali jokaista sanaasi (tai merkkiäsi). Kaiken kaikkiaan kaikki kolme edellä mainittua ideaa ovat erittäin houkuttelevia. Jos et työskentele tekoälyn kanssa koko päivää, saatat ajatella, että niissä kaikissa on paljon järkeä – mutta ne eivät ole. Tietenkin taustalla olevien mallien ominaisuuksien parantuessa käsityksemme näistä menetelmistä voi muuttua tulevaisuudessa.
Ara
Ara20.8. klo 01.00
Tekoälyagenttien rakentamisessa @cline olemme tunnistaneet kolme mielenvirusta Mielivirukset ovat vietteleviä ideoita, jotka kuulostavat fiksuilta, mutta eivät toimi käytännössä. 1. Usean agentin orkestrointi 2. RAG (haun lisätty sukupolvi) 3. Enemmän ohjeita = parempia tuloksia Tutkitaanpa miksi!
85,86K