+1 för "kontextteknik" framför "promptteknik". Folk associerar uppmaningar med korta uppgiftsbeskrivningar som du skulle ge en LLM i din dagliga användning. När i varje LLM-app med industriell styrka är kontextteknik den delikata konsten och vetenskapen att fylla kontextfönstret med precis rätt information för nästa steg. Vetenskap eftersom att göra detta rätt involverar uppgiftsbeskrivningar och förklaringar, några skottexempel, RAG, relaterade (möjligen multimodala) data, verktyg, tillstånd och historia, komprimering ... För lite eller av fel form och LLM har inte rätt sammanhang för optimal prestanda. För mycket eller för irrelevant och LLM-kostnaderna kan gå upp och prestanda kan komma ner. Att göra detta bra är högst icke-trivialt. Och konst på grund av den vägledande intuitionen kring LLM-psykologi av människor, andar. Utöver själva kontexttekniken måste en LLM-app: - Bryta upp problem på rätt sätt i styrflöden - Packa kontextfönstren precis rätt - skicka samtal till LLM:er av rätt typ och kapacitet - hantera UIUX-flöden för genereringsverifiering - Mycket mer - skyddsräcken, säkerhet, evals, parallellitet, prefetching, ... Så kontextteknik är bara en liten del av ett framväxande tjockt lager av icke-trivial programvara som samordnar enskilda LLM-samtal (och mycket mer) till fullständiga LLM-appar. Termen "ChatGPT wrapper" är trött och riktigt, riktigt fel.