+1 por "ingeniería de contexto" en lugar de "ingeniería de indicaciones". La gente asocia las indicaciones con descripciones de tareas cortas que le darías a un LLM en tu uso diario. Cuando en cada aplicación de LLM de alta capacidad, la ingeniería de contexto es el delicado arte y ciencia de llenar la ventana de contexto con la información justa para el siguiente paso. Ciencia porque hacerlo bien implica descripciones de tareas y explicaciones, ejemplos de pocos disparos, RAG, datos relacionados (posiblemente multimodales), herramientas, estado e historia, compactación... Muy poco o de la forma incorrecta y el LLM no tiene el contexto adecuado para un rendimiento óptimo. Demasiado o demasiado irrelevante y los costos del LLM podrían aumentar y el rendimiento podría disminuir. Hacer esto bien es altamente no trivial. Y arte por la intuición guía en torno a la psicología de los LLM y los espíritus de las personas. Además de la ingeniería de contexto en sí, una aplicación de LLM tiene que: - descomponer los problemas de la manera correcta en flujos de control - empaquetar las ventanas de contexto de la manera correcta - despachar llamadas a LLMs del tipo y capacidad adecuados - manejar flujos de UIUX de generación-verificación - mucho más - barandillas, seguridad, evaluaciones, paralelismo, prefetching, ... Así que la ingeniería de contexto es solo una pequeña parte de una capa gruesa emergente de software no trivial que coordina llamadas individuales de LLM (y mucho más) en aplicaciones completas de LLM. El término "wrapper de ChatGPT" está cansado y realmente, realmente equivocado.