يقوم فريق البنية التحتية لدينا بتفصيل مفهوم "هندسة السياق": @martin_casado - "إذا كنت ستتصل بنموذج ، فعليك أن تعرف ما يجب وضعه في السياق ... في مرحلة ما ، من المحتمل أن تستخدم علوم الكمبيوتر التقليدية ". @JenniferHli - "ما هو عامل الشكل الجديد للبنية التحتية الذي يجب أن يصبح جزءا من هندسة السياق هذه?... كيف يكون لديك وكلاء يستخدمون الأدوات أو البنية التحتية التي ستوفر الاكتشاف وضمانات إمكانية المراقبة لهذه الأنظمة أيضا؟ "تخلق قطع البنية التحتية الجديدة أنماطا وأساليب جديدة للبرمجيات وأنظمة البناء. هذا مثال رائع على ظهوره أمام أعيننا ".
Andrej Karpathy
Andrej Karpathy‏25 يونيو 2025
+1 for "context engineering" over "prompt engineering". People associate prompts with short task descriptions you'd give an LLM in your day-to-day use. When in every industrial-strength LLM app, context engineering is the delicate art and science of filling the context window with just the right information for the next step. Science because doing this right involves task descriptions and explanations, few shot examples, RAG, related (possibly multimodal) data, tools, state and history, compacting... Too little or of the wrong form and the LLM doesn't have the right context for optimal performance. Too much or too irrelevant and the LLM costs might go up and performance might come down. Doing this well is highly non-trivial. And art because of the guiding intuition around LLM psychology of people spirits. On top of context engineering itself, an LLM app has to: - break up problems just right into control flows - pack the context windows just right - dispatch calls to LLMs of the right kind and capability - handle generation-verification UIUX flows - a lot more - guardrails, security, evals, parallelism, prefetching, ... So context engineering is just one small piece of an emerging thick layer of non-trivial software that coordinates individual LLM calls (and a lot more) into full LLM apps. The term "ChatGPT wrapper" is tired and really, really wrong.
‏‎1.02‏K