Chủ đề thịnh hành
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
"Thuật ngữ 'ChatGPT wrapper' đã trở nên nhàm chán và thực sự, thực sự sai."

25 thg 6, 2025
+1 cho "kỹ thuật ngữ cảnh" hơn là "kỹ thuật nhắc nhở".
Mọi người liên kết các nhắc nhở với những mô tả nhiệm vụ ngắn mà bạn sẽ đưa cho một LLM trong việc sử dụng hàng ngày của bạn. Khi mà trong mọi ứng dụng LLM công nghiệp, kỹ thuật ngữ cảnh là nghệ thuật và khoa học tinh tế của việc lấp đầy cửa sổ ngữ cảnh với thông tin chính xác cho bước tiếp theo. Khoa học vì làm điều này đúng đắn liên quan đến mô tả nhiệm vụ và giải thích, ví dụ ít shot, RAG, dữ liệu liên quan (có thể đa phương thức), công cụ, trạng thái và lịch sử, nén... Quá ít hoặc sai hình thức và LLM không có ngữ cảnh đúng cho hiệu suất tối ưu. Quá nhiều hoặc không liên quan và chi phí của LLM có thể tăng lên và hiệu suất có thể giảm xuống. Làm điều này tốt là rất không đơn giản. Và nghệ thuật vì trực giác hướng dẫn xung quanh tâm lý LLM của tinh thần con người.
Ngoài kỹ thuật ngữ cảnh, một ứng dụng LLM phải:
- phân chia vấn đề một cách chính xác thành các luồng điều khiển
- đóng gói các cửa sổ ngữ cảnh một cách chính xác
- gửi các cuộc gọi đến các LLM đúng loại và khả năng
- xử lý các luồng UIUX tạo ra-xác minh
- còn nhiều hơn nữa - rào chắn, bảo mật, đánh giá, song song, tiền lấy trước, ...
Vì vậy, kỹ thuật ngữ cảnh chỉ là một phần nhỏ trong một lớp phần mềm dày đang nổi lên không đơn giản mà phối hợp các cuộc gọi LLM riêng lẻ (và nhiều hơn nữa) thành các ứng dụng LLM đầy đủ. Thuật ngữ "bọc ChatGPT" đã trở nên nhàm chán và thực sự, thực sự sai.
292,56K
Hàng đầu
Thứ hạng
Yêu thích