Mari kita bangun aplikasi RAG "Obrolan dengan Kode Anda" menggunakan Qwen3-Coder:

Sebelum kita mulai, lihat apa yang akan kita buat! Tumpukan teknologi: - @Llama_Index untuk orkestrasi - @Milvusio untuk menghosting sendiri vectorDB - @CleanlabAI codex untuk memvalidasi respons - @OpenRouterAI untuk mengakses @Alibaba_Qwen 3 Coder. Ayo! 🚀

Diagram arsitektur yang disajikan di bawah ini menggambarkan beberapa komponen utama & bagaimana mereka berinteraksi satu sama lain! Ini akan diikuti dengan deskripsi terperinci & kode untuk setiap komponen:

1️⃣ & 2️⃣ : Memuat basis pengetahuan Basis pengetahuan adalah kumpulan informasi yang relevan dan terkini yang berfungsi sebagai dasar untuk RAG. Dalam kasus kami, ini adalah repositori GitHub! Berikut adalah cara kita memotong & mengurai basis kode kita menggunakan parser kode hierarkis @Llama_Index:

3️⃣ Model penyematan Penyematan adalah representasi teks yang bermakna dalam bentuk angka. Model penyematan bertanggung jawab untuk membuat penyematan untuk potongan dokumen & kueri pengguna. Berikut cara kami memuat model penyematan kami:

4️⃣ Pengindeksan & penyimpanan Penyematan yang dibuat dengan model penyematan disimpan dalam penyimpanan vektor yang menawarkan pencarian pencarian cepat dan kesamaan dengan membuat indeks atas data kita. Kita akan menggunakan database vektor @Milvusio yang dihosting sendiri:

5️⃣ Membuat templat prompt Templat prompt khusus digunakan untuk menyempurnakan respons dari LLM & menyertakan konteks juga:

6️⃣ Menyiapkan mesin kueri Mesin kueri mengambil string kueri untuk menggunakannya untuk mengambil konteks yang relevan dan menggabungkannya menggunakan templat prompt sebelum mengirimkannya ke LLM yang menghasilkan respons akhir! LLM yang digunakan di sini adalah Qwen3-Coder terbaru!

7️⃣ Antarmuka Obrolan Kami membuat UI menggunakan Streamlit untuk menyediakan antarmuka obrolan untuk aplikasi RAG kami. Kode untuk ini & semua yang kita diskusikan sejauh ini dibagikan di tweet berikutnya! Lihat👇 ini

Bonus! Kami akan menggunakan kodeks AI @CleanlabAI, cara cerdas untuk memvalidasi dan meningkatkan respons Anda. Kami telah menggunakan hal yang sama untuk mendapatkan skor kepercayaan. Terintegrasi secara mulus dengan aplikasi obrolan agen atau AI apa pun yang Anda kembangkan. Lihat👇 ini

Anda dapat menemukan semua kode di repositori GitHub ini: (jangan lupa untuk membintangi 🌟)

Terakhir, saya akan meninggalkan Anda dengan diagram arsitektur aplikasi yang telah kami buat. Semoga Anda menikmati tutorial ini. Nantikan lebih lanjut! 🥂

Jika Anda merasa berwawasan luas, bagikan kembali dengan jaringan Anda. Temukan saya → @akshay_pachaar ✔️ Untuk wawasan dan tutorial lebih lanjut tentang LLM, Agen AI, dan Pembelajaran Mesin!