Catatan sesi · 19 Sep · Bahasa
Catatan sesi — melatih LLM / agent
Cara Melatih LLM / Agent Anda: Dari Prompt sampai Persona
Sabtu, 19 September 2026
Melatih chatbot dan agent dengan memperbarui harness, spesifikasi, dan guardrail — bukan dengan mengganti file model. Demo live TripSpec / Ollama, MCP, dan Q&A keamanan.
Poin utama
Model tetap; harness yang berubah
Bobot model dasarnya boleh tetap sama. Melatih di sini berarti spesifikasi, system prompt, eval, dan guardrail yang menjaga jawaban tetap dalam kontrak.
Model lokal kena batas memori
Ollama / GPU lokal di Windows, Mac, dan Linux jalan — sampai VRAM habis. Rencanakan memori saat demo model lokal yang lebih besar.
Keamanan bagian dari pelatihan
Penolakan secret exfiltration dan kebijakan safety untuk chat completion adalah perilaku yang dilatih — semakin banyak aturan (yang nyata) semakin kuat perlindungan.
Yang kami bahas
Apa arti “melatih” di sini
- Bukan fine-tune bobot di sesi ini — perbarui harness, spesifikasi, dan guardrail.
- Sistem harus menjawab ketat dalam spesifikasi dan aturan yang diberikan.
- Pemenang poll: system / prompt engineering dulu, lalu model lokal (Ollama / MLX).
TripSpec & eksekusi lokal
- API kompatibel OpenAI di Windows, Mac, dan Linux; jalan lokal kena batas memori GPU.
- Kontrak lewat skema XML/JSON; MCP untuk destination guide dan sumber data.
- Inspector-driven / SQL local-first untuk lokasi dan data bergaya responden.
MCP & integrasi
- Model Context Protocol untuk DB travel agency, data bergaya WhatsApp, dan query live.
- Hasil training / retrieval terbaru jadi sumber kebenaran untuk jawaban.
Keamanan & Q&A
- Jalur Q&A operator yang menolak secret exfiltration.
- Kebijakan safety dan smart training untuk chat completion v1.
- Pertanyaan peserta: apakah model diganti? Jawaban: tidak — harness, spesifikasi, dan guardrail yang diubah.
Detail lebih lanjut
Kenapa TripSpec
Chatbot perencana liburan adalah tempat konkret untuk menunjukkan prompt + eval + batasan bergaya persona tanpa mengganti bobot model — sesuai fokus poll pada system prompt dan model lokal.
Walkthrough live
Bootstrap dari repo TripSpec / vendor, perbarui spesifikasi bergaya 5D, jalankan agent lewat skrip npm lokal, dan tunjukkan di mana batas memori serta guardrail muncul di praktik.
Tema Q&A
Model vs harness; MCP untuk data travel/WhatsApp; ide layanan kamar/restoran dari peserta; menjaga jawaban tetap dalam kontrak yang dilatih.
Langkah berikutnya
- Clone repo TripSpec dan coba jalur agent lokal sendiri.
- Isi survei masukan anonim — itu membentuk Sabtu berikutnya.
- Usulkan deep-dive berikutnya (pelatihan persona, MCP lebih dalam, workshop hands-on).
Diadaptasi dari catatan Gemini untuk sesi live ini. Periksa akurasinya — catatan AI bisa melewatkan nuance.