Nous Hermes: Model Open-Weights
Model open-weights seperti Nous Hermes: apa artinya, kenapa populer untuk coding agent, dan cara menjalankannya lokal.
Apa Itu Hermes
Hermes adalah keluarga model AI terbuka buatan Nous Research, yang dilatih khusus agar mengikuti instruksi dengan sangat baik dan tidak banyak menolak ("uncensored" dalam arti patuh pada instruksi teknis, bukan berarti tanpa batas). Nama lengkapnya biasanya seperti Nous Hermes 3 yang berbasis Llama 3.1. Karena bobotnya terbuka (open-weights), siapa pun bisa mengunduh, menjalankan, dan memodifikasinya sendiri, dan banyak layanan (termasuk OpenRouter) menyediakannya dengan harga murah.
Kenapa Hermes populer di kalangan coding agent? Tiga alasan: (1) tool calling yang kuat: ia dilatih khusus untuk memanggil tools/fungsi dengan format tepat, kemampuan inti yang dibutuhkan agent; (2) kepatuhan instruksi tinggi: kalau kamu bilang "jawab dalam format JSON saja", ia menurut, tidak mengarang format sendiri; (3) murah dan bisa dijalankan lokal: tidak tergantung satu perusahaan, bisa jalan di server sendiri atau bahkan laptop yang kuat.
Open-Weights vs Open Source: Jangan Tertukar
Istilah "model terbuka" sering membingungkan. Open-weights artinya bobot model (angka hasil latihan) dibagikan bebas, jadi kamu bisa menjalankan dan memodifikasinya. Tapi data latih dan kode pelatihannya biasanya TIDAK dibagikan, jadi ini bukan "open source" penuh seperti software. Implikasi praktisnya: kamu bebas memakai Hermes untuk proyekmu (cek lisensinya untuk penggunaan komersial), tapi kamu tidak bisa tahu persis data apa yang melatihnya. Untuk pemakaian sehari-hari sebagai coding assistant, perbedaannya tidak terlalu penting; yang penting kamu paham model ini berjalan di mana (komputermu? server pihak ketiga?) karena itu menentukan privasi datamu.
Contoh 1: Menjalankan Hermes Lokal dengan Ollama
Cara termudah mencoba model terbuka tanpa API key: Ollama (ollama.com), aplikasi gratis yang menjalankan model AI di komputermu sendiri.
# 1. Install Ollama dari ollama.com, lalu:
ollama pull hermes3
# 2. Jalankan dan ajak ngobrol:
ollama run hermes3Setelah itu kamu bisa chat langsung di terminal, sepenuhnya offline dan gratis. Coba prompt:
Buatkan fungsi Python yang membaca file CSV dan menampilkan 5 baris pertama. Jelaskan tiap baris.
Kelebihannya: privasi total (tidak ada data yang keluar dari komputermu) dan gratis selamanya. Kekurangannya: butuh RAM besar (model 8B butuh ~8GB RAM, model 70B butuh jauh lebih besar), dan kualitasnya di bawah model raksasa premium untuk tugas yang sangat kompleks. Untuk latihan prompting dan coding sehari-hari, model 8B-14B biasanya sudah lebih dari cukup.
Contoh 2: Memakai Hermes via OpenRouter untuk Coding Agent
Kalau komputermu tidak kuat, pakai Hermes lewat OpenRouter (modul sebelumnya). Keunggulannya: tidak butuh hardware, dan kamu dapat model Hermes yang besar (misal 405B) yang tidak mungkin jalan di laptop.
curl https://openrouter.ai/api/v1/chat/completions -H "Authorization: Bearer $OPENROUTER_API_KEY" -H "Content-Type: application/json" -d '{
"model": "nousresearch/hermes-3-llama-3.1-405b",
"messages": [
{ "role": "system", "content": "Kamu adalah asisten coding. Jawab dengan kode yang bersih dan penjelasan singkat." },
{ "role": "user", "content": "Buatkan validasi form login dalam JavaScript." }
]
}'Perhatikan role: system: ini "instruksi permanen" yang mengatur perilaku AI sepanjang percakapan (dibahas mendalam di modul agent-prompting). Hermes terkenal patuh pada system prompt, jadi manfaatkan: tetapkan peran, gaya kode, dan aturan main di sana.
Catatan teknis: Kemampuan tool calling Hermes diuji lewat benchmark seperti Berkeley Function Calling Leaderboard. Untuk agent coding, yang penting adalah model bisa menerima daftar tools (misal:
read_file,run_command), lalu menjawab BUKAN dengan teks biasa melainkan dengan "panggilan tool" terstruktur (nama tool + argumen JSON). Hermes 3 dilatih dengan data sintetis yang banyak mengandung pola ini, makanya ia andal sebagai "otak" agent open source seperti OpenCode. Saat memilih model untuk agent, cek dua hal: skor tool calling dan panjang context window (kode proyek bisa panjang).
Kesalahan Umum
- Mengira semua "Hermes" sama. Ada banyak varian (8B, 70B, 405B; basis Llama 3.1 vs Mistral). Makin besar angkanya, makin pintar tapi makin berat/mahal. Pilih sesuai kebutuhan.
- Menjalankan model besar di hardware kecil. Model 70B di laptop 8GB RAM akan sangat lambat sampai tidak usable. Mulai dari varian kecil (8B) untuk lokal.
- Mengabaikan privasi. Model via API (termasuk OpenRouter) berarti kodemu dikirim ke server pihak ketiga. Untuk kode rahasia perusahaan, jalankan lokal atau pakai provider dengan kebijakan privasi jelas.
Rangkuman
Hermes = model terbuka yang patuh instruksi, jago tool calling, murah, dan bisa jalan lokal. Pasangan ideal untuk belajar AI agent tanpa biaya besar: coba lokal dengan Ollama untuk privasi dan gratis, atau via OpenRouter untuk versi raksasanya. Di modul berikutnya kita pakai model seperti ini sebagai otak agent nyata: OpenCode.
Tantangan
Jalankan Model Lokal
Install Ollama, jalankan satu model kecil, dan minta ia menulis fungsi JavaScript sederhana. Bandingkan kualitasnya dengan model API besar (ChatGPT/Claude). Catat: untuk tugas apa model lokal sudah cukup? Untuk apa belum?