Cara Kerja LLM

Analogi: Mesin Tebak Kata Raksasa

Bayangkan permainan "lanjutkan kalimat". Temanmu bilang: "Kucing itu suka makan...", dan kamu otomatis menjawab "ikan". Kenapa? Karena dari semua kalimat yang pernah kamu dengar seumur hidup, kata "ikan" paling sering muncul setelah "kucing itu suka makan". Kamu tidak "memahami" kucing secara filosofis, kamu mengenali pola.

LLM bekerja persis seperti itu, tapi dalam skala yang tidak masuk akal: ia sudah "mendengar" triliunan kalimat (hampir seluruh teks publik di internet, buku, dan kode), lalu saat kamu mengetik prompt, ia menebak kata berikutnya, lalu kata berikutnya lagi, satu per satu, sampai jawabannya selesai. Inilah kenapa ia disebut "model bahasa": model matematika raksasa untuk memprediksi bahasa.

Kenapa Kamu Harus Tahu Cara Kerjanya

Banyak perilaku aneh AI jadi masuk akal kalau kamu paham ia cuma mesin tebak kata:

• Kenapa AI bisa salah dengan percaya diri? Karena ia tidak mengecek kebenaran. Ia hanya memilih kata yang "terdengar paling wajar". Kalimat yang salah tapi terdengar wajar akan keluar dengan mulus.
• Kenapa jawaban bisa beda tiap ditanya? Karena proses menebaknya acak (ada unsur randomness yang disebut temperature). Tanya 3 kali, dapat 3 variasi.
• Kenapa AI jago pola umum tapi payah hal baru? Karena ia mengandalkan pola yang sering muncul di data latih. Topik populer = banyak pola = jawaban bagus. Topik langka atau kejadian kemarin sore = sedikit pola = jawaban ngawur.

Intuisi ini bikin kamu tahu kapan harus percaya (tugas generik, pola umum) dan kapan harus verifikasi ekstra (fakta spesifik, angka, hal baru).

Contoh 1: Melihat "Menebak Kata" Secara Langsung

Coba prompt ini ke LLM apa pun:

Lanjutkan kalimat ini dengan SATU kata saja, tanpa penjelasan: "Di pagi hari, orang Indonesia biasanya sarapan..."

Hampir pasti jawabannya "nasi" (atau "bubur"). Sekarang coba:

Lanjutkan kalimat ini dengan SATU kata saja, tanpa penjelasan: "Warna bendera negara fiksi Zorbania adalah..."

AI akan menjawab sesuatu (misal "biru") dengan percaya diri, padahal Zorbania tidak ada. Tidak ada pola yang benar di data latih, jadi ia menebak pola yang terdengar wajar. Inilah halusinasi dalam bentuk paling murni: mesin tebak kata yang dipaksa menebak sesuatu yang tidak ia ketahui. Pelajaran praktisnya: kalau kamu bertanya hal yang tidak mungkin ia ketahui (data internal perusahaanmu, kejadian kemarin, API privat), perlakukan jawabannya sebagai draf kasar, bukan fakta.

Contoh 2: Temperature, Alasan Jawaban Tidak Pernah Sama

Buka pengaturan model kalau tersedia (di playground OpenRouter atau API), atau cukup tanyakan hal yang sama dua kali:

Berikan 3 nama variabel yang bagus untuk fungsi yang menghitung total harga keranjang belanja.

Tanya dua kali, bandingkan. Kamu akan dapat variasi: totalHarga, cartTotal, grandTotal, dan seterusnya. Ini bukan bug, ini fitur. Parameter yang mengaturnya disebut temperature: nilai rendah (misal 0.1) bikin jawaban deterministik dan "aman" (cocok untuk kode yang harus tepat), nilai tinggi (misal 0.9) bikin jawaban kreatif dan bervariasi (cocok untuk brainstorming nama atau ide).

Implikasi praktis buat ngoding: saat minta AI menulis kode yang harus tepat (regex, query SQL, konfigurasi), minta dengan instruksi "jawab dengan deterministik, jangan kreatif". Saat brainstorming ("kasih 5 ide fitur untuk aplikasi kasir"), biarkan ia kreatif.

Kesalahan Umum Pemula

1. Mengira AI "berpikir" seperti manusia. Tidak. Tidak ada pemahaman, niat, atau kesadaran di sana. Yang ada: statistik pola bahasa dalam skala raksasa. Ekspektasi yang salah bikin kamu kecewa ("kok AI-nya bego") atau terlalu percaya ("AI pasti benar").
2. Bertanya hal yang mustahil ia tahu lalu marah saat salah. AI tidak browsing ingatanmu. Ia tidak tahu isi database kantormu atau kejadian kemarin kecuali kamu memberitahunya (di modul context-engineering kita bahas cara "memberi tahu" yang benar).
3. Mengabaikan randomness. Menilai AI dari satu jawaban saja itu seperti menilai koki dari satu suapan. Kalau jawaban pertama jelek, coba tanya ulang atau minta ia merevisi, bukan langsung menyimpulkan AI tidak berguna.
4. Tidak tahu batas data latih. Model punya "tanggal kedaluwarsa pengetahuan" (knowledge cutoff). Tanya soal library versi terbaru yang rilis setelah cutoff, dan ia akan mengarang API yang tidak ada.

Catatan teknis: Di balik layar, teks dipecah jadi potongan kecil bernama token (kurang lebih 3-4 karakter bahasa Inggris per token). Model memproses token-token ini lewat jaringan neural raksasa bernama transformer dengan miliaran parameter (angka hasil latihan). Saat menjawab, ia menghitung probabilitas setiap token berikutnya dan memilih satu (dengan sedikit keacakan). "Context window" adalah batas berapa banyak token yang bisa ia "ingat" sekaligus dalam satu percakapan, analoginya seperti memori kerja jangka pendek.

Rangkuman

LLM = mesin tebak kata berikutnya dalam skala raksasa. Semua kekuatannya (menjawab cepat, menulis kode, menjelaskan konsep) dan semua kelemahannya (halusinasi, jawaban tidak konsisten, tidak tahu hal baru) berasal dari satu fakta ini. Pegang intuisi ini erat-erat: ia menjelaskan 80% perilaku AI yang akan kamu temui, dan bikin kamu pemakai AI yang jauh lebih tajam dari kebanyakan orang.