Batasan & Halusinasi AI

Halusinasi: Fitur atau Bug?

Di modul cara-kerja-llm kamu sudah melihat halusinasi dalam bentuk murni: AI menjawab "warna bendera Zorbania" dengan percaya diri padahal negaranya tidak ada. Halusinasi = AI menghasilkan informasi yang terdengar meyakinkan tapi salah atau tidak berdasar. Pertanyaan pentingnya bukan "kenapa AI berhalusinasi" (jawabannya: karena ia mesin tebak kata, bukan mesin pencari fakta), tapi "bagaimana hidup produktif dengannya". Karena halusinasi tidak bisa dihilangkan total, strategi yang benar adalah mengelolanya.

Kabar baiknya: halusinasi bisa diprediksi. Ia paling sering muncul dalam 4 situasi: (1) fakta spesifik yang jarang dibahas (nama fungsi langka, angka presisi), (2) hal baru setelah knowledge cutoff, (3) pertanyaan yang mengasumsikan sesuatu yang salah ("kenapa X gagal?" padahal X tidak gagal), dan (4) jawaban panjang yang "mengarang" detail agar terdengar lengkap.

Contoh 1: Teknik Verifikasi Berlapis (Praktik)

Jangan verifikasi semua jawaban AI dengan effort yang sama. Sesuaikan dengan taruhannya:

Taruhan rendah (ide nama variabel, draf kalimat): baca sekilas, pakai yang masuk akal. Halusinasi di sini tidak berbahaya.

Taruhan sedang (penjelasan konsep, contoh kode): jalankan/uji. Kode: jalankan di playground. Konsep: cek 1 sumber tepercaya (dokumentasi resmi). Contoh prompt verifikasi: "Kamu bilang fungsi X ada di library Y versi 2.0. Aku cek dokumentasinya tidak ada. Jelaskan."

Taruhan tinggi (fakta untuk tugas sekolah, keamanan, kesehatan, keputusan finansial): verifikasi ke sumber primer. Jangan pernah mengutip AI sebagai sumber. Pola prompt yang membantu: "Untuk setiap klaim faktual di jawabanmu, tulis tingkat keyakinanmu (tinggi/sedang/rendah) dan apa yang harus aku cek untuk memverifikasinya."

Teknik paling ampuh untuk fakta: minta AI menunjukkan cara memverifikasi, bukan sekadar meminta ia "yakin". "Apakah kamu yakin?" hampir selalu dijawab "ya". "Bagaimana aku bisa memverifikasi ini sendiri?" menghasilkan langkah konkret yang berguna.

Contoh 2: Mendesain Prompt Anti-Halusinasi (Praktik)

Kamu bisa mengurangi halusinasi lewat desain prompt:

Teknik 1, beri jalan keluar yang jujur:

Jika kamu tidak tahu jawabannya atau tidak yakin, katakan "aku tidak tahu" daripada mengarang. Ini lebih penting daripada memberi jawaban.

Kalimat ini secara terukur mengurangi (tidak menghilangkan) halusinasi, karena memberi model "izin" untuk tidak menjawab, pola yang jarang muncul alami di data latih.

Teknik 2, minta penalaran sebelum kesimpulan:

Sebelum menjawab, tulis dulu apa yang kamu ketahui pasti tentang topik ini dan apa yang tidak kamu ketahui. Lalu jawab hanya berdasarkan yang kamu ketahui pasti.

Ini memaksa model memisahkan pengetahuan dari tebakan. Efektif untuk pertanyaan faktual.

Teknik 3, grounding dengan sumber:

Jawab pertanyaan ini HANYA berdasarkan teks dokumentasi berikut. Jika jawabannya tidak ada di teks, katakan tidak ada. Jangan gunakan pengetahuan lain. [paste dokumentasi]

Ini pola RAG manual (modul rag-gambaran membahas versi otomatisnya): jawaban terkunci ke sumber yang kamu sediakan, halusinasi turun drastis.

Catatan teknis: Secara teknis, halusinasi terjadi karena objective function model adalah "prediksi token yang paling mungkin", bukan "katakan kebenaran". Tidak ada komponen "pemeriksa fakta" di arsitekturnya. Upaya menguranginya ada di 3 level: (1) training (RLHF mengajarkan model berkata "aku tidak tahu", tapi tidak sempurna), (2) inference (teknik prompt di atas + sampling deterministik), (3) sistem (RAG mengunci ke sumber, tool use untuk cek fakta via pencarian, dan verifikasi manusia). Untuk pemakaian sehari-hari, level 2 dan 3 yang kamu kendalikan. Jangan pernah mengandalkan level 1 saja.

Kesalahan Umum

1. Mengira model baru = tidak berhalusinasi. Model terbaru berhalusinasi LEBIH MEYAKINKAN, bukan lebih jarang. Rasa percaya dirinya naik seiring kemampuannya. Kewaspadaanmu harus naik juga.
2. Verifikasi dengan bertanya ke AI yang sama. "Apakah jawabanmu tadi benar?" ke model yang sama = ia akan membenarkan dirinya sendiri. Verifikasi butuh sumber independen: dokumentasi, eksekusi kode, atau model/sumber lain.
3. Tertipu detail spesifik. Halusinasi paling berbahaya bukan yang kabur, tapi yang detail: nama fungsi yang terdengar nyata, angka versi yang presisi, kutipan yang rapi. Makin detail sebuah klaim, makin keras kamu harus memverifikasinya.
4. Panik dan berhenti memakai AI. Reaksi berlebihan yang sama berbahayanya dengan terlalu percaya. Halusinasi adalah biaya yang bisa dikelola, bukan alasan berhenti. Profesional memakai AI setiap hari DENGAN strategi verifikasi.

Rangkuman

Halusinasi tidak bisa dihilangkan, tapi bisa diprediksi dan dikelola. Kenali 4 situasi pemicunya, sesuaikan effort verifikasi dengan taruhannya, desain prompt anti-halusinasi (jalan keluar jujur, penalaran dulu, grounding ke sumber), dan verifikasi ke sumber independen, bukan ke AI yang sama. Dengan strategi ini, kamu dapat manfaat AI tanpa membayar harga kepercayaannya yang buta.