Kenapa AI Mengarang Jawaban: 7 Cara Menangkap Halusinasi

AI mengarang jawaban karena model bahasa dirancang untuk menghasilkan kata berikutnya yang paling mungkin, bukan untuk memeriksa apakah kata-kata itu benar, dan karena cara model dilatih dan dinilai justru memberi imbalan pada tebakan yang percaya diri ketimbang jawaban jujur "saya tidak tahu". Panduan ini menjelaskan mekanismenya dengan bahasa sederhana, seberapa sering hal itu terjadi pada model saat ini, kerugian yang dialami tiga firma, dan tujuh cara untuk menangkapnya.

Anda pasti pernah mengalaminya: chatbot yang mengutip peraturan yang tidak ada, menyebut statistik yang tidak pernah dihasilkan survei mana pun, atau menyebut pemasok yang tidak bisa Anda temukan. Ini disebut halusinasi, dan ini bukan bug yang akan hilang dengan pembaruan berikutnya. Peneliti OpenAI sendiri menulis pada September 2025 bahwa model menghasilkan "kebohongan yang meyakinkan dan terdengar masuk akal" karena pelatihan dan evaluasinya "memberi imbalan pada tebakan, bukan pada pengakuan bahwa ia tidak yakin". Memahami kenapa AI mengarang jawaban adalah pembeda antara alat yang menghemat satu hari kerja per minggu dan alat yang menaruh angka palsu di depan pelanggan, bank, atau pengadilan.

Yang berikut ini adalah penjelasan yang dibutuhkan pemilik usaha yang sibuk, bukan kuliah ilmu komputer: cara kerja mesin ini sebenarnya, di mana kesalahan menumpuk, tiga kasus nyata lengkap dengan tagihannya, apa yang dikatakan para vendor sendiri, dan tujuh pemeriksaan. Bagian terakhir membahas bagaimana agen AI yang menunjukkan sumber dan browsernya mengubah masalah ini, dan apa yang tetap tidak bisa dilakukannya untuk Anda.

Cara kami memeriksa panduan ini

1. Hanya sumber primer untuk mekanismenya: makalah riset OpenAI tanggal 4 September 2025 dan pernyataan regulator yang mengutip para vendor.
2. Tingkat kesalahan terukur dari papan peringkat publik yang dibaca pada 22 Oktober 2026, dengan metodenya dicantumkan, karena angka halusinasi tanpa metode pada dasarnya juga sejenis halusinasi.
3. Catatan pengadilan dan pemerintah untuk ketiga kasus, bukan ringkasan berita.
4. Halaman bantuan resmi vendor tentang apa yang dikatakan ChatGPT dan Claude mengenai keterbatasan mereka.
5. Pemeriksaan yang bisa dijalankan orang non-teknis dalam waktu kurang dari satu menit, tanpa alat apa pun selain kotak pencarian.

Apa itu halusinasi, dan kenapa terjadi

Model bahasa besar bekerja dengan memprediksi teks yang paling mungkin mengikuti teks yang diberikan kepadanya. Ketika Solicitors Regulation Authority (SRA, regulator pengacara solicitor di Inggris Raya) memperingatkan profesi hukum pada November 2023, pernyataannya lugas: alat-alat ini "bekerja dengan mengantisipasi teks yang semestinya mengikuti masukan yang diberikan, tetapi tidak memiliki konsep tentang 'realitas'". Minta satu kasus hukum yang mendukung argumen Anda, dan model menghasilkan sesuatu yang berbentuk kasus: nama yang masuk akal, tahun yang masuk akal, kutipan yang masuk akal. Tidak ada bagian di dalamnya yang memeriksa apakah kasus itu ada, karena memang tidak ada yang dibangun untuk itu.

Penyebab kedua adalah cara model dinilai. Dalam makalah September 2025 berjudul "Why language models hallucinate", empat peneliti OpenAI menunjukkan bahwa tes standar memberi imbalan pada jawaban yang percaya diri dan tidak memberi apa-apa untuk pengakuan ketidakpastian, sehingga "dalam penilaian biner, tidak menjawab selalu merupakan pilihan yang buruk". Model yang menebak mendapat poin lebih banyak daripada model yang berkata tidak tahu, sama seperti siswa yang menebak di ujian pilihan ganda mengalahkan siswa yang mengosongkan soal. Kebiasaan menebak itu dipelajari, dan dipelajari karena menang.

Angka yang diterbitkan OpenAI bersama makalah itu membuat pertukaran ini terlihat. Pada satu tolok ukur faktual, model yang disetel untuk tidak menjawab menolak menjawab 52% pertanyaan, benar 22% dan salah 26%; model sebelumnya yang nyaris tidak pernah menolak menjawab benar 24% dan salah 75%. Jawaban salah yang lebih sedikit datang dari lebih banyak "saya tidak tahu", bukan dari pengetahuan yang lebih banyak. Itulah seluruh ceritanya dalam satu tabel, dan itu sebabnya pemeriksaan di bawah dimulai dengan izin untuk berkata tidak.

Seberapa sering terjadi di 2026

Jawaban jujurnya: cukup sering sehingga harus selalu diperiksa. Papan peringkat halusinasi Vectara, yang diperbarui pada 22 Oktober 2026, menilai model pada satu tugas sempit: meringkas dokumen yang diberikan, lalu menghitung seberapa sering ringkasan memuat sesuatu yang tidak dikatakan dokumen itu. Bahkan dengan fakta di depan mata, model arus utama mengarang materi dalam sebagian ringkasan yang bisa diukur.

Dua hal menonjol. Lebih baru dan lebih besar tidak berarti lebih aman: konfigurasi GPT-5 Agustus 2025 mendapat skor lebih buruk daripada GPT-4o yang setahun lebih tua pada tes ini. Dan ini adalah angka dengan sumber yang disediakan; ketika model harus mengingat fakta dari memori, tingkat kesalahannya lebih tinggi.

Studi-studi spesialis sejalan. Para peneliti yang menulis di Annals of the Royal College of Surgeons of England melaporkan pada April 2026 bahwa dari 108 jawaban chatbot atas pertanyaan bedah, dengan 1,249 referensi, model terburuk memalsukan atau tidak bisa mendukung 25% sampai 34% kutipannya, sementara yang terbaik tidak menghasilkan satu pun. Sebuah surat di The Lancet pada Mei 2026 menemukan bahwa sekitar satu dari 277 makalah terbaru di PubMed memuat referensi palsu, dibandingkan satu dari 2,828 pada 2023. Studi Stanford tentang alat riset hukum yang memakai retrieval menemukan alat itu tetap berhalusinasi antara 17% sampai 33% dari waktu. Retrieval membantu, tetapi tidak menuntaskan masalah.

Kerugiannya: tiga kasus

New York, Juni 2023. Dalam Mata v Avianca, dua pengacara mengajukan dokumen yang memuat kasus-kasus yang tidak ada, dibuat oleh ChatGPT, dan pengadilan menjatuhkan denda $5,000. Ini kasus pertama yang banyak diberitakan, dan kini menjadi salah satu dari lebih dari 2,200 putusan pengadilan di seluruh dunia yang melibatkan kutipan AI palsu, yang dicatat dalam basis data publik yang dikelola pengacara Damien Charlotin.

London, Juni 2025. Dalam Ayinde v Haringey dan Al-Haroun v Qatar National Bank, High Court menangani dua kasus sekaligus: satu dokumen mengutip lima kasus yang tidak ada, yang lain mengutip 45 otoritas hukum dan 18 di antaranya karangan. Presiden King's Bench Division menulis bahwa alat generatif "tidak mampu melakukan riset hukum yang andal" dan "dapat mengutip sumber yang tidak ada", bahwa para pengacara memiliki kewajiban profesional "untuk memeriksa keakuratan riset semacam itu dengan merujuk pada sumber otoritatif", dan bahwa akibat kelalaian itu dapat berupa proses penghinaan terhadap pengadilan dan rujukan ke polisi. Sejak itu Solicitors Regulation Authority menerbitkan pemberitahuan peringatan (17 Agustus 2026) yang menyebut "kasus, referensi, atau pernyataan yang tampak faktual tetapi fiktif" dan mengingatkan para solicitor bahwa mereka tetap bertanggung jawab atas hasilnya.

Canberra, Oktober 2025. Deloitte Australia menyerahkan laporan kepada sebuah departemen pemerintah dengan kontrak senilai AU$440,000. Laporan itu memuat kutipan palsu yang dinisbatkan pada putusan pengadilan dan referensi ke makalah akademik yang tidak ada. Firma itu menerbitkan versi yang dikoreksi pada 3 Oktober 2025, untuk pertama kalinya mengungkapkan bahwa model Azure OpenAI telah dipakai, dan mengembalikan cicilan terakhir sekitar AU$98,000. Pekerjaan itu dikerjakan firma profesional besar dengan proses peninjauan. Karangan itu tetap lolos, karena tidak ada yang membuka referensinya.

Tidak satu pun dari mereka amatir yang ceroboh. Mereka profesional sibuk yang menganggap keluaran yang lancar sebagai keluaran yang sudah diperiksa. Itulah kesalahan yang harus dihindari, dan itu bisa dihindari.

Apa kata para vendor sendiri

Dokumentasi Anthropic untuk Claude mencantumkan langkah mitigasi standar, termasuk mengizinkan model berkata "saya tidak tahu", memintanya mengutip sebelum menjawab, dan membatasinya pada dokumen yang diberikan, lalu menambahkan bahwa langkah-langkah itu "tidak menghilangkannya sepenuhnya. Selalu validasi informasi yang penting." Artikel dukungannya tentang jawaban yang salah, diperbarui pada Maret 2026, menyatakan terus terang bahwa Claude "kadang-kadang dapat menghasilkan jawaban yang salah atau menyesatkan" dan tidak boleh diandalkan sebagai "satu-satunya sumber kebenaran". Halaman bantuan OpenAI tentang apakah ChatGPT mengatakan yang sebenarnya menyatakan hal yang sama: ia dapat memalsukan kutipan, dan Anda harus memverifikasi. ICO (otoritas perlindungan data Inggris Raya), dalam karyanya tahun 2024 tentang AI generatif, mencatat bahwa data pelatihan yang akurat sekalipun "tidak akan menghentikan" model menghasilkan pernyataan palsu, dan tinjauan FCA (otoritas jasa keuangan Inggris Raya) pada Oktober 2026 tentang AI di jasa keuangan mengulang bahwa perusahaan "tetap bertanggung jawab atas hasil bagi konsumen" apa pun alat yang menghasilkannya.

Dibaca bersama, pesan dari mereka yang membangun dan mengatur alat-alat ini konsisten: pakai, dan periksa.

7 pemeriksaan yang menangkap halusinasi

1. Minta sumbernya, lalu buka

Model dengan senang hati akan memberi referensi jika diminta; ujiannya adalah apakah referensi itu bisa dibuka dan mengatakan apa yang diklaim model. Laporan Deloitte punya referensi. Tidak ada yang membukanya. Jika tautannya mati, makalahnya tidak ada, atau halamannya mengatakan hal lain, seluruh jawaban patut dicurigai, bukan hanya baris itu.

2. Verifikasi nama, angka, tanggal, dan kutipan satu per satu

Keempat kategori ini adalah tempat karangan menumpuk, karena merupakan bagian kalimat yang sulit diprediksi dari konteks. Kutipan paling mudah diperiksa: tempelkan ke mesin pencari di dalam tanda kutip. Statistik harus mengarah ke survei dengan sampel dan tanggal, sama seperti panduan ini menyebut studi Royal College of Surgeons dan 1,249 referensinya.

3. Tanya dua kali, atau tanya model kedua

Fakta yang bertahan setelah pertanyaan disusun ulang lebih mungkin benar. Ajukan pertanyaan yang sama dengan kata-kata berbeda, atau tempelkan ke produk kedua (ChatGPT, Claude, Gemini, Microsoft Copilot, Manus, atau Muse dari Meta, semuanya berperilaku berbeda pada prompt yang sama). Dua model yang setuju belum tentu bukti, tetapi dua model yang berbeda jawaban adalah sinyal andal untuk memeriksa.

4. Beri dokumennya dan batasi ruangnya

Angka papan peringkat di atas adalah kasus terbaik, dengan sumber disediakan; mengingat dari memori lebih buruk. Jadi sediakan sumbernya. Lampirkan kontrak, spreadsheet, atau peraturannya, suruh model menjawab hanya dari situ dan mengutip baris yang dipakai, lalu baca kutipannya. Jika ia tidak bisa mengutip satu baris pun, jawabannya tidak berasal dari dokumen.

5. Beri izin untuk berkata "saya tidak tahu"

Karena pelatihan memberi imbalan pada tebakan, Anda harus mengubah penilaiannya di dalam prompt. "Jika Anda tidak yakin, katakan dan beri tahu saya apa yang perlu saya periksa" adalah kalimat paling efektif dalam panduan ini; itu padanan tertulis dari model yang menahan diri dalam tabel OpenAI, dan tidak membebani Anda sama sekali.

6. Hitung ulang

Model bahasa memprediksi teks; mereka tidak menghitung kecuali sedang menjalankan kode. Total yang meleset satu baris, persentase dari dasar yang salah, tanggal yang selisih setahun: semuanya tampak benar karena kalimat di sekitarnya benar. Jumlahkan kolomnya sendiri, atau minta agen yang menjalankan perhitungan di spreadsheet dan menunjukkannya.

7. Perlakukan uang, hukum, kesehatan, dan reputasi sebagai draf

Para pengacara di London dan para konsultan di Canberra tidak kekurangan kecerdasan; mereka kekurangan aturan. Aturannya: apa pun yang sampai ke klien, regulator, pemberi pinjaman, atau pengadilan adalah draf sampai seseorang yang disebut namanya memeriksa faktanya. Tuliskan aturan itu, dan kebijakan AI di AI Policy for Small Business: A Free Template memberi Anda versi satu halamannya.

Di mana usaha kecil paling sering terjebak

• Penawaran dan estimasi. Model yang diminta "harga umum" akan mengarang harga umum. Pakai daftar tarif Anda sendiri atau sumber yang mencantumkan harga.
• Redaksi hukum dan pajak. Ambang batas, tanggal, dan denda berubah setiap April; ingatan model mungkin berusia dua tahun. Periksa GOV.UK.
• Detail pemasok dan produk. Nomor model, kompatibilitas, dan spesifikasi persis termasuk teks padat yang sulit diprediksi dan sering dikarang.
• Ulasan dan testimoni. Jangan pernah biarkan model menulis ulasan atau kutipan dari pelanggan. Selain karangan, ulasan palsu melanggar hukum di Inggris Raya berdasarkan Digital Markets, Competition and Consumers Act 2024.
• Terjemahan angka. Ketika model menerjemahkan dokumen, angka bisa bergeser. Periksa setiap angka di versi terjemahan terhadap aslinya.

Bagaimana agen AI mengubah masalahnya

Chatbot memberi Anda jawaban dan menyerahkan pemeriksaan kepada Anda. Agen bisa melakukan sebagian pemeriksaan sebagai bagian dari pekerjaannya, itulah sebabnya mekanismenya penting saat Anda memilih.

• Ia menunjukkan sumbernya. Agen yang menjelajah web mengembalikan halaman yang dibacanya, sehingga pemeriksaan 1 menjadi satu klik, bukan pencarian. Jobbit Research melampirkan sumber pada setiap temuan dalam laporan yang ditulisnya.
• Ia berjalan di browser yang bisa Anda tonton. Ketika agen membuka halaman, Anda melihat halamannya. Angka dalam laporan bisa dilacak ke layar asalnya.
• Ia bekerja dari dokumen Anda. Lampirkan kontrak atau spreadsheet di proyek Jobbit dan agen menjawab dari berkas itu, dengan baris yang dikutip, yaitu pemeriksaan 4 yang berjalan otomatis.
• Ia menghitung di spreadsheet, bukan dalam prosa. Minta prakiraan arus kas dan agen membuat lembarnya serta menunjukkan rumusnya; aritmetikanya bisa direproduksi.
• Ia bertanya sebelum membelanjakan atau mengirim. Agen yang berhenti meminta persetujuan sebelum email dikirim memberi pemeriksaan 7 titik henti bawaan.
• Ia bisa diperintahkan untuk menahan diri. Instruksi proyek seperti "katakan jika Anda tidak yakin dan daftar apa yang perlu diverifikasi" berlaku di setiap obrolan, jadi pemeriksaan 5 cukup diatur sekali.

ChatGPT, Claude, Gemini, Microsoft Copilot, Manus, dan Muse dari Meta semuanya pandai membuat draf, dan beberapa kini menjelajah dan mengutip. Yang tidak dihilangkan satu pun dari mereka adalah pemeriksaan akhir oleh manusia, dan Jobbit pun tidak. Yang ditambahkan Jobbit adalah jaringan manusia: ketika pekerjaannya berupa sewa, pengembalian pajak, atau klaim medis, agen dapat menyerahkan pemeriksaan kepada profesional terverifikasi di dalam pesanan yang sama, bukan kepada Anda pada pukul sebelas malam.

Rencana Anda untuk minggu ini

• Senin: tulis satu aturan. "Apa pun yang dikirim ke klien, HMRC, bank, atau pengadilan adalah draf sampai seseorang yang disebut namanya memeriksa faktanya." Masukkan ke kebijakan AI dan instruksi proyek Anda.
• Selasa: tambahkan kalimat menahan diri. Masukkan "jika Anda tidak yakin, katakan dan beri tahu saya apa yang perlu diperiksa" ke instruksi tetap setiap alat yang Anda pakai.
• Rabu: jalankan pemeriksaan 1 pada hasil minggu lalu. Ambil tiga dokumen terakhir buatan AI yang Anda pakai dan buka setiap referensi. Hitung yang gagal.
• Kamis: pindahkan satu pekerjaan ke mode berlandaskan dokumen. Pilih tugas yang kesalahannya paling mahal, lampirkan dokumen asli, dan wajibkan baris kutipan.
• Jumat: tentukan apa yang tidak pernah keluar tanpa diperiksa. Buat daftarnya (harga, redaksi hukum, klaim kesehatan, kutipan pelanggan) dan bagikan kepada siapa pun yang memakai AI di usaha Anda.

Baca berikutnya

• Is AI Safe to Use? A Plain-English Guide to Your Data, Your Money and the Scams to Watch
• 12 Mistakes Beginners Make With AI Agents, and the Quick Fix for Each One
• How Do AI Agents Work? The 5-Step Loop Behind Every Task, Explained Simply

Pertanyaan yang sering diajukan

Kenapa AI mengarang jawaban?

Karena model bahasa menghasilkan kata berikutnya yang paling mungkin alih-alih memeriksa fakta, dan karena tes yang dipakai untuk melatih dan memeringkat model memberi imbalan pada tebakan percaya diri ketimbang pengakuan ketidakpastian. Peneliti OpenAI sendiri menggambarkan hasilnya pada 2025 sebagai "kebohongan yang meyakinkan dan terdengar masuk akal". Kelancaran dan akurasi dihasilkan oleh proses yang sama, itulah sebabnya jawaban salah terbaca persis seperti jawaban benar.

Apa itu halusinasi AI?

Jawaban yang lancar dan masuk akal tetapi salah: kasus hukum karangan, statistik yang tidak dihasilkan survei mana pun, kutipan yang tidak pernah diucapkan siapa pun, produk yang tidak ada. Ini bukan gangguan; ini perilaku normal model yang diminta sesuatu yang tidak diketahuinya.

Seberapa sering ChatGPT mengarang?

Tergantung tugasnya. Pada tes publik berbasis sumber yang dibaca pada Oktober 2026, model arus utama mengarang materi pada kira-kira 4% sampai 15% ringkasan dokumen meskipun sumbernya disediakan; studi kutipan di bidang bedah dan hukum menemukan tingkat karangan 17% sampai 34% untuk performa terburuk. Asumsi yang aman adalah "cukup sering sehingga setiap nama, angka, tanggal, dan kutipan perlu diperiksa".

Bisakah halusinasi AI dihentikan sepenuhnya?

Tidak. Menyediakan dokumen sumber, meminta kutipan, mengizinkan "saya tidak tahu", dan memakai agen yang menunjukkan sumbernya semuanya menurunkan tingkatnya, dan dokumentasi Anthropic sendiri menyatakan langkah-langkah ini "tidak menghilangkannya sepenuhnya". Pemeriksaan akhir atas hal yang penting dilakukan oleh manusia.

Apakah ada yang pernah didenda karena halusinasi AI?

Ya. Pengadilan New York menjatuhkan denda $5,000 pada 2023 untuk kasus palsu dalam sebuah dokumen; High Court di London memperingatkan pada Juni 2025 bahwa kutipan karangan dapat berujung pada proses penghinaan terhadap pengadilan dan rujukan ke polisi; dan Deloitte Australia mengembalikan cicilan terakhir kontrak pemerintah senilai AU$440,000 pada Oktober 2025 setelah laporannya terbukti memuat referensi karangan.

Apakah agen AI lebih andal daripada chatbot?

Agen yang menjelajah web, mengutip sumbernya, dan bekerja dari dokumen Anda membuat pemeriksaan lebih cepat dan kesalahan lebih mudah dilacak, tetapi tetap membutuhkan manusia untuk menyetujui apa pun yang menyangkut uang, hukum, atau kesehatan. Agen Jobbit menunjukkan browser dan sumbernya saat bekerja, dan dapat menyerahkan pemeriksaan akhir kepada profesional terverifikasi bila pekerjaannya memerlukan.