Bakit Nag-iimbento ang AI: 7 Paraan para Mahuli ang Hallucination

Nag-iimbento ang AI dahil ang language model ay ginawang gumawa ng mga salitang pinakamalamang na kasunod, hindi para suriin kung totoo ang mga ito, at dahil ang paraan ng pagsasanay at pagmamarka sa mga model ay nagbibigay-gantimpala sa kumpiyansang hula kaysa sa tapat na "hindi ko alam". Ipinapaliwanag ng gabay na ito sa simpleng Ingles ang mekanismo, kung gaano ito kadalas sa mga kasalukuyang model, magkano ang naging kapalit nito sa tatlong kumpanya, at ang pitong paraan para mahuli ito.

Nakita mo na ito: ang chatbot na nagbabanggit ng regulasyong hindi umiiral, nagsasabi ng estadistikang hindi kailanman nagmula sa anumang survey, o nagpapangalan ng supplier na hindi mo mahanap. Tinatawag itong hallucination, at hindi ito bug na aalisin ng susunod na update. Isinulat ng mga mananaliksik mismo ng OpenAI noong Setyembre 2025 na gumagawa ang mga model ng "overconfident, plausible falsehoods" dahil ang kanilang pagsasanay at pagsusuri ay "reward guessing over acknowledging uncertainty". Ang pag-unawa kung bakit nag-iimbento ang AI ang pagkakaiba ng tool na nakakatipid sa iyo ng isang araw kada linggo at ng tool na naglalagay ng pekeng numero sa harap ng customer, bangko o korte.

Ang kasunod ay ang paliwanag na kailangan ng abalang may-ari ng negosyo, hindi lektyur sa computer science: kung paano talaga gumagana ang makina, kung saan nagkukumpol ang mga mali, tatlong tunay na kaso na may kasamang singil, ang sinasabi mismo ng mga vendor, at ang pitong paraan ng pagsusuri. Tinatalakay ng huling seksyon kung paano binabago ng AI agent na nagpapakita ng mga source at ng browser nito ang problema, at ano pa rin ang hindi nito magagawa para sa iyo.

Paano namin sinuri ang gabay na ito

1. Primary source lang para sa mekanismo: ang research paper ng OpenAI noong 4 Setyembre 2025 at ang mga pahayag ng mga regulator na sumisipi sa mga vendor.
2. Mga sinukat na rate mula sa pampublikong leaderboard na binasa noong 22 Oktubre 2026, na may nakasaad na paraan, dahil ang hallucination rate na walang paraan ay isa ring uri ng hallucination.
3. Mga talaan ng korte at gobyerno para sa tatlong kaso, hindi mga buod ng balita.
4. Mga help page ng mga vendor para sa sinasabi ng ChatGPT at Claude tungkol sa kanilang mga limitasyon.
5. Mga pagsusuring kayang gawin ng hindi techie sa loob ng wala pang isang minuto, na search box lang ang kailangan.

Ano ang hallucination, at bakit ito nangyayari

Gumagana ang large language model sa pamamagitan ng paghula sa tekstong pinakamalamang na kasunod ng tekstong ibinigay dito. Nang balaan ng Solicitors Regulation Authority (SRA, ang regulator ng mga solicitor sa England at Wales) ang propesyon ng batas noong Nobyembre 2023, malinaw ang sinabi nito: ang mga tool na ito ay "work by anticipating the text that should follow the input they are given, but do not have a concept of 'reality'". Humingi ka ng kasong sumusuporta sa argumento mo at gagawa ang model ng bagay na mukhang kaso: kapani-paniwalang pangalan, kapani-paniwalang taon, kapani-paniwalang sipi. Walang bahagi sa loob nito ang nagsusuri kung umiiral ang kaso, dahil walang bahaging ginawa para doon.

Ang pangalawang dahilan ay kung paano minamarkahan ang mga model. Sa kanilang paper noong Setyembre 2025 na "Why language models hallucinate", ipinakita ng apat na mananaliksik ng OpenAI na ginagantimpalaan ng mga karaniwang test ang kumpiyansang sagot at walang ibinibigay sa pag-amin ng kawalang-katiyakan, kaya "under binary grading, abstaining is strictly sub-optimal". Mas maraming puntos ang model na humuhula kaysa sa model na nagsasabing hindi nito alam, tulad ng estudyanteng humuhula sa multiple-choice exam na tumatalo sa estudyanteng iniwang blangko ang tanong. Natutunan ang ugaling manghula, at natutunan ito dahil nananalo ito.

Ipinapakita ng mga numerong inilathala ng OpenAI kasabay ng paper ang trade-off. Sa isang factual benchmark, ang model na inayos para umiwas sumagot ay tumangging sumagot sa 52% ng mga tanong, 22% ang tama at 26% ang mali; ang naunang model na halos hindi umiiwas ay may 24% na tama at 75% na mali. Ang mas kaunting maling sagot ay galing sa mas maraming "hindi ko alam", hindi sa mas maraming kaalaman. Iyan ang buong kuwento sa isang talahanayan, at kaya nagsisimula ang mga pagsusuri sa ibaba sa pahintulot na magsabi ng hindi.

Gaano ito kadalas sa 2026

Ang tapat na sagot ay "sapat na kadalas para suriin, palagi". Ang hallucination leaderboard ng Vectara, na na-update noong 22 Oktubre 2026, ay nagmamarka sa mga model sa iisang makitid na gawain: ibuod ang dokumentong ibinigay sa kanila, at bilangin kung gaano kadalas may nilalaman ang buod na hindi sinasabi ng dokumento. Kahit nasa harap na nila ang mga katotohanan, nag-imbento ang mga mainstream na model ng nilalaman sa masusukat na bahagi ng mga buod.

Dalawang bagay ang kapansin-pansin. Ang mas bago at mas malaki ay hindi nangangahulugang mas ligtas: mas mababa ang nakuhang marka ng configuration ng GPT-5 noong Agosto 2025 kaysa sa GPT-4o na isang taon ang tanda sa test na ito. At ito ay mga grounding figure, na may ibinigay na source; kapag kailangang alalahanin ng model ang mga katotohanan mula sa memorya, mas mataas ang mga rate.

Pareho ang sinasabi ng mga espesyalistang pag-aaral. Iniulat ng mga mananaliksik na sumusulat sa Annals of the Royal College of Surgeons of England noong Abril 2026 na sa 108 sagot ng chatbot sa mga tanong sa operasyon, na may 1,249 reference, ang pinakamasamang mga model ay nag-imbento o hindi nakapagpatunay ng 25% hanggang 34% ng kanilang mga sipi, habang wala ni isa ang sa pinakamahusay. Natuklasan ng isang liham sa The Lancet na iniulat noong Mayo 2026 na humigit-kumulang isa sa bawat 277 kamakailang paper sa PubMed ang may mga pekeng reference, kumpara sa isa sa 2,828 noong 2023. Natuklasan ng isang pag-aaral ng Stanford sa mga legal research tool na gumagamit ng retrieval na nag-hallucinate pa rin ang mga ito sa pagitan ng 17% hanggang 33% ng panahon. Nakakatulong ang retrieval; hindi nito tinatapos ang trabaho.

Magkano ang naging kapalit: tatlong kaso

New York, Hunyo 2023. Sa Mata v Avianca, naghain ang dalawang abogado ng brief na may mga kasong hindi umiiral, na ginawa ng ChatGPT, at nagpataw ang korte ng $5,000 na parusa. Ito ang unang malawakang naiulat na kaso, at isa na ito ngayon sa mahigit 2,200 desisyon ng korte sa buong mundo na may kinalaman sa mga pekeng sipi ng AI na sinusubaybayan sa pampublikong database na pinapanatili ng abogadong si Damien Charlotin.

London, Hunyo 2025. Sa Ayinde v Haringey at Al-Haroun v Qatar National Bank, dalawang kaso ang sabay na hinarap ng High Court: ang isang brief ay sumipi ng limang kasong hindi umiiral, ang isa ay sumipi ng 45 awtoridad na 18 ang imbento. Isinulat ng Presidente ng King's Bench Division na ang mga generative tool ay "are not capable of conducting reliable legal research" at "may cite sources that do not exist", na may propesyonal na tungkulin ang mga abogado "to check the accuracy of such research by reference to authoritative sources", at na ang pagkabigong gawin ito ay maaaring humantong sa contempt proceedings at pagsangguni sa pulis. Mula noon, naglabas ang Solicitors Regulation Authority ng warning notice (17 Agosto 2026) na bumabanggit sa "fictitious cases, references or seemingly factual assertions" at nagpapaalala sa mga solicitor na mananagot pa rin sila sa output.

Canberra, Oktubre 2025. Naghatid ang Deloitte Australia ng ulat sa isang kagawaran ng gobyerno sa ilalim ng kontratang nagkakahalaga ng AU$440,000. May laman itong pekeng sipi na iniuugnay sa isang hatol ng korte at mga reference sa mga akademikong paper na hindi umiiral. Naglathala ang kumpanya ng itinamang bersyon noong 3 Oktubre 2025, unang beses na ibinunyag na gumamit ng Azure OpenAI model, at ibinalik ang huling hulog na humigit-kumulang AU$98,000. Ang trabaho ay ginawa ng isang malaking propesyonal na kumpanya na may proseso ng pagsusuri. Nakalusot pa rin ang imbento, dahil walang nagbukas ng mga reference.

Wala sa mga taong ito ang pabayang baguhan. Mga abalang propesyonal sila na itinuring na nasuri na ang maayos na pagkakasulat na output. Iyan ang pagkakamaling dapat iwasan, at maiiwasan ito.

Ang sinasabi mismo ng mga vendor

Inililista ng dokumentasyon ng Anthropic para sa Claude ang mga karaniwang pagbabawas, kabilang ang pagpapahintulot sa model na magsabi ng "I don't know", pag-utos na sumipi muna bago sumagot at paglilimita nito sa mga ibinigay na dokumento, at saka idinadagdag na ang mga ito ay "don't eliminate them entirely. Always validate critical information." Sinasabi nang malinaw ng support article nito tungkol sa maling sagot, na na-update noong Marso 2026, na ang Claude ay "can occasionally produce responses that are incorrect or misleading" at hindi dapat asahan bilang "a singular source of truth". Ganoon din ang sinasabi ng help page ng OpenAI kung nagsasabi ba ng totoo ang ChatGPT: maaari itong mag-imbento ng mga sipi, at dapat kang mag-verify. Ang ICO (ang regulator ng data protection sa UK), sa gawa nito noong 2024 tungkol sa generative AI, ay nagpansin na kahit ang tumpak na training data ay "will not stop" ang mga model sa paggawa ng maling pahayag, at inuulit ng pagsusuri ng FCA noong Oktubre 2026 sa AI sa financial services na "remain responsible for consumer outcomes" ang mga kumpanya anuman ang tool na gumawa nito.

Kapag pinagsama-sama, pare-pareho ang mensahe ng mga gumagawa at nagreregula ng mga tool na ito: gamitin sila, at suriin sila.

Ang 7 pagsusuri na nakakahuli ng hallucination

1. Hingin ang source, tapos buksan ito

Masayang gagawa ang model ng reference kapag hiniling; ang pagsubok ay kung bumubukas ba ang reference at sinasabi ba nito ang sinasabi ng model na sinasabi nito. May mga reference ang ulat ng Deloitte. Walang nagbukas ng mga ito. Kung patay ang link, hindi umiiral ang paper, o iba ang sinasabi ng pahina, kahina-hinala ang buong sagot, hindi lang ang linyang iyon.

2. I-verify nang isa-isa ang mga pangalan, numero, petsa at sipi

Ang apat na kategoryang ito ang pinagkukumpulan ng imbento, dahil sila ang mga bahagi ng pangungusap na mahirap hulaan mula sa konteksto. Pinakamadaling suriin ang sipi: i-paste ito sa search engine sa loob ng panipi. Dapat humantong ang estadistika sa isang survey na may sample at petsa, tulad ng pagbanggit ng gabay na ito sa pag-aaral ng Royal College of Surgeons at sa 1,249 nitong reference.

3. Magtanong nang dalawang beses, o magtanong sa pangalawang model

Mas malamang na totoo ang katotohanang nananatili kahit iba ang pagkakasabi. Itanong ang parehong tanong sa ibang pananalita, o i-paste ito sa pangalawang produkto (magkakaiba ang kilos ng ChatGPT, Claude, Gemini, Microsoft Copilot, Manus o Muse ng Meta sa parehong prompt). Hindi patunay ang pagsang-ayon ng dalawang model, pero maaasahang hudyat na magsuri ang hindi nila pagkakasundo.

4. Ibigay ang dokumento at limitahan ito

Ang mga numero ng leaderboard sa itaas ang pinakamagandang sitwasyon, na may ibinigay na source; mas masama ang pag-alala mula sa memorya. Kaya ibigay ang source. Ilakip ang kontrata, spreadsheet o regulasyon, utusan ang model na sumagot lang mula rito at sipiin ang linyang ginamit, at basahin ang sipi. Kung hindi ito makasipi ng linya, hindi galing sa dokumento ang sagot.

5. Bigyan ito ng pahintulot na magsabi ng "hindi ko alam"

Dahil ginagantimpalaan ng pagsasanay ang panghuhula, kailangan mong baguhin ang pagmamarka sa prompt. Ang "Kung hindi ka sigurado, sabihin mo at sabihin kung ano ang kailangan mong suriin" ang pinakaepektibong pangungusap sa gabay na ito; ito ang nakasulat na katumbas ng umiiwas na model sa talahanayan ng OpenAI, at wala itong gastos sa iyo.

6. Kuwentahin ulit

Hinuhulaan ng mga language model ang teksto; hindi sila nagkukuwenta maliban kung nagpapatakbo sila ng code. Ang kabuuang lampas ng isang linya, porsiyentong mali ang batayan, petsang isang taon ang layo: mukhang tama ang mga ito dahil tama ang nakapaligid na pangungusap. Isumahin mo mismo ang column, o magtanong sa agent na nagpapatakbo ng kuwenta sa spreadsheet at ipinapakita ito.

7. Ituring na draft ang pera, batas, kalusugan at reputasyon

Hindi kulang sa talino ang mga abogado sa London at ang mga consultant sa Canberra; kulang sila sa patakaran. Ang patakaran: anumang makararating sa kliyente, regulator, nagpapautang o korte ay draft hanggang may pinangalanang taong nakasuri sa mga katotohanan nito. Isulat ang patakarang iyan, at ibinibigay sa iyo ng AI policy sa AI Policy for Small Business: A Free Template ang bersyong isang pahina.

Saan pinakamadalas mahuli ang maliliit na negosyo

• Mga quote at estimate. Ang model na hiningan ng "karaniwang presyo" ay mag-iimbento ng karaniwang presyo. Gamitin ang sarili mong rate card o presyadong source.
• Pananalita sa batas at buwis. Nagbabago tuwing Abril ang mga threshold, petsa at multa; maaaring dalawang taon na ang tanda ng memorya ng model. Tingnan ang GOV.UK.
• Detalye ng supplier at produkto. Ang mga model number, compatibility at specification ang mismong siksik at mahirap hulaang tekstong ginagawan ng imbento.
• Mga review at testimonial. Huwag hayaang magsulat ang model ng review o sipi mula sa customer. Bukod sa imbento, ilegal sa UK ang mga pekeng review sa ilalim ng Digital Markets, Competition and Consumers Act 2024.
• Pagsasalin ng mga numero. Kapag nagsasalin ng dokumento ang model, maaaring magbago ang mga numero. Suriin ang bawat numero sa isinaling bersyon laban sa orihinal.

Paano binabago ng AI agent ang problema

Nagbibigay ang chatbot ng sagot at iniiwan sa iyo ang pagsusuri. Kayang gawin ng agent ang bahagi ng pagsusuri bilang bahagi ng trabaho, kaya mahalaga ang mekanika kapag pumipili ka.

• Ipinapakita nito ang mga source. Ang agent na nagba-browse ay nagbabalik ng mga pahinang binasa nito, kaya ang pagsusuri 1 ay nagiging isang click sa halip na paghahanap. Ikinakabit ng Jobbit Research ang mga source sa bawat natuklasan sa ulat na isinusulat nito.
• Tumatakbo ito sa browser na mapapanood mo. Kapag nagbukas ng pahina ang agent, nakikita mo ang pahina. Matutunton ang numero sa ulat sa screen na pinagmulan nito.
• Gumagana ito mula sa mga dokumento mo. Ilakip ang kontrata o spreadsheet sa isang Jobbit project at sasagot ang agent mula sa file, na may sinipi na linya, na siyang pagsusuri 4 nang awtomatiko.
• Nagkukuwenta ito sa spreadsheet, hindi sa prosa. Humingi ng cash flow forecast at gagawa ang agent ng sheet at ipapakita ang mga formula; maaaring ulitin ang aritmetika.
• Nagtatanong ito bago gumastos o magpadala. Ang agent na humihinto para sa pag-apruba bago lumabas ang email ay nagbibigay sa pagsusuri 7 ng built-in na hintuan.
• Maaari itong utusang umiwas. Ang mga tagubilin sa project tulad ng "sabihin kapag hindi ka sigurado at ilista ang dapat i-verify" ay nalalapat sa bawat chat, kaya minsan lang itinatakda ang pagsusuri 5.

Mahusay mag-draft ang ChatGPT, Claude, Gemini, Microsoft Copilot, Manus at Muse ng Meta, at marami sa kanila ngayon ay nagba-browse at sumisipi. Ang hindi inaalis ng alinman sa kanila ay ang huling pagsusuri ng tao, at ganoon din ang Jobbit. Ang idinadagdag ng Jobbit ay human network: kapag lease, tax return o medical claim ang trabaho, maaaring ipasa ng agent ang pagsusuri sa isang vetted na propesyonal sa loob ng parehong order sa halip na sa iyo nang alas-onse ng gabi.

Ang plano mo para sa linggong ito

• Lunes: isulat ang iisang patakaran. "Anumang mapupunta sa kliyente, HMRC, bangko o korte ay draft hanggang may pinangalanang taong nakasuri sa mga katotohanan." Ilagay ito sa AI policy mo at sa mga tagubilin ng project.
• Martes: idagdag ang linyang pag-iwas. Ilagay ang "kung hindi ka sigurado, sabihin mo at sabihin kung ano ang susuriin" sa standing instructions ng bawat tool na gamit mo.
• Miyerkules: patakbuhin ang pagsusuri 1 sa output ng nakaraang linggo. Kunin ang huling tatlong dokumentong isinulat ng AI na ginamit mo at buksan ang bawat reference. Bilangin ang mga pumalya.
• Huwebes: ilipat ang isang trabaho sa grounded mode. Piliin ang gawaing pinakamahal ang kapalit ng mga mali, ilakip ang mga totoong dokumento at hingin ang mga sinipi na linya.
• Biyernes: magpasya kung ano ang hindi dapat lumabas nang hindi sinusuri. Gawin ang listahan (mga presyo, pananalita sa batas, health claim, sipi ng customer) at ibahagi ito sa sinumang gumagamit ng AI sa negosyo mo.

Basahin susunod

• Is AI Safe to Use? A Plain-English Guide to Your Data, Your Money and the Scams to Watch
• 12 Mistakes Beginners Make With AI Agents, and the Quick Fix for Each One
• How Do AI Agents Work? The 5-Step Loop Behind Every Task, Explained Simply

Mga madalas itanong

Bakit nag-iimbento ang AI?

Dahil ang language model ay bumubuo ng pinakamalamang na kasunod na mga salita sa halip na suriin ang mga katotohanan, at dahil ginagantimpalaan ng mga test na ginagamit sa pagsasanay at pag-ranggo ng mga model ang kumpiyansang hula kaysa sa pag-amin ng kawalang-katiyakan. Inilarawan mismo ng mga mananaliksik ng OpenAI ang resulta noong 2025 bilang "overconfident, plausible falsehoods". Iisang proseso ang gumagawa ng pagiging maayos ng pagkakasulat at ng katumpakan, kaya ang maling sagot ay mukhang eksaktong katulad ng tamang sagot.

Ano ang AI hallucination?

Sagot na maayos ang pagkakasulat at kapani-paniwala pero mali: imbentong kaso, estadistikang hindi nagmula sa anumang survey, sipi na walang nagsabi, produktong hindi umiiral. Hindi ito glitch; ito ang normal na kilos ng model na tinanong tungkol sa bagay na hindi nito alam.

Gaano kadalas nag-iimbento ang ChatGPT?

Depende sa gawain. Sa pampublikong grounding test na binasa noong Oktubre 2026, nag-imbento ang mga mainstream na model ng nilalaman sa humigit-kumulang 4% hanggang 15% ng mga buod ng dokumento kahit may ibinigay na source; ang mga pag-aaral ng mga sipi sa operasyon at batas ay nakakita ng 17% hanggang 34% na rate ng imbento para sa pinakamasamang performer. Ang ligtas na akala ay "sapat na kadalas para suriin ang bawat pangalan, numero, petsa at sipi".

Mapipigilan ba nang ganap ang AI hallucination?

Hindi. Binabawasan ng pagbibigay ng source document, paghingi ng mga sipi, pagpayag sa "hindi ko alam" at paggamit ng agent na nagpapakita ng mga source ang rate, at sinasabi mismo ng dokumentasyon ng Anthropic na ang mga hakbang na ito ay "don't eliminate them entirely". Ang huling pagsusuri sa anumang mahalaga ay tao.

May nagmulta na ba dahil sa AI hallucination?

Oo. Nagpataw ang korte sa New York ng $5,000 na parusa noong 2023 dahil sa mga pekeng kaso sa isang brief; nagbabala ang High Court sa London noong Hunyo 2025 na ang mga pekeng sipi ay maaaring humantong sa contempt proceedings at pagsangguni sa pulis; at ibinalik ng Deloitte Australia ang huling hulog ng kontrata ng gobyerno na AU$440,000 noong Oktubre 2025 matapos matuklasang may imbentong reference ang ulat nito.

Mas maaasahan ba ang AI agent kaysa sa chatbot?

Ang agent na nagba-browse, sumisipi ng mga source at gumagana mula sa mga dokumento mo ay nagpapabilis ng mga pagsusuri at nagpapadali sa pagtunton ng mga mali, pero kailangan pa rin nito ng taong pipirma sa anumang may kinalaman sa pera, batas o kalusugan. Ipinapakita ng agent ng Jobbit ang browser at mga source nito habang gumagana, at maaari nitong ipasa ang huling pagsusuri sa isang vetted na propesyonal kapag kailangan ito ng trabaho.