AI झूठ क्यों गढ़ता है: Hallucination पकड़ने वाली 7 जाँचें

AI इसलिए झूठ गढ़ता है क्योंकि language model को अगले सबसे संभावित शब्द बनाने के लिए तैयार किया जाता है, यह जाँचने के लिए नहीं कि वे सच हैं या नहीं। साथ ही, मॉडल को जिस तरह train और score किया जाता है, उसमें ईमानदार "मुझे नहीं पता" की जगह आत्मविश्वास भरे अनुमान को इनाम मिलता है। यह गाइड सरल भाषा में बताती है कि तंत्र कैसे काम करता है, मौजूदा मॉडलों में यह कितनी बार होता है, तीन फर्मों को इसकी क्या कीमत चुकानी पड़ी और इसे पकड़ने वाली सात जाँचें कौन सी हैं।

आपने यह ज़रूर देखा होगा: chatbot ऐसा नियम बता देता है जो अस्तित्व में ही नहीं है, ऐसा आँकड़ा उद्धृत करता है जो किसी सर्वे ने कभी निकाला ही नहीं, या ऐसे सप्लायर का नाम लेता है जो आपको कहीं मिलता नहीं। इसे hallucination कहते हैं, और यह कोई ऐसा bug नहीं है जिसे अगला अपडेट हटा देगा। OpenAI के अपने शोधकर्ताओं ने सितंबर 2025 में लिखा कि मॉडल "overconfident, plausible falsehoods" पैदा करते हैं, क्योंकि उनकी training और evaluation "reward guessing over acknowledging uncertainty"। AI झूठ क्यों गढ़ता है, यह समझना उस टूल के बीच का फ़र्क है जो आपका हफ़्ते में एक दिन बचाता है और उस टूल का जो किसी ग्राहक, बैंक या अदालत के सामने नकली आँकड़ा रख देता है।

आगे वही स्पष्टीकरण है जो किसी व्यस्त मालिक को चाहिए, कंप्यूटर साइंस का लेक्चर नहीं: मशीन असल में कैसे काम करती है, गलतियाँ कहाँ जमा होती हैं, तीन असली मामले जिनके साथ बिल जुड़ा है, vendors खुद क्या कहते हैं, और सात जाँचें। आख़िरी हिस्से में बताया गया है कि जो AI agent अपने स्रोत और अपना browser दिखाता है, वह समस्या को कैसे बदलता है, और फिर भी वह आपके लिए क्या नहीं कर सकता।

हमने यह गाइड कैसे जाँची

1. तंत्र के लिए सिर्फ़ प्राथमिक स्रोत: 4 सितंबर 2025 का OpenAI शोध पत्र और वे नियामक बयान जो vendors को उद्धृत करते हैं।
2. सार्वजनिक leaderboard से मापी गई दरें, जिन्हें 22 अक्टूबर 2026 को पढ़ा गया और जिनकी पद्धति बताई गई है, क्योंकि बिना पद्धति की hallucination दर खुद एक तरह का hallucination है।
3. तीनों मामलों के लिए अदालती और सरकारी रिकॉर्ड, न्यूज़ सारांश नहीं।
4. Vendors के अपने help पेज, यह देखने के लिए कि ChatGPT और Claude अपनी सीमाओं के बारे में क्या कहते हैं।
5. ऐसी जाँचें जो कोई ग़ैर-तकनीकी व्यक्ति एक मिनट से कम में कर सके, सिर्फ़ एक search box के सहारे।

Hallucination क्या है, और यह क्यों होता है

Large language model उस टेक्स्ट के बाद सबसे संभावित टेक्स्ट का अनुमान लगाकर काम करता है जो उसे दिया गया है। जब Solicitors Regulation Authority (SRA) ने नवंबर 2023 में कानूनी पेशे को चेताया, तो उसने साफ़ कहा कि ये टूल "work by anticipating the text that should follow the input they are given, but do not have a concept of 'reality'"। अगर आप ऐसा केस माँगें जो आपकी दलील का समर्थन करे, तो मॉडल केस जैसी दिखने वाली चीज़ बना देता है: विश्वसनीय नाम, विश्वसनीय साल, विश्वसनीय उद्धरण। उसके भीतर कुछ भी यह नहीं जाँचता कि वह केस मौजूद है या नहीं, क्योंकि उसके भीतर कुछ भी इसके लिए बनाया ही नहीं गया।

दूसरा कारण यह है कि मॉडल को score कैसे किया जाता है। अपने सितंबर 2025 के पेपर "Why language models hallucinate" में OpenAI के चार शोधकर्ताओं ने दिखाया कि मानक टेस्ट आत्मविश्वास भरे जवाब को इनाम देते हैं और अनिश्चितता मानने पर कुछ नहीं देते, इसलिए "under binary grading, abstaining is strictly sub-optimal"। जो मॉडल अनुमान लगाता है, उसे उस मॉडल से ज़्यादा अंक मिलते हैं जो कहता है कि उसे नहीं पता, ठीक वैसे ही जैसे multiple-choice परीक्षा में अनुमान लगाने वाला छात्र सवाल खाली छोड़ने वाले से आगे निकल जाता है। अनुमान लगाने की आदत सीखी जाती है, और इसलिए सीखी जाती है क्योंकि वह जीतती है।

OpenAI ने पेपर के साथ जो आँकड़े छापे, वे इस सौदे को साफ़ दिखाते हैं। एक तथ्यात्मक benchmark पर, जिस मॉडल को जवाब से बचने के लिए tune किया गया था, उसने 52% सवालों का जवाब देने से मना किया, 22% सही और 26% गलत किए। एक पुराने मॉडल ने, जो लगभग कभी जवाब से नहीं बचता था, 24% सही और 75% गलत किए। गलत जवाब कम इसलिए हुए कि "मुझे नहीं पता" ज़्यादा कहा गया, इसलिए नहीं कि जानकारी ज़्यादा थी। पूरी कहानी एक तालिका में यही है, और इसीलिए नीचे की जाँचें "ना कहने की अनुमति" से शुरू होती हैं।

2026 में यह कितनी बार होता है

ईमानदार जवाब है: "इतनी बार कि हर बार जाँचना ज़रूरी है"। Vectara का hallucination leaderboard, जिसे 22 अक्टूबर 2026 को अपडेट किया गया, मॉडलों को एक संकीर्ण काम पर score करता है: उन्हें दिया गया दस्तावेज़ summarise करना, और गिनना कि कितनी बार सारांश में ऐसी बात आती है जो दस्तावेज़ में नहीं है। तथ्य सामने रखे होने पर भी मुख्यधारा के मॉडलों ने सारांशों के एक मापने योग्य हिस्से में सामग्री गढ़ी।

दो बातें ध्यान खींचती हैं। नया और बड़ा होने का मतलब ज़्यादा सुरक्षित होना नहीं है: अगस्त 2025 का GPT-5 configuration इस टेस्ट में एक साल पुराने GPT-4o से भी खराब रहा। और ये grounding के आँकड़े हैं, यानी स्रोत दिया गया था। जब मॉडल को तथ्य याददाश्त से निकालने पड़ते हैं, तो दरें और ऊँची होती हैं।

विशेषज्ञ अध्ययन भी यही कहते हैं। Annals of the Royal College of Surgeons of England में लिखने वाले शोधकर्ताओं ने अप्रैल 2026 में बताया कि सर्जरी के सवालों पर 108 chatbot जवाबों में, जिनमें 1,249 संदर्भ थे, सबसे खराब मॉडलों ने अपने 25% से 34% उद्धरण गढ़े या उनका समर्थन नहीं कर सके, जबकि सबसे अच्छे मॉडलों ने एक भी नहीं गढ़ा। The Lancet में मई 2026 में छपे एक पत्र में पाया गया कि PubMed के हाल के लगभग 277 में से एक पेपर में गढ़े हुए संदर्भ थे, जबकि 2023 में यह 2,828 में से एक था। Stanford के एक अध्ययन में, जो retrieval इस्तेमाल करने वाले कानूनी रिसर्च टूल्स पर था, पाया गया कि वे फिर भी 17% से 33% बार hallucinate करते थे। Retrieval मदद करता है; वह काम पूरा नहीं करता।

इसकी क्या कीमत चुकानी पड़ी: तीन मामले

न्यूयॉर्क, जून 2023। Mata v Avianca में दो वकीलों ने ऐसी brief दाख़िल की जिसमें ऐसे केस थे जो अस्तित्व में नहीं थे, जिन्हें ChatGPT ने बनाया था, और अदालत ने $5,000 का जुर्माना लगाया। यह सबसे पहले व्यापक रूप से रिपोर्ट हुआ मामला था, और अब यह दुनिया भर के उन 2,200 से ज़्यादा अदालती फैसलों में से एक है जिनमें AI से गढ़े गए उद्धरण शामिल हैं और जिन्हें वकील Damien Charlotin द्वारा चलाए जा रहे एक सार्वजनिक डेटाबेस में दर्ज किया गया है।

लंदन, जून 2025। Ayinde v Haringey और Al-Haroun v Qatar National Bank में High Court ने एक साथ दो मामले निपटाए: एक brief में पाँच ऐसे केस उद्धृत थे जो थे ही नहीं, दूसरी में 45 authorities उद्धृत थीं जिनमें से 18 गढ़ी हुई थीं। King's Bench Division के President ने लिखा कि generative टूल्स "are not capable of conducting reliable legal research" और "may cite sources that do not exist", कि वकीलों का पेशेवर कर्तव्य है "to check the accuracy of such research by reference to authoritative sources", और ऐसा न करने के नतीजों में अदालत की अवमानना की कार्यवाही और पुलिस को रेफ़रल शामिल हो सकते हैं। तब से Solicitors Regulation Authority ने एक warning notice (17 अगस्त 2026) जारी किया है, जिसमें "fictitious cases, references or seemingly factual assertions" का नाम लिया गया है और solicitors को याद दिलाया गया है कि आउटपुट के लिए वे ही जवाबदेह रहते हैं।

कैनबरा, अक्टूबर 2025। Deloitte Australia ने AU$440,000 के अनुबंध के तहत एक सरकारी विभाग को रिपोर्ट सौंपी। उसमें एक अदालती फैसले के नाम पर गढ़ा हुआ उद्धरण था और ऐसे अकादमिक पेपरों के संदर्भ थे जो अस्तित्व में नहीं थे। फर्म ने 3 अक्टूबर 2025 को सुधारा हुआ संस्करण प्रकाशित किया, पहली बार बताया कि एक Azure OpenAI मॉडल इस्तेमाल हुआ था, और लगभग AU$98,000 की अंतिम किस्त लौटा दी। यह काम समीक्षा प्रक्रिया वाली एक बड़ी पेशेवर फर्म ने किया था। फिर भी गढ़ी हुई बात निकल गई, क्योंकि किसी ने संदर्भ खोलकर नहीं देखे।

इनमें से कोई भी लापरवाह नौसिखिया नहीं था। ये व्यस्त पेशेवर थे जिन्होंने धाराप्रवाह आउटपुट को जाँचा हुआ आउटपुट मान लिया। यही वह गलती है जिससे बचना है, और इससे बचा जा सकता है।

Vendors खुद क्या कहते हैं

Claude के लिए Anthropic के दस्तावेज़ मानक उपायों की सूची देते हैं, जिनमें मॉडल को "I don't know" कहने की अनुमति देना, जवाब देने से पहले उद्धरण निकालने को कहना और उसे दिए गए दस्तावेज़ों तक सीमित रखना शामिल हैं, और फिर जोड़ते हैं कि ये उपाय "don't eliminate them entirely. Always validate critical information." गलत जवाबों पर उसका सपोर्ट लेख, जिसे मार्च 2026 में अपडेट किया गया, साफ़ कहता है कि Claude "can occasionally produce responses that are incorrect or misleading" और उस पर "a singular source of truth" के रूप में भरोसा नहीं करना चाहिए। क्या ChatGPT सच बोलता है, इस पर OpenAI का help पेज भी यही कहता है: वह उद्धरण गढ़ सकता है, और आपको जाँचना चाहिए। ICO ने generative AI पर अपने 2024 के काम में कहा कि सटीक training data भी मॉडलों को झूठे बयान देने से "will not stop" करेगा, और FCA की अक्टूबर 2026 की वित्तीय सेवाओं में AI की समीक्षा दोहराती है कि फर्में "remain responsible for consumer outcomes" चाहे कोई भी टूल इस्तेमाल हुआ हो।

साथ पढ़ें तो इन टूल्स को बनाने और नियंत्रित करने वालों का संदेश एक ही है: इनका इस्तेमाल कीजिए, और इन्हें जाँचिए।

Hallucination पकड़ने वाली 7 जाँचें

1. स्रोत माँगिए, फिर उसे खोलिए

मॉडल माँगने पर खुशी से संदर्भ दे देगा; असली परीक्षा यह है कि संदर्भ खुलता है या नहीं और उसमें वही लिखा है या नहीं जो मॉडल कहता है। Deloitte की रिपोर्ट में संदर्भ थे। किसी ने उन्हें खोला नहीं। अगर लिंक मरा हुआ है, पेपर मौजूद नहीं है या पेज कुछ और कहता है, तो पूरा जवाब संदिग्ध है, सिर्फ़ वह पंक्ति नहीं।

2. नाम, संख्या, तारीख़ और उद्धरण अलग अलग जाँचिए

इन चार श्रेणियों में गढ़ंत सबसे ज़्यादा जमा होती है, क्योंकि वाक्य के ये वे हिस्से हैं जिनका संदर्भ से अनुमान लगाना कठिन होता है। उद्धरण जाँचना सबसे आसान है: उसे उद्धरण चिह्नों के भीतर search engine में पेस्ट कीजिए। किसी आँकड़े को ऐसे सर्वे तक ले जाना चाहिए जिसमें sample और तारीख़ हो, ठीक वैसे ही जैसे यह गाइड Royal College of Surgeons के अध्ययन और उसके 1,249 संदर्भों का नाम लेती है।

3. दो बार पूछिए, या दूसरे मॉडल से पूछिए

जो तथ्य शब्द बदलने पर भी टिका रहे, उसके तथ्य होने की संभावना ज़्यादा है। वही सवाल अलग शब्दों में पूछिए, या उसे दूसरे प्रोडक्ट में पेस्ट कीजिए (ChatGPT, Claude, Gemini, Microsoft Copilot, Manus या Meta का Muse, सब एक ही prompt पर अलग व्यवहार करते हैं)। दो मॉडलों का सहमत होना प्रमाण नहीं है, पर दो मॉडलों का असहमत होना जाँचने का भरोसेमंद संकेत है।

4. दस्तावेज़ दीजिए और दायरा बाँध दीजिए

ऊपर के leaderboard आँकड़े सबसे अच्छी स्थिति के हैं, जिसमें स्रोत दिया गया था; याददाश्त से याद करना इससे खराब है। इसलिए स्रोत दीजिए। अनुबंध, spreadsheet या नियम संलग्न कीजिए, मॉडल से कहिए कि सिर्फ़ उसी से जवाब दे और जो पंक्ति इस्तेमाल की उसे उद्धृत करे, और वह उद्धरण पढ़िए। अगर वह कोई पंक्ति उद्धृत नहीं कर सकता, तो जवाब दस्तावेज़ से नहीं आया।

5. "मुझे नहीं पता" कहने की अनुमति दीजिए

क्योंकि training अनुमान लगाने को इनाम देती है, आपको prompt में ही scoring बदलनी होगी। "अगर तुम्हें पक्का नहीं है तो कहो और बताओ कि मुझे क्या जाँचना होगा", इस गाइड का सबसे असरदार एक वाक्य है; यह OpenAI की तालिका के जवाब से बचने वाले मॉडल का लिखित रूप है, और इसमें आपका कुछ खर्च नहीं होता।

6. गणित दोबारा कीजिए

Language model टेक्स्ट का अनुमान लगाते हैं; वे गणना तभी करते हैं जब वे code चला रहे हों। एक पंक्ति से चूका कुल योग, गलत आधार पर निकाला गया प्रतिशत, एक साल आगे पीछे की तारीख़: ये सही दिखते हैं क्योंकि आसपास का वाक्य सही है। कॉलम खुद जोड़िए, या ऐसे agent से पूछिए जो गणना spreadsheet में चलाता है और उसे दिखाता है।

7. पैसे, कानून, स्वास्थ्य और साख को draft मानिए

लंदन के वकीलों और कैनबरा के सलाहकारों में बुद्धि की कमी नहीं थी; उनके पास कोई नियम नहीं था। नियम यह है कि जो कुछ भी ग्राहक, नियामक, कर्ज़दाता या अदालत तक पहुँचता है, वह तब तक draft है जब तक कोई नामित व्यक्ति उसके तथ्य जाँच न ले। इस नियम को लिख लीजिए, और छोटे व्यवसाय के लिए AI नीति: एक मुफ़्त टेम्पलेट में दी गई AI नीति आपको इसका एक पन्ने का रूप देती है।

छोटे व्यवसाय सबसे ज़्यादा कहाँ फँसते हैं

• कोटेशन और अनुमान। जिस मॉडल से "सामान्य कीमतें" माँगी जाएँ, वह सामान्य कीमतें गढ़ देता है। अपना rate card या कीमत वाला स्रोत इस्तेमाल कीजिए।
• कानूनी और कर संबंधी शब्दावली। Thresholds, तारीख़ें और जुर्माने हर अप्रैल बदलते हैं; मॉडल की याददाश्त दो साल पुरानी हो सकती है। GOV.UK देखिए।
• सप्लायर और प्रोडक्ट का ब्योरा। मॉडल नंबर, compatibility और specifications ठीक वही घना, अनुमान लगाने में कठिन टेक्स्ट हैं जो गढ़ा जाता है।
• रिव्यू और testimonials। मॉडल को कभी ग्राहक का रिव्यू या उद्धरण न लिखने दें। गढ़े होने के अलावा, नकली रिव्यू यूके में Digital Markets, Competition and Consumers Act 2024 के तहत गैरकानूनी हैं।
• आँकड़ों के अनुवाद। जब मॉडल कोई दस्तावेज़ अनुवाद करता है, तो संख्याएँ खिसक सकती हैं। अनुवादित संस्करण की हर संख्या मूल से मिलाइए।

AI agent समस्या को कैसे बदलता है

Chatbot आपको जवाब देता है और जाँच आप पर छोड़ देता है। Agent काम के हिस्से के तौर पर कुछ जाँच खुद कर सकता है, इसीलिए चुनते समय उसकी कार्यप्रणाली मायने रखती है।

• वह अपने स्रोत दिखाता है। Browse करने वाला agent वे पेज लौटाता है जो उसने पढ़े, इसलिए जाँच 1 खोज की जगह एक क्लिक बन जाती है। Jobbit Research अपनी लिखी रिपोर्ट के हर निष्कर्ष के साथ स्रोत जोड़ता है।
• वह ऐसे browser में चलता है जिसे आप देख सकते हैं। जब agent कोई पेज खोलता है, आप वह पेज देखते हैं। रिपोर्ट के किसी आँकड़े को उस स्क्रीन तक खोजा जा सकता है जहाँ से वह आया।
• वह आपके दस्तावेज़ों से काम करता है। Jobbit project में अनुबंध या spreadsheet संलग्न कीजिए और agent फ़ाइल से, उद्धृत पंक्ति के साथ जवाब देता है, यानी जाँच 4 डिफ़ॉल्ट रूप से हो जाती है।
• वह गणित गद्य में नहीं, spreadsheet में करता है। Cash flow forecast माँगिए और agent शीट बनाता है और formulas दिखाता है; गणना दोहराई जा सकती है।
• वह खर्च करने या भेजने से पहले पूछता है। जो agent ईमेल जाने से पहले मंज़ूरी के लिए रुकता है, वह जाँच 7 को एक अंतर्निहित पड़ाव देता है।
• उसे जवाब से बचने को कहा जा सकता है। "जब पक्का न हो तो बताओ और जाँचने वाली चीज़ों की सूची दो" जैसे project निर्देश हर चैट पर लागू होते हैं, इसलिए जाँच 5 एक बार में तय हो जाती है।

ChatGPT, Claude, Gemini, Microsoft Copilot, Manus और Meta का Muse सभी अच्छा draft लिखते हैं, और कई अब browse करते और स्रोत देते हैं। इनमें से कोई भी किसी व्यक्ति की अंतिम जाँच को नहीं हटाता, और Jobbit भी नहीं। Jobbit जो जोड़ता है वह एक मानव नेटवर्क है: जब काम lease, tax return या मेडिकल क्लेम का हो, तो agent जाँच को रात ग्यारह बजे आप पर छोड़ने की जगह उसी ऑर्डर के भीतर किसी जाँचे-परखे पेशेवर को सौंप सकता है।

इस हफ़्ते की आपकी योजना

• सोमवार: एक नियम लिखिए। "ग्राहक, HMRC, बैंक या अदालत तक जाने वाली कोई भी चीज़ तब तक draft है जब तक कोई नामित व्यक्ति उसके तथ्य जाँच न ले।" इसे अपनी AI नीति और project निर्देशों में डालिए।
• मंगलवार: जवाब से बचने वाली पंक्ति जोड़िए। "अगर पक्का नहीं है तो कहो और बताओ कि मुझे क्या जाँचना है" को अपने हर टूल के स्थायी निर्देशों में डालिए।
• बुधवार: पिछले हफ़्ते के आउटपुट पर जाँच 1 चलाइए। पिछले तीन AI-लिखित दस्तावेज़ लीजिए जो आपने इस्तेमाल किए और हर संदर्भ खोलिए। गिनिए कितने फेल होते हैं।
• गुरुवार: एक काम को grounded mode में ले जाइए। वह काम चुनिए जिसमें गलतियाँ सबसे महँगी पड़ती हैं, असली दस्तावेज़ संलग्न कीजिए और उद्धृत पंक्तियाँ अनिवार्य कीजिए।
• शुक्रवार: तय कीजिए कि बिना जाँच के क्या कभी बाहर नहीं जाएगा। सूची बनाइए (कीमतें, कानूनी शब्दावली, स्वास्थ्य दावे, ग्राहक उद्धरण) और अपने व्यवसाय में AI इस्तेमाल करने वाले हर व्यक्ति से साझा कीजिए।

आगे पढ़ें

• क्या AI इस्तेमाल करना सुरक्षित है? आपके डेटा, आपके पैसे और सावधान रहने वाले घोटालों की सरल गाइड
• AI agents के साथ नौसिखियों की 12 गलतियाँ, और हर एक का त्वरित समाधान
• AI agents कैसे काम करते हैं? हर काम के पीछे का 5 चरणों वाला चक्र, सरल भाषा में

अक्सर पूछे जाने वाले प्रश्न

AI झूठ क्यों गढ़ता है?

क्योंकि language model तथ्य जाँचने के बजाय सबसे संभावित अगले शब्द बनाता है, और क्योंकि मॉडलों को train और rank करने वाले टेस्ट अनिश्चितता मानने की जगह आत्मविश्वास भरे अनुमान को इनाम देते हैं। OpenAI के अपने शोधकर्ताओं ने 2025 में इसके नतीजे को "overconfident, plausible falsehoods" बताया। प्रवाह और सटीकता एक ही प्रक्रिया से पैदा होते हैं, इसीलिए गलत जवाब ठीक सही जवाब जैसा पढ़ा जाता है।

AI hallucination क्या है?

ऐसा जवाब जो धाराप्रवाह और विश्वसनीय है पर झूठा: गढ़ा हुआ केस, ऐसा आँकड़ा जो किसी सर्वे ने निकाला ही नहीं, ऐसा उद्धरण जो किसी ने कहा नहीं, ऐसा प्रोडक्ट जो है ही नहीं। यह कोई गड़बड़ी नहीं है; जिस चीज़ का जवाब मॉडल को पता नहीं है, उसे माँगे जाने पर यह उसका सामान्य व्यवहार है।

ChatGPT कितनी बार चीज़ें गढ़ता है?

यह काम पर निर्भर करता है। अक्टूबर 2026 में पढ़े गए एक सार्वजनिक grounding टेस्ट में, स्रोत दिए जाने पर भी मुख्यधारा के मॉडलों ने लगभग 4% से 15% दस्तावेज़ सारांशों में सामग्री गढ़ी; सर्जरी और कानून में उद्धरणों के अध्ययनों ने सबसे खराब प्रदर्शन करने वालों के लिए 17% से 34% गढ़ंत दरें पाईं। सुरक्षित मान्यता यह है: "इतनी बार कि हर नाम, संख्या, तारीख़ और उद्धरण जाँचा जाए"।

क्या AI hallucinations को पूरी तरह रोका जा सकता है?

नहीं। स्रोत दस्तावेज़ देना, उद्धरण माँगना, "मुझे नहीं पता" की अनुमति देना और ऐसे agent का इस्तेमाल करना जो अपने स्रोत दिखाता है, ये सब दर घटाते हैं, और Anthropic के अपने दस्तावेज़ कहते हैं कि ये उपाय "don't eliminate them entirely"। जो भी मायने रखता है, उसकी अंतिम जाँच कोई व्यक्ति ही है।

क्या AI hallucinations के लिए किसी पर जुर्माना लगा है?

हाँ। न्यूयॉर्क की एक अदालत ने 2023 में brief में नकली केस के लिए $5,000 का जुर्माना लगाया; लंदन के High Court ने जून 2025 में चेताया कि गढ़े हुए उद्धरण अदालत की अवमानना की कार्यवाही और पुलिस को रेफ़रल तक ले जा सकते हैं; और Deloitte Australia ने अक्टूबर 2025 में AU$440,000 के सरकारी अनुबंध की अंतिम किस्त तब लौटाई जब उसकी रिपोर्ट में गढ़े हुए संदर्भ पाए गए।

क्या AI agent chatbot से ज़्यादा भरोसेमंद है?

जो agent browse करता है, अपने स्रोत देता है और आपके दस्तावेज़ों से काम करता है, वह जाँचों को तेज़ और गलतियों को पकड़ना आसान बनाता है, पर पैसे, कानून या स्वास्थ्य को छूने वाली हर चीज़ पर फिर भी किसी व्यक्ति का sign off चाहिए। Jobbit का agent काम करते समय अपना browser और अपने स्रोत दिखाता है, और जब काम को ज़रूरत हो तो अंतिम जाँच किसी जाँचे-परखे पेशेवर को सौंप सकता है।