Чому ШІ вигадує факти: 7 перевірок, що ловлять галюцинацію

ШІ вигадує факти, бо мовна модель створена видавати найімовірніші наступні слова, а не перевіряти, чи вони правдиві, і бо спосіб навчання та оцінювання моделей винагороджує впевнене вгадування, а не чесне «я не знаю». Цей посібник простою мовою пояснює механізм, показує, як часто це трапляється в сучасних моделей, скільки це коштувало трьом компаніям, і дає сім перевірок, які це ловлять.

Ви це бачили: чат-бот цитує норму, якої не існує, наводить статистику, якої жодне опитування не давало, або називає постачальника, якого неможливо знайти. Це називається галюцинацією, і це не помилка, яку приберуть наступним оновленням. Дослідники OpenAI у вересні 2025 року написали, що моделі видають «overconfident, plausible falsehoods» (надто впевнену правдоподібну неправду), бо їхнє навчання й оцінювання «reward guessing over acknowledging uncertainty» (винагороджують вгадування, а не визнання невпевненості). Розуміння того, чому ШІ вигадує факти, відрізняє інструмент, що економить вам день на тиждень, від такого, який кладе вигадану цифру перед клієнтом, банком або судом.

Далі йде пояснення, потрібне зайнятому власнику, а не лекція з інформатики: як машина насправді працює, де помилки скупчуються, три реальні випадки з рахунком, що кажуть самі розробники, і сім перевірок. В останньому розділі: як ШІ-агент, що показує джерела й свій браузер, змінює проблему і чого він усе одно не зробить за вас.

Як ми перевіряли цей посібник

1. Лише першоджерела для механізму: дослідницька стаття OpenAI від 4 вересня 2025 року та заяви регуляторів, що цитують розробників.
2. Виміряні показники з публічного рейтингу, прочитані 22 жовтня 2026 року, з указаним методом, бо показник галюцинацій без методу сам є різновидом галюцинації.
3. Судові й урядові документи для трьох випадків, а не переказ у новинах.
4. Власні довідкові сторінки розробників про те, що ChatGPT і Claude кажуть про свої обмеження.
5. Перевірки, які нетехнічна людина виконає за хвилину, не маючи нічого, крім пошукового рядка.

Що таке галюцинація і чому вона виникає

Велика мовна модель працює, передбачаючи текст, найімовірніший після того, який їй дали. Коли Solicitors Regulation Authority (SRA, регулятор солісіторів) у листопаді 2023 року застерігала юридичну професію, вона сказала прямо: ці інструменти «work by anticipating the text that should follow the input they are given, but do not have a concept of 'reality'» (працюють, передбачаючи текст, що має йти після введеного, але не мають поняття «реальності»). Попросіть справу на підтримку вашої позиції, і модель видасть щось схоже на справу: правдоподібну назву, правдоподібний рік, правдоподібну цитату. Ніщо всередині не перевіряє, чи справа існує, бо ніщо всередині для цього не створювалося.

Друга причина в тому, як моделі оцінюють. У статті «Why language models hallucinate» у вересні 2025 року четверо дослідників OpenAI показали, що стандартні тести винагороджують упевнену відповідь і нічого не дають за визнання невпевненості, тож «under binary grading, abstaining is strictly sub-optimal» (за бінарного оцінювання утримання від відповіді строго неоптимальне). Модель, що вгадує, отримує більше балів, ніж та, що каже «не знаю», так само як студент, який вгадує на тесті з варіантами, випереджає того, хто лишив питання порожнім. Звичка вгадувати вивчається, і вивчається вона тому, що виграє.

Цифри, які OpenAI опублікувала разом зі статтею, роблять цей компроміс видимим. На одному фактологічному тесті модель, налаштована утримуватися, відмовилася відповідати на 52% питань, 22% відповіла правильно і 26% неправильно; попередня модель, що майже ніколи не утримувалася, мала 24% правильних і 75% неправильних. Менше хибних відповідей дало більше «не знаю», а не більше знань. Це вся історія в одній таблиці, і тому перевірки нижче починаються з дозволу сказати «ні».

Як часто це трапляється у 2026 році

Чесна відповідь: «досить часто, щоб перевіряти завжди». Рейтинг галюцинацій Vectara, оновлений 22 жовтня 2026 року, оцінює моделі за одним вузьким завданням: стисло переказати наданий документ і порахувати, як часто переказ містить те, чого в документі немає. Навіть коли факти лежать перед очима, поширені моделі вигадували матеріал у вимірній частці переказів.

Впадають в око дві речі. Новіше й більше не означає безпечніше: конфігурація GPT-5 від серпня 2025 року показала на цьому тесті гірший результат, ніж на рік старіша GPT-4o. І це показники «заземленої» роботи, коли джерело надано; коли модель має згадувати факти з пам'яті, частка помилок вища.

Спеціалізовані дослідження це підтверджують. Дослідники, які писали в Annals of the Royal College of Surgeons of England, повідомили у квітні 2026 року, що серед 108 відповідей чат-ботів на хірургічні питання, які містили 1,249 посилань, найгірші моделі вигадали або не змогли підтвердити від 25% до 34% своїх цитат, а найкращі не вигадали жодної. Лист у The Lancet у травні 2026 року показав, що приблизно одна з 277 нещодавніх статей у PubMed містила вигадані посилання, тоді як у 2023 році це була одна з 2,828. Дослідження Stanford щодо інструментів юридичного пошуку з пошуковим доповненням показало, що вони все одно галюцинували від 17% до 33% випадків. Пошук допомагає, але не завершує справу.

Скільки це коштувало: три випадки

Нью-Йорк, червень 2023 року. У справі Mata v Avianca двоє юристів подали позовну записку з неіснуючими справами, згенерованими ChatGPT, і суд наклав штраф у $5,000. Це був перший широко висвітлений випадок, а нині він лише один із понад 2,200 судових рішень у світі щодо вигаданих ШІ-цитат, які відстежує публічна база юриста Damien Charlotin.

Лондон, червень 2025 року. У справах Ayinde v Haringey та Al-Haroun v Qatar National Bank High Court розглянув одразу два випадки: в одній записці було п'ять неіснуючих справ, в іншій 45 джерел, з яких 18 були вигадані. Голова King's Bench Division написав, що генеративні інструменти «are not capable of conducting reliable legal research» (не здатні проводити надійне юридичне дослідження) і «may cite sources that do not exist» (можуть цитувати неіснуючі джерела), що юристи мають професійний обов'язок «to check the accuracy of such research by reference to authoritative sources» (перевіряти точність такого дослідження за авторитетними джерелами), а наслідки недотримання можуть включати провадження за неповагу до суду та передачу справи поліції. Відтоді Solicitors Regulation Authority випустила попередження (17 серпня 2026 року), де згадано «fictitious cases, references or seemingly factual assertions» (вигадані справи, посилання або нібито фактичні твердження) і нагадано солісіторам, що вони залишаються відповідальними за результат.

Канберра, жовтень 2025 року. Deloitte Australia передала звіт урядовому відомству за контрактом на AU$440,000. Він містив вигадану цитату, приписану судовому рішенню, та посилання на неіснуючі наукові праці. Фірма опублікувала виправлену версію 3 жовтня 2025 року, вперше розкрила, що використовувалася модель Azure OpenAI, і повернула останній платіж приблизно в AU$98,000. Роботу виконала велика професійна фірма з процесом перевірки. Вигадка все одно пройшла, бо ніхто не відкрив посилання.

Жоден із цих людей не був недбалим аматором. Це були зайняті професіонали, які сприйняли гладкий текст як перевірений. Цієї помилки слід уникати, і її можна уникнути.

Що кажуть самі розробники

Документація Anthropic для Claude перелічує стандартні заходи, зокрема дозвіл моделі сказати «I don't know», прохання цитувати перед відповіддю та обмеження наданими документами, і додає, що вони «don't eliminate them entirely. Always validate critical information» (не усувають їх повністю. Завжди перевіряйте важливу інформацію). Її довідкова стаття про неправильні відповіді, оновлена в березні 2026 року, прямо каже, що Claude «can occasionally produce responses that are incorrect or misleading» (іноді може видавати неправильні або оманливі відповіді) і що на нього не можна покладатися як на «a singular source of truth» (єдине джерело істини). Довідкова сторінка OpenAI про те, чи ChatGPT каже правду, говорить те саме: він може вигадувати цитати, тож перевіряйте. ICO у своїй роботі 2024 року про генеративний ШІ зазначив, що навіть точні навчальні дані «will not stop» (не зупинять) моделі від хибних тверджень, а огляд FCA від жовтня 2026 року щодо ШІ у фінансових послугах повторює, що фірми «remain responsible for consumer outcomes» (залишаються відповідальними за результати для споживачів), яким би інструментом їх не створили.

Якщо прочитати це разом, послання від тих, хто будує й регулює ці інструменти, однакове: користуйтеся ними і перевіряйте їх.

7 перевірок, що ловлять галюцинацію

1. Попросіть джерело, потім відкрийте його

Модель охоче видасть посилання на прохання; тест у тому, чи посилання відкривається і чи каже сторінка те, що стверджує модель. У звіті Deloitte посилання були. Ніхто їх не відкрив. Якщо посилання мертве, праці не існує або сторінка каже інше, під сумнівом уся відповідь, а не лише той рядок.

2. Перевіряйте імена, числа, дати й цитати окремо

Ці чотири категорії є місцем, де вигадки концентруються, бо це частини речення, які важко передбачити з контексту. Цитату перевірити найлегше: вставте її в пошукову систему в лапках. Статистика має вести до опитування з вибіркою й датою, так само як цей посібник називає дослідження Royal College of Surgeons і його 1,249 посилань.

3. Запитайте двічі або запитайте другу модель

Факт, який переживає переформулювання, імовірніше є фактом. Поставте те саме питання іншими словами або вставте його в другий продукт (ChatGPT, Claude, Gemini, Microsoft Copilot, Manus чи Muse від Meta поводяться по-різному на той самий запит). Збіг двох моделей не доказ, але розбіжність двох моделей є надійним сигналом перевірити.

4. Дайте їй документ і обмежте відповідь ним

Показники рейтингу вище це найкращий випадок, із наданим джерелом; відтворення з пам'яті гірше. Тож надайте джерело. Додайте договір, таблицю чи норму, скажіть моделі відповідати лише з нього й цитувати використаний рядок, і прочитайте цитату. Якщо вона не може процитувати рядок, відповідь не з документа.

5. Дозвольте їй сказати «не знаю»

Оскільки навчання винагороджує вгадування, потрібно змінити оцінювання в запиті. «Якщо ти не певен, скажи про це і поясни, що мені треба перевірити» є найефективнішим реченням у цьому посібнику; це письмовий еквівалент моделі, що утримується, з таблиці OpenAI, і воно нічого не коштує.

6. Перерахуйте

Мовні моделі передбачають текст; вони не обчислюють, якщо не виконують код. Сума, що розходиться на один рядок, відсоток від неправильної бази, дата з помилкою в рік: усе це виглядає правильним, бо правильне речення навколо. Додайте стовпець самі або попросіть агента, який виконує обчислення в таблиці й показує його.

7. Вважайте гроші, право, здоров'я й репутацію чернеткою

Юристам у Лондоні та консультантам у Канберрі не бракувало розуму; їм бракувало правила. Правило таке: усе, що потрапляє до клієнта, регулятора, кредитора чи суду, є чернеткою, доки названа людина не перевірила факти в ньому. Запишіть це правило, а політика ШІ з матеріалу Політика щодо ШІ для малого бізнесу: безплатний шаблон дає вам його версію на одну сторінку.

Де малий бізнес влипає найчастіше

• Цінові пропозиції й кошториси. Модель, у якої просять «типові ціни», вигадує типові ціни. Користуйтеся власним прайсом або джерелом із цінами.
• Юридичні й податкові формулювання. Пороги, дати й штрафи змінюються щоквітня; пам'ять моделі може бути дворічної давності. Перевіряйте на GOV.UK.
• Дані про постачальників і товари. Номери моделей, сумісність і специфікації є саме тим щільним, важко передбачуваним текстом, який вигадується.
• Відгуки й рекомендації. Ніколи не дозволяйте моделі писати відгук або цитату від клієнта. Окрім того, що вони вигадані, фальшиві відгуки в Великій Британії незаконні за Digital Markets, Competition and Consumers Act 2024.
• Переклади цифр. Коли модель перекладає документ, числа можуть зсунутися. Звіряйте кожну цифру в перекладі з оригіналом.

Як ШІ-агент змінює проблему

Чат-бот дає відповідь і лишає перевірку вам. Агент може виконати частину перевірки як частину роботи, і тому механіка має значення, коли ви його обираєте.

• Він показує свої джерела. Агент, що користується браузером, повертає прочитані сторінки, тож перевірка 1 стає кліком, а не пошуком. Jobbit Research додає джерела до кожного висновку у звіті, який пише.
• Він працює в браузері, за яким можна стежити. Коли агент відкриває сторінку, ви бачите сторінку. Цифру у звіті можна простежити до екрана, звідки вона взялася.
• Він працює з вашими документами. Додайте договір або таблицю в проєкт Jobbit, і агент відповідатиме з файлу, цитуючи рядок, а це перевірка 4, виконана за замовчуванням.
• Він рахує в таблиці, а не в тексті. Попросіть прогноз грошового потоку, і агент побудує таблицю та покаже формули; арифметика відтворювана.
• Він питає, перш ніж витратити чи надіслати. Агент, що зупиняється по схвалення перед відправленням листа, дає перевірці 7 вбудовану зупинку.
• Йому можна наказати утримуватися. Інструкції проєкту на кшталт «скажи, коли не певен, і перелічи, що перевірити» діють у кожному чаті, тож перевірка 5 задається один раз.

ChatGPT, Claude, Gemini, Microsoft Copilot, Manus і Muse від Meta добре складають чернетки, і кілька з них уже шукають в інтернеті та цитують. Чого жоден із них не скасовує, так це остаточної перевірки людиною, і Jobbit теж. Що додає Jobbit, так це людську мережу: коли робота стосується оренди, податкової декларації чи медичної вимоги, агент може передати перевірку перевіреному фахівцю в межах того самого замовлення, а не вам об одинадцятій вечора.

Ваш план на цей тиждень

• Понеділок: запишіть єдине правило. «Усе, що йде клієнту, до HMRC, банку чи суду, є чернеткою, доки названа людина не перевірила факти.» Внесіть його у свою політику щодо ШІ та інструкції проєкту.
• Вівторок: додайте рядок про утримання. Внесіть «якщо не певен, скажи про це і поясни, що перевірити» у постійні інструкції кожного інструмента, яким користуєтеся.
• Середа: виконайте перевірку 1 на минулотижневому результаті. Візьміть три останні документи, написані ШІ, які ви використали, і відкрийте кожне посилання. Порахуйте ті, що не спрацювали.
• Четвер: перенесіть одне завдання в режим «заземлення». Оберіть завдання, де помилки коштують найдорожче, додайте справжні документи й вимагайте цитовані рядки.
• П'ятниця: вирішіть, що ніколи не йде без перевірки. Складіть список (ціни, юридичні формулювання, твердження про здоров'я, цитати клієнтів) і поділіться ним з усіма, хто користується ШІ у вашому бізнесі.

Читайте далі

• Чи безпечно користуватися ШІ? Простий посібник про ваші дані, гроші та шахрайства, на які варто зважати
• 12 помилок початківців із ШІ-агентами і швидке виправлення для кожної
• Як працюють ШІ-агенти? П'ятикроковий цикл за кожним завданням, пояснено просто

Поширені запитання

Чому ШІ вигадує факти?

Бо мовна модель генерує найімовірніші наступні слова, а не перевіряє факти, і бо тести, якими моделі навчають і ранжують, винагороджують упевнене вгадування більше, ніж визнання невпевненості. Дослідники OpenAI у 2025 році описали результат як «overconfident, plausible falsehoods». Плавність і точність створюються одним процесом, тому хибна відповідь читається точно як правильна.

Що таке галюцинація ШІ?

Відповідь, що плавна й правдоподібна, але хибна: вигадана справа, статистика, якої жодне опитування не давало, цитата, якої ніхто не казав, неіснуючий продукт. Це не збій; це звичайна поведінка моделі, яку просять про те, чого вона не знає.

Як часто ChatGPT вигадує?

Залежить від завдання. На публічному тесті «заземлення», прочитаному в жовтні 2026 року, поширені моделі вигадували матеріал приблизно у 4% до 15% переказів документів навіть із наданим джерелом; дослідження цитат у хірургії та праві виявили частку вигадок від 17% до 34% для найгірших. Безпечне припущення: «досить часто, щоб перевіряти кожне ім'я, число, дату й цитату».

Чи можна повністю усунути галюцинації ШІ?

Ні. Надання вихідного документа, прохання про цитати, дозвіл на «не знаю» та агент, що показує джерела, зменшують частку, а власна документація Anthropic каже, що ці заходи «don't eliminate them entirely». Остаточна перевірка всього важливого лежить на людині.

Чи когось штрафували за галюцинації ШІ?

Так. Суд у Нью-Йорку наклав штраф у $5,000 у 2023 році за вигадані справи в записці; High Court у Лондоні у червні 2025 року попередив, що вигадані цитати можуть призвести до провадження за неповагу до суду та передачі справи поліції; а Deloitte Australia повернула останній платіж за урядовим контрактом на AU$440,000 у жовтні 2025 року після того, як у її звіті знайшли вигадані посилання.

Чи надійніший ШІ-агент за чат-бота?

Агент, що користується браузером, цитує джерела й працює з вашими документами, пришвидшує перевірки й полегшує пошук помилок, але все одно потребує людини, яка підпише все, що стосується грошей, права чи здоров'я. Агент Jobbit показує свій браузер і джерела під час роботи та може передати остаточну перевірку перевіреному фахівцю, коли робота цього потребує.