Por qué la IA se inventa cosas: 7 pruebas para detectarlo

La IA se inventa cosas porque un modelo de lenguaje está diseñado para producir las palabras siguientes más probables, no para comprobar si son ciertas, y porque la forma en que se entrenan y puntúan los modelos premia una conjetura segura de sí misma frente a un honesto "no lo sé". Esta guía explica el mecanismo en lenguaje claro, con qué frecuencia ocurre en los modelos actuales, lo que costó a tres firmas y las siete pruebas que lo detectan.

Seguro que lo has visto: el chatbot que cita una norma que no existe, recoge una estadística que ninguna encuesta produjo o menciona un proveedor que no encuentras. Se llama alucinación y no es un fallo que la próxima actualización vaya a eliminar. Los propios investigadores de OpenAI escribieron en septiembre de 2025 que los modelos producen "falsedades verosímiles y demasiado seguras" porque su entrenamiento y su evaluación "premian adivinar frente a reconocer la incertidumbre". Entender por qué la IA se inventa cosas marca la diferencia entre una herramienta que te ahorra un día a la semana y otra que pone una cifra falsa delante de un cliente, un banco o un tribunal.

Lo que sigue es la explicación que necesita un propietario ocupado, no una clase de informática: cómo funciona realmente la máquina, dónde se concentran los errores, tres casos reales con la factura incluida, lo que dicen los propios fabricantes y las siete pruebas. La última sección explica cómo cambia el problema un agente de IA que muestra sus fuentes y su navegador, y qué sigue sin poder hacer por ti.

Cómo hemos comprobado esta guía

1. Solo fuentes primarias para el mecanismo: el artículo de investigación de OpenAI del 4 de septiembre de 2025 y las declaraciones de los reguladores que citan a los fabricantes.
2. Tasas medidas en una clasificación pública consultada el 22 de octubre de 2026, con su método indicado, porque una tasa de alucinación sin método es en sí misma una especie de alucinación.
3. Registros judiciales y gubernamentales para los tres casos, no resúmenes de prensa.
4. Las páginas de ayuda de los propios fabricantes para saber qué dicen ChatGPT y Claude sobre sus límites.
5. Pruebas que una persona sin conocimientos técnicos puede hacer en menos de un minuto, sin más herramienta que un buscador.

Qué es una alucinación y por qué ocurre

Un gran modelo de lenguaje funciona prediciendo el texto que con más probabilidad sigue al texto que ha recibido. Cuando la Solicitors Regulation Authority (SRA, el regulador de los abogados en Inglaterra y Gales) advirtió a la profesión jurídica en noviembre de 2023, lo dijo con claridad: estas herramientas "funcionan anticipando el texto que debería seguir a lo que se les da, pero no tienen un concepto de 'realidad'". Si pides un caso que respalde tu argumento, el modelo produce algo con forma de caso: un nombre verosímil, un año verosímil, una cita verosímil. Nada en su interior comprueba si el caso existe, porque nada en su interior se diseñó para ello.

La segunda causa es cómo se puntúan los modelos. En su artículo de septiembre de 2025 "Why language models hallucinate", cuatro investigadores de OpenAI demostraron que las pruebas habituales premian una respuesta segura de sí misma y no dan nada por admitir incertidumbre, de modo que "con una puntuación binaria, abstenerse es estrictamente subóptimo". Un modelo que adivina obtiene más puntos que uno que dice no saber, igual que un estudiante que adivina en un examen tipo test supera a otro que deja la pregunta en blanco. El hábito de adivinar se aprende, y se aprende porque gana.

Las cifras que OpenAI publicó junto con el artículo hacen visible este equilibrio. En una prueba de conocimientos factuales, un modelo ajustado para abstenerse se negó a responder el 52% de las preguntas, acertó el 22% y falló el 26%; un modelo anterior que casi nunca se abstenía acertó el 24% y falló el 75%. Menos respuestas erróneas procedían de más "no lo sé", no de más conocimiento. Esa es toda la historia en una tabla, y por eso las pruebas de más abajo empiezan por dar permiso para decir que no.

Con qué frecuencia ocurre en 2026

La respuesta honesta es "lo bastante a menudo como para comprobarlo, siempre". La clasificación de alucinaciones de Vectara, actualizada el 22 de octubre de 2026, puntúa a los modelos en una tarea muy concreta: resumir un documento que se les ha entregado y contar con qué frecuencia el resumen contiene algo que el documento no dice. Incluso con los datos delante, los modelos más extendidos inventaron contenido en una proporción medible de los resúmenes.

Destacan dos cosas. Más nuevo y más grande no significa más seguro: la configuración GPT-5 de agosto de 2025 obtuvo peor resultado que GPT-4o, un año más antiguo, en esta prueba. Y estas son cifras con la fuente suministrada; cuando el modelo tiene que recordar datos de memoria, las tasas son más altas.

Los estudios especializados coinciden. Investigadores que escribían en los Annals of the Royal College of Surgeons of England informaron en abril de 2026 de que, en 108 respuestas de chatbots a preguntas quirúrgicas, con 1,249 referencias, los peores modelos fabricaron o no pudieron respaldar entre el 25% y el 34% de sus citas, mientras que los mejores no produjeron ninguna. Una carta en The Lancet publicada en mayo de 2026 halló que aproximadamente uno de cada 277 artículos recientes de PubMed contenía referencias fabricadas, frente a uno de cada 2,828 en 2023. Un estudio de Stanford sobre herramientas de investigación jurídica que usan recuperación de documentos comprobó que aun así alucinaban entre el 17% y el 33% de las veces. La recuperación ayuda; no termina el trabajo.

Lo que ha costado: tres casos

Nueva York, junio de 2023. En Mata v Avianca, dos abogados presentaron un escrito con casos que no existían, generados por ChatGPT, y el tribunal impuso una sanción de $5,000. Fue el primer caso ampliamente divulgado y hoy es una de las más de 2,200 resoluciones judiciales de todo el mundo que implican citas de IA fabricadas, recogidas en una base de datos pública mantenida por el abogado Damien Charlotin.

Londres, junio de 2025. En Ayinde v Haringey y Al-Haroun v Qatar National Bank, la High Court (el Tribunal Superior de Inglaterra y Gales) resolvió dos casos a la vez: un escrito citaba cinco casos que no existían y el otro citaba 45 autoridades, de las cuales 18 eran inventadas. El presidente de la King's Bench Division escribió que las herramientas generativas "no son capaces de realizar investigación jurídica fiable" y "pueden citar fuentes que no existen", que los abogados tienen el deber profesional de "comprobar la exactitud de dicha investigación recurriendo a fuentes autorizadas" y que las consecuencias de no hacerlo pueden incluir procedimientos por desacato y la remisión a la policía. Desde entonces, la Solicitors Regulation Authority ha emitido un aviso (17 de agosto de 2026) que menciona "casos, referencias o afirmaciones aparentemente factuales ficticios" y recuerda a los abogados que siguen siendo responsables del resultado.

Canberra, octubre de 2025. Deloitte Australia entregó un informe a un departamento del gobierno en virtud de un contrato por valor de AU$440,000. Contenía una cita fabricada atribuida a una sentencia judicial y referencias a artículos académicos que no existían. La firma publicó una versión corregida el 3 de octubre de 2025, reveló por primera vez que se había usado un modelo de Azure OpenAI y devolvió el último plazo, de aproximadamente AU$98,000. El trabajo lo hizo una gran firma profesional con un proceso de revisión. Aun así, la invención se coló, porque nadie abrió las referencias.

Ninguna de estas personas era un aficionado descuidado. Eran profesionales ocupados que trataron un texto fluido como si fuera un texto comprobado. Ese es el error que hay que evitar, y es evitable.

Lo que dicen los propios fabricantes

La documentación de Anthropic para Claude enumera las mitigaciones habituales, entre ellas permitir que el modelo diga "no lo sé", pedirle que cite antes de responder y limitarlo a los documentos suministrados, y a continuación añade que "no las eliminan por completo. Valida siempre la información crítica". Su artículo de soporte sobre respuestas incorrectas, actualizado en marzo de 2026, dice claramente que Claude "puede producir en ocasiones respuestas incorrectas o engañosas" y que no debe usarse como "única fuente de verdad". La página de ayuda de OpenAI sobre si ChatGPT dice la verdad afirma lo mismo: puede fabricar citas y conviene verificar. La ICO (la autoridad británica de protección de datos), en su trabajo de 2024 sobre IA generativa, señaló que ni siquiera unos datos de entrenamiento exactos "impedirán" que los modelos produzcan afirmaciones falsas, y la revisión de la FCA (el regulador financiero británico) de octubre de 2026 sobre la IA en los servicios financieros repite que las empresas "siguen siendo responsables de los resultados para el consumidor" sea cual sea la herramienta que los produjo.

Leído en conjunto, el mensaje de quienes construyen y regulan estas herramientas es coherente: úsalas y compruébalas.

Las 7 pruebas que detectan una alucinación

1. Pide la fuente y ábrela

Un modelo producirá de buen grado una referencia si se la pides; la prueba es si la referencia se abre y dice lo que el modelo afirma que dice. El informe de Deloitte tenía referencias. Nadie las abrió. Si el enlace está roto, el artículo no existe o la página dice algo distinto, toda la respuesta resulta sospechosa, no solo esa línea.

2. Verifica por separado nombres, cifras, fechas y citas

Estas cuatro categorías son donde se concentra la invención, porque son las partes de una frase más difíciles de predecir por el contexto. Una cita es lo más fácil de comprobar: pégala en un buscador entre comillas. Una estadística debería llevar a una encuesta con muestra y fecha, igual que esta guía nombra el estudio del Royal College of Surgeons y sus 1,249 referencias.

3. Pregunta dos veces, o a un segundo modelo

Un dato que sobrevive a una reformulación tiene más probabilidades de ser un dato. Haz la misma pregunta con otras palabras o pégala en un segundo producto (ChatGPT, Claude, Gemini, Microsoft Copilot, Manus o Muse de Meta se comportan de forma distinta con la misma instrucción). Que dos modelos coincidan no es una prueba, pero que discrepen es una señal fiable para comprobar.

4. Dale el documento y acótalo

Las cifras de la clasificación anterior son el mejor caso, con la fuente suministrada; recordar de memoria es peor. Así que suministra la fuente. Adjunta el contrato, la hoja de cálculo o la norma, dile al modelo que responda solo a partir de ella y que cite la línea que ha usado, y lee la cita. Si no puede citar una línea, la respuesta no salió del documento.

5. Dale permiso para decir "no lo sé"

Como el entrenamiento premia adivinar, tienes que cambiar la puntuación en la instrucción. "Si no estás seguro, dilo e indícame qué tendría que comprobar" es la frase más eficaz de esta guía; es el equivalente escrito del modelo que se abstiene en la tabla de OpenAI, y no te cuesta nada.

6. Rehaz las cuentas

Los modelos de lenguaje predicen texto; no calculan a menos que ejecuten código. Un total que se desvía por una línea, un porcentaje sobre la base equivocada, una fecha desfasada un año: parecen correctos porque la frase que los rodea lo es. Suma tú mismo la columna, o pide a un agente que ejecute el cálculo en una hoja de cálculo y lo muestre.

7. Trata el dinero, la ley, la salud y la reputación como borrador

A los abogados de Londres y a los consultores de Canberra no les faltaba inteligencia; les faltaba una regla. La regla es que todo lo que llegue a un cliente, un regulador, un prestamista o un tribunal es un borrador hasta que una persona concreta haya comprobado los hechos. Deja esa regla por escrito; la política de IA de Política de IA para pequeñas empresas: una plantilla gratuita te da la versión de una página.

Dónde caen más las pequeñas empresas

• Presupuestos y estimaciones. Un modelo al que se piden "precios típicos" inventa precios típicos. Usa tu propia tarifa o una fuente con precios.
• Redacción jurídica y fiscal. Los umbrales, las fechas y las sanciones cambian cada abril; la memoria del modelo puede tener dos años. Consulta GOV.UK.
• Datos de proveedores y productos. Los números de modelo, la compatibilidad y las especificaciones son justo el texto denso y difícil de predecir que se acaba fabricando.
• Reseñas y testimonios. Nunca dejes que un modelo escriba una reseña o una cita de un cliente. Además de ser inventadas, las reseñas falsas son ilegales en el Reino Unido según la Digital Markets, Competition and Consumers Act 2024.
• Traducciones de cifras. Cuando un modelo traduce un documento, los números pueden cambiar. Comprueba cada cifra de la versión traducida con el original.

Cómo cambia el problema un agente de IA

Un chatbot te da una respuesta y te deja la comprobación a ti. Un agente puede hacer parte de la comprobación como parte del trabajo, por eso importa la mecánica cuando eliges uno.

• Muestra sus fuentes. Un agente que navega devuelve las páginas que ha leído, así que la prueba 1 pasa a ser un clic en lugar de una búsqueda. Jobbit Research adjunta las fuentes a cada hallazgo del informe que redacta.
• Funciona en un navegador que puedes ver. Cuando el agente abre una página, ves la página. Una cifra del informe se puede rastrear hasta la pantalla de la que procede.
• Trabaja con tus documentos. Adjunta el contrato o la hoja de cálculo en un proyecto de Jobbit y el agente responde a partir del archivo, con la línea citada, que es la prueba 4 hecha por defecto.
• Hace las cuentas en una hoja de cálculo, no en prosa. Pide una previsión de flujo de caja y el agente construye la hoja y muestra las fórmulas; la aritmética es reproducible.
• Pregunta antes de gastar o enviar. Un agente que se detiene a pedir aprobación antes de enviar un correo da a la prueba 7 una parada integrada.
• Se le puede indicar que se abstenga. Instrucciones de proyecto como "avisa cuando no estés seguro y enumera qué hay que verificar" se aplican a todos los chats, así que la prueba 5 se configura una sola vez.

ChatGPT, Claude, Gemini, Microsoft Copilot, Manus y Muse de Meta redactan bien, y varios ya navegan y citan. Lo que ninguno elimina es la comprobación final por parte de una persona, y Jobbit tampoco. Lo que Jobbit añade es una red humana: cuando el trabajo es un contrato de alquiler, una declaración de impuestos o una reclamación médica, el agente puede pasar la comprobación a un profesional verificado dentro del mismo pedido, en lugar de dejártela a ti a las once de la noche.

Tu plan para esta semana

• Lunes: escribe la regla única. "Todo lo que llegue a un cliente, HMRC, un banco o un tribunal es un borrador hasta que una persona concreta haya comprobado los hechos." Inclúyela en tu política de IA y en las instrucciones de tus proyectos.
• Martes: añade la frase de abstención. Pon "si no estás seguro, dilo e indícame qué comprobar" en las instrucciones permanentes de cada herramienta que uses.
• Miércoles: aplica la prueba 1 al resultado de la semana pasada. Toma los tres últimos documentos redactados con IA que hayas usado y abre cada referencia. Cuenta las que fallan.
• Jueves: pasa un trabajo al modo con fuentes. Elige la tarea en la que los errores cuestan más, adjunta los documentos reales y exige líneas citadas.
• Viernes: decide qué no sale nunca sin comprobar. Haz la lista (precios, redacción jurídica, afirmaciones sobre salud, citas de clientes) y compártela con quien use IA en tu negocio.

Sigue leyendo

• ¿Es seguro usar la IA? Una guía clara sobre tus datos, tu dinero y las estafas que vigilar
• 12 errores de los principiantes con los agentes de IA, y el arreglo rápido para cada uno
• ¿Cómo funcionan los agentes de IA? El bucle de 5 pasos detrás de cada tarea, explicado con sencillez

Preguntas frecuentes

¿Por qué la IA se inventa cosas?

Porque un modelo de lenguaje genera las palabras siguientes más probables en lugar de comprobar los hechos, y porque las pruebas usadas para entrenar y clasificar los modelos premian una conjetura segura de sí misma frente a admitir la incertidumbre. Los propios investigadores de OpenAI describieron el resultado en 2025 como "falsedades verosímiles y demasiado seguras". La fluidez y la exactitud se producen con el mismo proceso, por eso una respuesta equivocada se lee exactamente igual que una correcta.

¿Qué es una alucinación de la IA?

Una respuesta fluida y verosímil pero falsa: un caso inventado, una estadística que ninguna encuesta produjo, una cita que nadie dijo, un producto que no existe. No es un fallo puntual; es el comportamiento normal de un modelo al que se le pide algo que no sabe.

¿Con qué frecuencia se inventa cosas ChatGPT?

Depende de la tarea. En una prueba pública con fuente consultada en octubre de 2026, los modelos más extendidos inventaron contenido en aproximadamente entre el 4% y el 15% de los resúmenes de documentos, incluso con la fuente suministrada; los estudios sobre citas en cirugía y derecho hallaron tasas de invención de entre el 17% y el 34% en los peores casos. La suposición segura es "lo bastante a menudo como para comprobar cada nombre, cifra, fecha y cita".

¿Se pueden evitar por completo las alucinaciones de la IA?

No. Suministrar el documento fuente, pedir citas, permitir el "no lo sé" y usar un agente que muestre sus fuentes reducen la tasa, y la propia documentación de Anthropic dice que estas medidas "no las eliminan por completo". La comprobación final de lo que importa la hace una persona.

¿Ha multado alguien a alguien por alucinaciones de la IA?

Sí. Un tribunal de Nueva York impuso una sanción de $5,000 en 2023 por casos falsos en un escrito; la High Court de Londres advirtió en junio de 2025 de que las citas fabricadas pueden acarrear procedimientos por desacato y la remisión a la policía; y Deloitte Australia devolvió el último plazo de un contrato gubernamental de AU$440,000 en octubre de 2025 después de que se descubriera que su informe contenía referencias inventadas.

¿Es un agente de IA más fiable que un chatbot?

Un agente que navega, cita sus fuentes y trabaja con tus documentos hace las pruebas más rápidas y los errores más fáciles de rastrear, pero sigue necesitando que una persona dé el visto bueno a todo lo que afecte al dinero, la ley o la salud. El agente de Jobbit muestra su navegador y sus fuentes mientras trabaja, y puede pasar la comprobación final a un profesional verificado cuando el trabajo lo requiere.