La inteligencia artificial puede inventar datos, cifras o citas legales con total seguridad, un fallo conocido como "alucinación". Si tu empresa usa herramientas como ChatGPT para redactar documentos, informes o reclamaciones sin comprobar la información, corres el riesgo de difundir errores graves, como le ocurrió a un abogado español multado por ello en agosto de 2026.
Imagina pedirle a ChatGPT que te ayude a preparar un recurso judicial y confiar en el resultado sin revisarlo. Es justo lo que hizo un abogado canario, que presentó 48 citas de sentencias del Tribunal Supremo que, simplemente, no existían. El tribunal se lo hizo pagar con una multa. Y no es un caso aislado: ya les ha pasado antes a abogados en España, Estados Unidos y otros países.
¿Qué ha cambiado exactamente?
El Tribunal Superior de Justicia de Canarias ha multado con 450 euros a un abogado que presentó un recurso con 48 citas de sentencias del Tribunal Supremo y un informe del Consejo General del Poder Judicial que ChatGPT se había inventado. El letrado nunca comprobó los datos contra el Cendoj, la base de jurisprudencia gratuita y de acceso público.
No es el único caso reciente: en julio de 2026, el Tribunal Superior de Xustiza de Galicia impuso una multa de 1.800 euros por 24 referencias inventadas en un recurso laboral, alegando falta de "control humano consciente y efectivo", según la Instrucción 2/2026 del CGPJ. Antes, casos similares ya se habían dado en Nueva York, Alabama y Utah.
El problema va más allá de un despiste puntual. Según el estudio Large Legal Fictions de Stanford RegLab, sobre 800.000 preguntas jurídicas verificables, las tasas de invención de datos alcanzan entre el 58% y el 88% según el modelo usado. Ni siquiera las herramientas jurídicas de pago se libran del todo.
¿Qué significa esto para tu empresa?
Aunque este caso es del ámbito legal, el riesgo es el mismo para cualquier pyme que use IA generativa para redactar documentos, contratos, informes o comunicaciones: la herramienta puede presentar datos falsos con la misma seguridad que los verdaderos, y a simple vista no se nota la diferencia.
Piensa en una gestoría que usa IA para redactar un informe fiscal con referencias a normativa, una clínica dental que genera contenido informativo para pacientes citando estudios, o una constructora que prepara un pliego con datos técnicos sugeridos por un asistente de IA. En los tres casos, un dato inventado que pase sin revisar puede acabar en una sanción, una reclamación de un cliente o un problema contractual.
El caso del Tribunal Superior de Justicia de Canarias deja claro que los tribunales ya no aceptan el "me lo dijo la IA" como excusa. Y según el estudio de Stanford Law, incluso las herramientas de IA especializadas y de pago fallan entre un 17% y un 43% de las veces al citar datos concretos.
La buena noticia es que el problema no está en usar IA, sino en usarla sin un proceso de revisión. Las empresas que sí funcionan bien con estas herramientas son las que las tratan como un asistente que acelera el primer borrador, nunca como la fuente final de verdad.
Cómo empezar hoy
- Verifica siempre los datos, cifras, nombres y referencias que te dé una IA antes de enviarlos a un cliente, publicarlos o incluirlos en un documento oficial.
- Cruza la información con una fuente oficial cuando el documento tenga consecuencias legales, fiscales o contractuales (registros públicos, normativa, webs oficiales del sector).
- Establece un protocolo interno sencillo: ningún documento generado con IA sale de la empresa sin una revisión humana previa.
- Forma a tu equipo en qué puede y qué no puede hacer bien la IA generativa, para que la usen con criterio y no como un oráculo infalible.
Preguntas frecuentes
¿Puedo usar ChatGPT para redactar documentos de mi empresa? Sí, es una herramienta muy útil para acelerar borradores. Pero siempre debes revisar cifras, nombres, normativa y referencias antes de enviarlos o firmarlos, porque puede inventar información con total naturalidad.
¿Qué es una "alucinación" de la inteligencia artificial? Es cuando una IA generativa produce información falsa —una cita, una cifra, un hecho— de forma convincente y segura, sin que el usuario lo note a simple vista si no lo comprueba con una fuente fiable.
¿Cómo evito que la IA cometa estos errores en mi negocio? Estableciendo una revisión humana obligatoria antes de enviar cualquier documento generado con IA, verificando los datos importantes contra fuentes oficiales y formando a tu equipo en un uso responsable de estas herramientas.
En AMINGROWTH ayudamos a pymes y autónomos a implementar la inteligencia artificial en su día a día con criterio: eligiendo las herramientas adecuadas, definiendo protocolos de revisión y formando a los equipos para usarla sin sustos, además de gestionar la bonificación FUNDAE de esa formación. ¿Tu empresa ya tiene un protocolo para revisar lo que genera la IA antes de usarlo?
Fuentes: Xataka · Poder Judicial · Stanford Law School
Escrito por
AMINGROWTH
Especialistas en formación e implementación de IA para empresas españolas. Gestionamos la bonificación FUNDAE sin coste adicional.