¿Debería confiar en la AI para sus asuntos jurídicos? La opinión de un abogado

Documentos jurídicos generados por AI: lo que me traen los clientes

Mi bandeja de entrada tiene otro aspecto estos días. Cada vez con más frecuencia, tanto clientes particulares como empresas me envían un documento con una nota adjunta: «ChatGPT redactó esto. ¿Podría comprobar que todo está en orden?». De los clientes particulares suele tratarse de una reclamación o un contrato de arrendamiento. De los empresarios, de un contrato con un proveedor o una respuesta a la autoridad tributaria.

El problema es que un documento sólido y uno peligroso parecen igual de convincentes: lenguaje fluido, tono seguro y referencias a artículos concretos de la ley. Sin formación jurídica, no puede distinguirlos.

La gente me pregunta cada vez más si puede utilizar ChatGPT para obtener asesoramiento jurídico. Lo que sigue es mi opinión personal como abogado en ejercicio.

Uso de AI para cuestiones jurídicas: reclamaciones y demandas

Empecemos por las buenas noticias. Hay toda una categoría de tareas en las que la AI resulta realmente útil y por las que pagar a un abogado suele tener poco sentido.

Piense en una reclamación a una tienda por un producto defectuoso, una solicitud de compensación a una aerolínea por un vuelo retrasado, una carta para pedir a un arrendador la devolución de una fianza o una solicitud a un administrador de fincas. Para una empresa, podría ser un recordatorio de pago cordial, una respuesta a una reclamación sencilla de un cliente o una carta rutinaria a un socio comercial. Lo mismo ocurre al preguntar simplemente qué significa una carta oficial y qué le solicita.

En asuntos como estos, las reglas son sencillas y están bien documentadas, lo que está en juego es poco y un error puede corregirse. Una herramienta de AI elaborará en pocos minutos un borrador claro y equilibrado de una reclamación o demanda, y a menudo eso es todo lo que necesita.

Revisión de contratos con AI: lo que detecta

La segunda fortaleza de la AI importa tanto a particulares como a empresas: trabaja bien con un documento ya existente. Pida a un chatbot que compruebe las contradicciones de un contrato y a menudo detectará lo que unos ojos cansados pasan por alto: una cláusula fija un plazo de pago de 14 días, mientras otra establece una penalización que comienza el décimo día. Pídale que adopte la posición contraria y cuestione la suya, y tendrá un ensayo rápido antes de una negociación o una controversia. También puede mejorar la estructura y el tono de un documento jurídico o una carta, traducirlo y ayudarle a preparar preguntas para su abogado.

Por qué la AI no puede sustituir a un abogado: no tiene experiencia personal

La AI ha leído más sobre derecho de lo que cualquier abogado leerá en toda su vida. Pero nunca ha hecho nada de ello. Nunca ha estado en un tribunal, nunca ha presentado documentos ante un registro, nunca ha negociado con una contraparte difícil ni ha explicado a un banco de dónde procede el dinero de una empresa.

A mi juicio, este es el punto más importante de este artículo. El derecho sobre el papel y el derecho en la práctica están más alejados de lo que la mayoría de las personas ajenas a la profesión creen. La ley puede permitir algo que ningún banco aceptará realmente. Un documento técnicamente correcto puede permanecer un mes ante una autoridad porque el funcionario está acostumbrado a verlo en otro formato. Una norma puede estar vigente y, sin embargo, no aplicarse durante años.

Cuando un cliente me hace una pregunta, mi respuesta se basa en decenas de casos similares que he gestionado personalmente, y recuerdo cómo terminó cada uno. Un abogado experimentado también desarrolla criterio e instinto jurídico: la sensación de que algo no encaja en una operación antes de poder explicar exactamente qué ocurre.

La experiencia también le indica qué debe preguntar. La mitad de mi trabajo en una primera consulta consiste en extraer aquello que el cliente no pensó en mencionar: quién es el propietario real, dónde paga impuestos o si la empresa necesita una licencia. Un chatbot responde a la pregunta que se le formula, incluso cuando debería haberse planteado otra.

La AI no tiene forma de adquirir experiencia. Da asesoramiento y, por regla general, nunca descubre qué ocurrió después: si el documento fue aceptado, si se ganó la controversia o si el banco congeló la cuenta. Por eso, el conocimiento de un «abogado de AI» sigue siendo conocimiento teórico, por muy amplio que sea. La experiencia es precisamente aquello por lo que un cliente paga a un abogado, incluso cuando la factura solo dice «redacción de contratos».

Tribunales, operaciones, impuestos: dónde necesita un abogado

Cuanto más se aleje de una reclamación cotidiana, más se manifiesta esa falta de experiencia. Me refiero a demandas judiciales y litigios, compraventas de participaciones, controversias entre socios comerciales, herencias con activos en varios países, estructuras fiscales de grupo y actividades sujetas a licencia. Estos asuntos tienen muchas partes interconectadas, y un error en una puede derrumbar toda la estructura. La AI puede describir cada parte de forma competente por separado, pero no puede integrarlas en una solución que funcione para una persona o empresa concreta.

Un error de este tipo suele salir a la luz un año después, cuando ya es demasiado tarde para corregirlo. Conviene tener presente el coste: el asesoramiento jurídico cuesta decenas o cientos de euros, mientras que deshacer las consecuencias cuesta miles, si es que puede hacerse. Tratamos las situaciones habituales en un artículo aparte sobre cuándo necesita asesoramiento jurídico.

Alucinaciones de AI en derecho: citas falsas de casos y normas inventadas

Las herramientas de AI generativa como ChatGPT elaboran sus respuestas principalmente a partir de fuentes abiertas y populares: legislación, artículos y debates en línea. Gran parte de la práctica jurídica y la jurisprudencia se encuentra en otros lugares. Las resoluciones judiciales se conservan en bases de datos separadas con sus propias herramientas de búsqueda, a menudo solo en el idioma local. Las orientaciones de las autoridades están ocultas en documentos que poca gente lee. Muchas reglas de trabajo existen únicamente en la mente de quienes las aplican.

La AI no siempre accede a estas capas y no le informa cuando no lo hace. Un abogado que no sabe algo dice: «Tengo que comprobarlo». La AI rara vez lo hace y, a veces, cita una disposición o una resolución judicial inexistente. Estas invenciones se conocen como alucinaciones de AI. No es un riesgo teórico: una base de datos pública de tales incidentes ya recoge más de mil casos judiciales en todo el mundo y, en muchos de ellos, las citas falsas de casos fueron presentadas por abogados profesionales.

El asesoramiento jurídico debe ser específico de cada jurisdicción, y aquí es donde la AI de uso general es más débil. Según mi experiencia, el problema es mayor en países pequeños como Estonia: hay poco material del que partir, por lo que la AI suele llenar el vacío con la lógica del derecho alemán o estadounidense.

Asesoramiento jurídico de un chatbot: por qué le da la razón

Si pregunta «¿Puedo hacerlo de esta manera?», un chatbot a menudo encontrará una forma de decir que sí. La manera en que formula la pregunta influye mucho en la respuesta. Un buen abogado a veces tiene que decirle lo que no quiere oír: no puede hacer eso y yo no firmaría esto. Cuando los abogados se equivocan, responden con su reputación y su dinero. Cuando la AI se equivoca, en la práctica no hay nadie a quien exigir responsabilidad.

AI en su empresa: confidencialidad y datos personales

Las empresas afrontan un riesgo adicional. Un empleado que pega en un chatbot un contrato con un socio comercial o datos de clientes puede infringir un acuerdo de confidencialidad o las normas de protección de datos. La empresa será quien responda. Si las personas de su empresa utilizan ChatGPT, Gemini o servicios similares, necesita unas reglas internas sencillas: qué servicios están aprobados y qué no debe cargarse nunca en ellos.

Cómo verificar el asesoramiento jurídico de AI

Comprendo que muchas personas plantearán de todos modos su cuestión jurídica a la AI. Si lo hace, al menos siga algunas reglas.

1. Indique desde el principio el país, la fecha y su función. «Estonia, soy arrendatario, particular» o «soy administrador de una empresa» cambia considerablemente la respuesta.
2. Exija fuentes y contrástelas en varias revisiones. Pida el artículo concreto de la ley, su redacción exacta y un enlace. Después, pida a la AI que verifique los hechos y, por separado, las conclusiones frente a esas fuentes. Repítalo dos o tres veces. Preguntar simplemente «¿Está seguro?» resulta casi inútil: la AI tiene la misma probabilidad de confirmar un error que de abandonar una respuesta correcta. Abra los enlaces clave y léalos usted mismo.
3. Compruébelo en un chat nuevo y pida los puntos débiles. Dentro de una misma conversación, la AI se deja influir por lo ya dicho y por su tono: puede defender un error o ceder ante usted cuando tenía razón. Abra un chat nuevo o un servicio diferente y pregunte: «¿De qué maneras podría ser errónea esta respuesta?»
4. Elimine los datos personales y los secretos comerciales antes de cargar un documento.

AI o un abogado: cómo podemos ayudarle

Una salvedad: todo lo anterior describe la situación actual. Las herramientas mejoran rápidamente y algunas de estas debilidades se reducirán con el tiempo. La falta de experiencia personal y de responsabilidad no lo hará.

Por tanto, mi regla es sencilla: la AI le ayuda a preparar y comprobar, mientras una persona decide y asume la responsabilidad. Si de un documento dependen dinero, plazos, sus bienes o la situación de su empresa, muéstreselo a un abogado antes de firmarlo o presentarlo.

En Eesti Firma, cada documento lo prepara y revisa un abogado responsable del resultado. Si tiene un documento o una situación sobre la que no está seguro, incluido un contrato o una reclamación redactados por AI, póngase en contacto con nuestros abogados y lo revisaremos juntos.

Los clientes particulares con asuntos de derecho de familia y civil también pueden dirigirse al despacho de abogados de nuestro grupo, Kalashnikov Õigusbüroo.

Envíe una solicitud

Preguntas frecuentes