Documentos jurídicos generados por AI: qué me traen los clientes
Mi bandeja de entrada tiene un aspecto distinto últimamente. Cada vez con más frecuencia, tanto clientes particulares como empresas me envían un documento con una nota adjunta: «ChatGPT redactó esto. ¿Podría comprobar que todo está en orden?». Los clientes particulares suelen enviar una reclamación o un contrato de arrendamiento. Los empresarios, un contrato con un proveedor o una respuesta a la autoridad tributaria.
El problema es que un documento sólido y uno peligroso parecen igual de convincentes: lenguaje fluido, tono seguro y referencias a apartados concretos de la ley. Sin formación jurídica, no puede distinguirlos.
La gente me pregunta cada vez más si puede utilizar ChatGPT para obtener asesoramiento jurídico. Lo que sigue es mi opinión personal como abogado en ejercicio.
Uso de AI para cuestiones jurídicas: reclamaciones y demandas
Permítame empezar por las buenas noticias. Hay toda una categoría de tareas en las que la AI es realmente útil y en las que pagar a un abogado a menudo tiene poco sentido.
Piense en una reclamación a una tienda por un producto defectuoso, una reclamación de compensación contra una aerolínea por un vuelo retrasado, una carta para pedir al arrendador la devolución de una fianza o una solicitud a un administrador de fincas. Para una empresa, podría tratarse de un recordatorio de pago cortés, una respuesta a una simple reclamación de un cliente o una carta rutinaria a un socio comercial. Lo mismo se aplica a preguntar simplemente qué significa una carta oficial y qué le pide.
En asuntos como estos, las normas son sencillas y están bien documentadas, lo que está en juego es poco y un error puede corregirse. Una herramienta de AI elaborará en un par de minutos un borrador claro y sereno de una reclamación o demanda, y a menudo eso es todo lo que necesita.
Revisión de contratos con AI: qué detecta
La segunda fortaleza de la AI importa tanto a los particulares como a las empresas: es buena trabajando con un documento que ya existe. Pida a un chatbot que revise un contrato en busca de contradicciones y a menudo detectará lo que unos ojos cansados pasan por alto: una cláusula fija un plazo de pago de 14 días, mientras que otra establece una penalización que comienza el décimo día. Pídale que adopte la posición de la otra parte y examine minuciosamente la suya, y tendrá un ensayo rápido antes de una negociación o controversia. También puede mejorar la estructura y el tono de un documento jurídico o carta, traducirlo y ayudarle a preparar preguntas para su abogado.
Por qué la AI no puede sustituir a un abogado: carece de experiencia personal
La AI ha leído más sobre derecho de lo que cualquier abogado leerá en toda su vida. Pero nunca ha hecho nada de ello. Nunca ha estado en un tribunal, nunca ha presentado documentos ante un registro, nunca ha negociado con una contraparte difícil y nunca ha explicado a un banco de dónde procede el dinero de una empresa.
En mi opinión, este es el punto más importante de este artículo. El derecho sobre el papel y el derecho en la práctica están más alejados de lo que la mayoría de las personas ajenas a la profesión cree. La ley puede permitir algo que ningún banco aceptará realmente. Un documento técnicamente correcto puede permanecer un mes ante una autoridad porque el funcionario está acostumbrado a verlo en otro formato. Una norma puede figurar en la legislación y, sin embargo, no aplicarse durante años.
Cuando un cliente me hace una pregunta, mi respuesta se basa en decenas de casos similares que he llevado personalmente, y recuerdo cómo terminó cada uno. Un abogado experimentado también desarrolla criterio e intuición jurídicos: la sensación de que algo no encaja en una operación antes de poder decir exactamente qué es.
La experiencia también le indica qué preguntar. La mitad de mi trabajo en una primera consulta consiste en extraer lo que el cliente no pensó en mencionar: quién es el verdadero propietario, dónde paga impuestos o si la empresa necesita una licencia. Un chatbot responde a la pregunta que se le hizo, incluso cuando debería haberse formulado una pregunta diferente.
La AI no tiene forma de adquirir experiencia. Da consejos y, por regla general, nunca descubre qué ocurrió después: si se aceptó el documento, si se ganó la controversia o si el banco congeló la cuenta. Por eso, el conocimiento de un «abogado de AI» sigue siendo conocimiento libresco, por muy amplio que sea. La experiencia es precisamente aquello por lo que un cliente paga a un abogado, incluso cuando la factura solo dice «redacción de contratos».
Tribunales, operaciones e impuestos: dónde necesita un abogado
Cuanto más se aleja de una reclamación cotidiana, más se evidencia esa falta de experiencia. Me refiero a demandas judiciales y litigios, operaciones sobre participaciones, conflictos entre socios comerciales, herencias con activos en varios países, estructuras fiscales de grupos y actividades sujetas a licencia. Estos asuntos tienen muchas partes interconectadas, y un error en una puede derribar toda la estructura. La AI puede describir cada parte de forma competente de manera aislada, pero no puede reunirlas en una solución que funcione para una persona o empresa concreta.
Un error así suele salir a la luz un año después, cuando ya es demasiado tarde para corregirlo. Conviene tener presente el coste: el asesoramiento jurídico cuesta decenas o cientos de euros, mientras que deshacer las consecuencias cuesta miles, si es que puede hacerse. Tratamos las situaciones típicas en un artículo independiente sobre cuándo necesita asesoramiento jurídico.
Alucinaciones de AI en derecho: citas de casos falsas y normas inventadas
Las herramientas de AI generativa como ChatGPT elaboran sus respuestas principalmente a partir de fuentes abiertas y populares: legislación, artículos y debates en línea. Gran parte de la práctica jurídica y la jurisprudencia se encuentra en otros lugares. Las resoluciones judiciales se guardan en bases de datos separadas con sus propias herramientas de búsqueda, a menudo solo en el idioma local. Las orientaciones de las autoridades están ocultas en documentos que pocas personas leen. Muchas reglas de trabajo existen solo en la mente de quienes las aplican.
La AI no siempre accede a estas capas y no le informa cuando no lo hace. Un abogado que desconoce algo dice: «Necesito comprobarlo». La AI rara vez lo hace y, a veces, cita una disposición o una resolución judicial que no existe. Estas invenciones se conocen como alucinaciones de AI. No es un riesgo teórico: una base de datos pública de tales incidentes ya enumera más de mil casos judiciales en todo el mundo, y en muchos de ellos las citas falsas de casos fueron presentadas por abogados profesionales.
El asesoramiento jurídico debe ser específico de cada jurisdicción, y aquí es donde la AI de uso general es más débil. Según mi experiencia, el problema es peor en países pequeños como Estonia: hay poco material del que basarse, por lo que la AI suele llenar el vacío con la lógica del derecho alemán o estadounidense.
Asesoramiento jurídico de un chatbot: por qué está de acuerdo con usted
Si pregunta: «¿Puedo hacerlo de esta manera?», un chatbot a menudo encontrará una forma de decir que sí. La manera en que formula la pregunta influye mucho en la respuesta. Un buen abogado a veces debe decirle lo que no quiere oír: no puede hacer eso y yo no firmaría esto. Cuando los abogados se equivocan, responden por ello con su reputación y su dinero. Cuando la AI se equivoca, en la práctica no hay nadie a quien exigir responsabilidades.
AI en su empresa: confidencialidad y datos personales
Las empresas afrontan un riesgo adicional. Un empleado que pega en un chatbot un contrato con un socio comercial o datos de clientes puede incumplir un acuerdo de confidencialidad o las normas de protección de datos. La empresa será la responsable. Si las personas de su empresa usan ChatGPT, Gemini o servicios similares, necesita unas sencillas normas internas: qué servicios están aprobados y qué nunca debe cargarse en ellos.
Cómo verificar el asesoramiento jurídico de AI
Entiendo que muchas personas plantearán su cuestión jurídica a la AI de todos modos. Si lo hace, siga al menos unas cuantas reglas.
- Indique desde el principio el país, la fecha y su función. «Estonia, soy arrendatario, una persona particular» o «soy administrador de una empresa» cambia considerablemente la respuesta.
- Exija fuentes y compruébelas en varias rondas. Pida el apartado concreto de la ley, su redacción exacta y un enlace. Después, pida a la AI que verifique los hechos y, por separado, las conclusiones frente a esas fuentes. Repita dos o tres veces. Limitarse a preguntar «¿Está seguro?» es casi inútil: la AI tiene la misma probabilidad de confirmar un error que de abandonar una respuesta correcta. Abra los enlaces clave y léalos usted mismo.
- Compruebe en un chat nuevo y pregunte por los puntos débiles. Dentro de una misma conversación, la AI se deja influir por lo que ya se ha dicho y por su tono: puede defender un error o ceder ante usted cuando tenía razón. Abra un chat nuevo o un servicio distinto y pregunte: «¿De qué maneras podría ser incorrecta esta respuesta?»
- Elimine los datos personales y los secretos comerciales antes de cargar un documento.
AI o un abogado: cómo podemos ayudarle
Una salvedad: todo lo anterior describe la situación actual. Las herramientas mejoran rápidamente y algunas de estas debilidades se atenuarán con el tiempo. La falta de experiencia personal y responsabilidad no lo hará.
Por tanto, mi regla es sencilla: la AI le ayuda a preparar y comprobar, mientras que una persona decide y asume la responsabilidad. Si un documento afecta a dinero, plazos, sus bienes o la situación de su empresa, muéstreselo a un abogado antes de firmarlo o presentarlo.
En Eesti Firma, cada documento lo prepara y revisa un abogado responsable del resultado. Si tiene un documento o una situación sobre la que no está seguro, incluido un contrato o una reclamación redactados por AI, póngase en contacto con nuestros abogados y lo revisaremos juntos.
Los clientes particulares con asuntos de derecho de familia y civil también pueden acudir al despacho de abogados de nuestro grupo, Kalashnikov Õigusbüroo.
