IA y práctica3 min de lectura
Por qué los chatbots inventan fallos, y cómo se arregla de verdad
La alucinación no es un defecto de modales: es estructural. La única salida es que la IA busque en la jurisprudencia y la legislación de fuentes oficiales antes de responder, y que cada cita sea un enlace.
Por Equipo Clausul
Un modelo de lenguaje genérico no «miente»: completa. Cuando le pedís jurisprudencia sobre un tema, produce el texto más probable dado su entrenamiento — y una cita con carátula, sala y fecha es un patrón de texto perfectamente aprendible. El resultado es un fallo con formato impecable que no existe. En Estados Unidos ya hubo abogados sancionados por presentar escritos con precedentes inventados por un chatbot; en Argentina el riesgo es idéntico.
La respuesta corta a «¿cómo se arregla?»: no se arregla con mejores instrucciones. Se arregla cambiando la arquitectura — la IA no debe recordar jurisprudencia, debe buscarla.
Recordar no es lo mismo que buscar
Un chatbot genérico responde desde su memoria de entrenamiento: una foto borrosa de internet, con fecha de corte, donde el derecho argentino es una fracción mínima. Clausul funciona al revés: no responde de memoria, busca antes de responder. Según las fuentes que elegiste, trabaja sobre la jurisprudencia de la Corte Suprema, de los Tribunales Federales y Nacionales, de JUBA y de la Justicia de la Ciudad, la legislación de Infoleg y los avisos societarios del Boletín Oficial, y recién después redacta, con lo que encontró sobre la mesa.
Si el fallo no está en la jurisprudencia de las fuentes oficiales, la respuesta correcta no es una cita plausible: es «no encontré una sentencia publicada sobre esto».
La cita como enlace, no como adorno
El segundo cambio estructural es que cada cita sea verificable en un clic. En Clausul, las referencias aparecen dentro del texto y agrupadas al pie de la respuesta, en la fila de Fuentes. Cada una es un enlace: al pasar el cursor muestra en qué sitio oficial está publicada, y un clic abre el fallo o la norma en su fuente oficial, en una pestaña nueva. Eso invierte la carga de la confianza: no tenés que creerle a la IA — podés controlarla, igual que controlarías el trabajo de un junior.
El razonamiento a la vista
Queda un tercer problema: aunque las fuentes sean reales, ¿cómo sabés que la búsqueda fue seria? Por eso Clausul muestra su recorrido antes de escribir: qué documento está leyendo, en qué fuente busca y qué criterio está relevando. Y elegís el nivel de razonamiento, bajo, medio o alto, según lo que pida la consulta. Si la jurisprudencia está dividida, qué tesis sostener lo decidís vos. La estrategia es tuya; el trabajo pesado, de la máquina.
Clausul no reemplaza el criterio profesional ni constituye asesoramiento jurídico: es una herramienta de investigación y redacción para abogados, que conservan la responsabilidad por el trabajo que firman.
Como toda herramienta de inteligencia artificial, puede equivocarse, y la propia aplicación lo advierte en pantalla: «Clausul AI puede cometer errores. Verificá la información importante». Por eso cada cita abre su fuente oficial.