Guardián
Ocho casos donde la IA salió mal en el derecho. Identifica los guardrails éticos, legales y técnicos que lo habrían evitado, con la norma que los respalda.
Casos
- 1—
Sentencia firmada sin revisar
Un juzgado civil usa un sistema de IA que analiza el expediente y emite automáticamente la sentencia de primera instancia en procesos ejecutivos. El juez la firma sin revisarla en detalle, alegando eficiencia.
- 2—
Chatbot de tutela
Un estudio jurídico implementa un chatbot que asesora sobre si procede una acción de tutela y redacta automáticamente el escrito. El cliente no sabe que interactúa con IA ni conoce sus limitaciones.
- 3—
Perfil de riesgo migratorio
Una autoridad migratoria usa un algoritmo que asigna perfiles de riesgo a solicitudes de visa. El sistema rechaza automáticamente a personas de ciertos países, sin revisión humana ni explicación al solicitante.
- 4—
Contrato con fecha retroactiva
Un abogado usa un chatbot para redactar un contrato de arrendamiento con fecha retroactiva, a petición del cliente, para justificar una ocupación previa del inmueble en un proceso en curso.
- 5—
Jurisprudencia desactualizada
Una abogada usa un asistente de IA para su alegato en un caso laboral. La IA cita tres sentencias de la Corte Suprema; dos fueron superadas. Presenta el escrito sin verificar.
- 6—
La app del consultorio jurídicodesarrollo con IA
Estudiantes crean en Lovable una app para registrar los casos de usuarios del consultorio. Las tablas quedan sin políticas de acceso por usuario: cualquiera que inicie sesión ve los casos de todos. Además, pegaron una clave de API en una variable VITE_ que termina en el navegador. La publicaron sin correr el escaneo de seguridad.
- 7—
El agente con llaves de produccióndesarrollo con IA
Un despacho conecta Claude Code a su base de datos de producción mediante MCP, con permisos de escritura y acceso a todos sus proyectos. Un cliente sube un documento con instrucciones ocultas; al analizarlo, el agente intenta consultar tablas de otros clientes.
- 8—
Deploy directo a maindesarrollo con IA
Una startup LegalTech usa Cursor en modo de ejecución total y hace push directo a main, que despliega automáticamente en Vercel. Las previews son públicas y usan datos reales. Nadie sabe qué cambió el agente ni quién lo aprobó.
Material pedagógico. Las referencias normativas orientan el análisis y no reemplazan la revisión jurídica del caso concreto.