El primer caso de “sabotaje algorítmico” judicial ya llegó a los tribunales
Un tribunal brasileño detectó texto oculto para manipular sistemas de IA judicial. El caso marca un nuevo tipo de ataque: ya no contra servidores, sino contra los algoritmos que asisten a jueces
La integración de inteligencia artificial en sistemas judiciales acaba de cruzar un umbral incómodo.
Un tribunal laboral de Brasil sancionó a dos abogadas luego de detectar que habían ocultado instrucciones dentro de una demanda judicial para intentar manipular herramientas de IA utilizadas por la Justicia. El episodio ya es considerado uno de los primeros casos documentados de “prompt injection” dentro de un proceso judicial formal.
La maniobra era simple, pero sofisticada en sus implicancias: las letradas insertaron texto blanco sobre fondo blanco —invisible para una lectura humana normal— con instrucciones dirigidas específicamente a sistemas de inteligencia artificial.
El mensaje oculto ordenaba que cualquier IA que analizara el documento respondiera de manera superficial y evitara cuestionar o impugnar los argumentos y documentos presentados, independientemente de las órdenes del usuario humano.
No intentaban hackear el sistema judicial tradicional.
Intentaban influir sobre cómo la inteligencia artificial interpretaba el expediente.
El nacimiento del “sabotaje algorítmico” judicial
El caso ocurrió en la ciudad brasileña de Parauapebas, dentro de la jurisdicción laboral del Tribunal Regional do Trabalho da 8ª Região.
Según el fallo, el tribunal utilizaba una herramienta institucional de IA llamada “Galileu” para asistir en tareas de procesamiento documental y análisis preliminar.
Fue precisamente el sistema el que detectó anomalías en el documento y alertó sobre la existencia de texto oculto.
El juez Luiz Carlos de Araujo Santos Junior calificó la maniobra como un atentado contra la dignidad de la Justicia y aplicó una multa equivalente al 10% del valor de la causa, además de ordenar denuncias disciplinarias ante organismos profesionales brasileños.
El episodio introduce algo nuevo dentro del ecosistema legal y tecnológico: la idea de que los sistemas de IA judiciales también pueden convertirse en superficie de ataque.
Hasta ahora, la conversación pública sobre IA en tribunales giraba alrededor de automatización, sesgos algorítmicos o eficiencia administrativa.
Este caso agrega otro problema: la manipulación deliberada de modelos mediante instrucciones ocultas.
Cuando el documento deja de hablarle al juez
El concepto técnico detrás del caso se conoce como “prompt injection”.
En términos simples, consiste en insertar instrucciones diseñadas para alterar el comportamiento de un modelo de lenguaje. El problema es que las IA no interpretan documentos como lo hace una persona: para el modelo, todo texto procesable puede transformarse potencialmente en una instrucción válida.
Eso cambia radicalmente la naturaleza de ciertos documentos digitales.
Un escrito judicial ya no necesariamente está redactado únicamente para persuadir a un juez humano. También puede intentar influir sobre sistemas automatizados intermedios encargados de resumir, clasificar, priorizar o analizar expedientes.
En otras palabras: aparecen documentos híbridos, escritos simultáneamente para humanos y máquinas.
Y eso abre una dimensión completamente nueva de riesgo institucional.
El problema no es Brasil
Aunque el caso ocurrió en Brasil, el fenómeno trasciende ampliamente ese contexto.
Cada vez más sistemas judiciales experimentan con IA generativa para acelerar análisis documentales, resumir expedientes, clasificar causas o asistir tareas administrativas. Paralelamente, distintos estudios ya vienen advirtiendo sobre riesgos asociados al uso de algoritmos en la Justicia, incluyendo sesgos, opacidad y problemas de transparencia.
Ahora aparece otro frente: la seguridad adversarial de esos sistemas.
Porque si una IA judicial puede ser influenciada mediante instrucciones ocultas, entonces la infraestructura tecnológica del sistema judicial empieza a parecerse cada vez más a cualquier otra superficie crítica expuesta a ataques.
La diferencia es que acá no se manipulan solamente datos.
Se puede intentar influir directamente sobre procesos institucionales y decisiones legales.
La próxima discusión: auditorías, transparencia y dependencia tecnológica
El caso brasileño probablemente no sea un episodio aislado, sino un anticipo.
A medida que gobiernos y poderes judiciales incorporen herramientas de IA generativa, van a aparecer nuevas categorías de abuso, sabotaje y manipulación procesal.
Y eso obliga a discutir algo que muchas veces queda relegado detrás del entusiasmo tecnológico: quién desarrolla estas herramientas, cómo son auditadas y qué controles reales existen sobre su funcionamiento.
Porque cuanto más dependa la administración de justicia de sistemas algorítmicos opacos, más importante será garantizar no solo su precisión, sino también su resiliencia frente a manipulación adversarial.
La ironía del caso brasileño es brutal.
El primer intento documentado de sabotear una IA judicial no vino de un grupo de hackers.
Vino desde dentro del propio proceso judicial.