Perfiles algorítmicos y democracia: metaidentidades, poder clasificatorio e impugnabilidad en la esfera pública digital

Resumen

La creciente delegación de decisiones a sistemas de inteligencia artificial, en organizaciones públicas y privadas y en plataformas digitales, ha producido clasificaciones que condicionan el acceso, los derechos, las oportunidades y el reconocimiento, muchas veces sin que las personas clasificadas sepan bajo qué criterio han sido evaluadas. Este artículo investiga este fenómeno a partir del concepto de metaidentidad, entendida como la clasificación que una infraestructura sociotécnica atribuye a alguien por deducción, conserva como referencia y utiliza para tratarlo de manera diferente, y plantea la cuestión de por qué la posibilidad de impugnar decisiones automatizadas, formalmente garantizada en el derecho administrativo, no alcanza al criterio que las produjo. El argumento se desarrolla en tres planos articulados. En el plano teórico, se distinguen cuatro modos de existencia de una clasificación, a partir de su uso corriente, archivo, referencia y registro documental. A partir de ello, se demuestra que solo el registro documental se convierte en objeto de impugnación, aunque, al derivar de los demás, seleccione aquello que informa, sin que ningún instrumento de control verifique su fidelidad respecto de lo que efectivamente operó. En el plano empírico, un estudio publicado que comparó clasificaciones humanas y algorítmicas de 150 obras audiovisuales revela el mecanismo central a partir de la compresión de categorías particulares en etiquetas amplias y reutilizables, lo que hace inarticulable la alegación de singularidad. En el plano documental, la reconstrucción del caso brasileño del Sistema Córtex (2018–2026), la mayor plataforma estatal de integración de datos y vigilancia, demuestra, a partir de fuentes primarias, cómo la asimetría en la posibilidad de impugnación puede ser producida por la propia forma jurídica. Se concluye que la disputa democrática sobre las decisiones automatizadas depende menos de ampliar los procedimientos de recurso, ya existentes, que de hacer auditable la correspondencia entre el criterio registrado y el criterio aplicado.