Perfis algorítmicos e democracia: meta-identidades, poder classificatório e contestabilidade na esfera pública digital

Resumo

A crescente delegação de decisões a sistemas de inteligência artificial, em organizações públicas e privadas e em plataformas digitais, tem produzido classificações que condicionam acesso, direitos, oportunidades e reconhecimento, muitas vezes sem que os classificados saibam sob que critério foram avaliados. Este artigo investiga esse fenômeno a partir do conceito de meta-identidade, que é a classificação que uma infraestrutura sociotécnica atribui a alguém por dedução, conserva como referência e utiliza para tratá-lo de modo diferente e levanta o questionamento de porque a possibilidade de contestar decisões automatizadas, formalmente assegurada no direito administrativo, não alcança o critério que as produziu. O argumento se desenvolve em três planos articulados. No plano teórico, distinguem-se quatro modos de existência de uma classificação, a partir do uso corrente, arquivo, referência e registro documental.  A partir disso, se mostrou que apenas o registro documental se torna recorrível, ainda que, por derivar dos demais, selecione o que informa, sem que instrumento algum de controle verifique sua fidelidade ao que efetivamente operou. No plano empírico, um estudo publicado que comparou classificações humanas e algorítmicas de 150 obras audiovisuais revela o mecanismo central a partir da compressão de categorias particulares em rótulos amplos e reutilizáveis, que torna inarticulável a alegação de singularidade. No plano documental, a reconstituição do caso brasileiro do Sistema Córtex (2018–2026), maior plataforma estatal de integração de dados e vigilância, demonstra, em fonte primária, como a assimetria de contestabilidade pode ser produzida pela própria forma legal. Conclui-se que a disputa democrática sobre decisões automatizadas depende menos de ampliar procedimentos de recurso, já existentes, do que de tornar auditável a correspondência entre o critério registrado e o critério aplicado.