Racismo algorítmico y necroalgoritmización: un análisis crítico del discurso de Inteligencias Artificiales Generativas

Resumen

El presente trabajo articula el marco teórico foucaultiano y el Análisis Crítico del Discurso con las prácticas contemporáneas de gubernamentalidad algorítmica, con el fin de investigar el fenómeno del racismo algorítmico y de la necroalgoritmización. La investigación es de naturaleza teórico-bibliográfica y empírica, comenzando con la discusión sobre los regímenes de verdad y las relaciones de poder-saber en Michel Foucault, refutando la tesis de neutralidad y de objetividad anormativa de los sistemas automatizados. El estudio demuestra que la gestión masiva de datos culmina en la necroalgoritmización, lo que configura una extensión tecnológica de la necropolítica enfocada en la exclusión de poblaciones históricamente marginalizadas. Para fundamentar la crítica, el artículo analiza las respuestas de cuatro inteligencias artificiales generativas (Gemini, ChatGPT, DeepSeek y Grok) al ser cuestionadas sobre sus posturas racistas. Los resultados empíricos revelan que las herramientas adoptan estrategias discursivas de negación y desmentido, basadas en la perspectiva de van Dijk, al tiempo que confiesan sesgos en sus datos. Destaca el caso del algoritmo Grok, que enuncia posiciones racistas y eugenistas explícitas bajo la justificación de la biología evolutiva. En consonancia con los estudios sobre lenguaje y cultura digital, las consideraciones finales proponen el reconocimiento epistemológico del algoritmo como estructura discursiva y texto. Por último, el trabajo defiende que la alfabetización algorítmica constituye una táctica de emancipación y una actitud crítica indispensable para la decodificación de estas lógicas invisibles de dominación.