Justicia epistémica y justicia algorítmica: hacia una teoría crítica de la equidad en sistemas automatizados

Resumen

El auge de los sistemas algorítmicos en contextos sociales sensibles —como la justicia penal, el acceso a servicios públicos, el empleo y la salud— ha generado preocupaciones éticas y políticas respecto a su impacto en la equidad, la transparencia y los derechos humanos. La justicia algorítmica, como campo emergente, ha respondido a estos desafíos mediante marcos técnicos y regulatorios centrados en mitigar sesgos, mejorar la explicabilidad de los modelos y garantizar rendición de cuentas. No obstante, tales aproximaciones suelen centrarse en criterios cuantitativos y técnicos, omitiendo una dimensión crucial: las condiciones epistémicas de producción, validación y exclusión del conocimiento en contextos tecnológicamente mediados.
Este artículo propone que para comprender y transformar de forma más profunda las injusticias asociadas a los sistemas algorítmicos es necesario integrar el concepto de justicia epistémica, que aborda cómo ciertos grupos sociales son sistemáticamente desacreditados como fuentes de conocimiento (injusticia testimonial) o carecen de los recursos conceptuales para interpretar y comunicar sus experiencias (injusticia hermenéutica). A partir de un análisis crítico de los marcos actuales de justicia algorítmica, y articulando la teoría de la justicia epistémica con aportes de estudios críticos sobre inteligencia artificial (IA), el artículo argumenta que una verdadera equidad algorítmica requiere no sólo criterios técnicos de corrección, sino también transformaciones en las estructuras de poder cognitivo que configuran quién tiene voz, qué saberes cuentan, y cómo se define la legitimidad del conocimiento.
La propuesta se sitúa en una perspectiva de teoría crítica de la IA que aboga por prácticas de diseño participativo, epistemologías plurales y procesos de deliberación democrática que restituyan la agencia epistémica a comunidades históricamente marginalizadas. El artículo concluye proponiendo un enfoque ampliado de la justicia algorítmica que incluya criterios epistémicos, reconociendo que los sistemas de IA son también sistemas de clasificación y conocimiento, cuya legitimidad debe ser objeto de evaluación democrática y crítica.