La irrupción de la Inteligencia Artificial no es solo un fenómeno técnico, sino una reconfiguración de las relaciones de poder en la sociedad digital. Frente al relato hegemónico y tecnófilo que la presenta como un acompañante del progreso, se alza una pregunta crítica: ¿la IA nos acompaña en nuestro desarrollo o, por el contrario, nos adelanta, definiendo y constriñendo el horizonte de lo posible antes de que podamos siquiera interrogarlo?

Resulta lógico caer en el análisis que Zuboff (2019) proponía al respecto de las amenazas de la sociedad digital: la colmena controlada e interconectada pierde su libertad al estar vigilados, en este caso por una promesa de personalización atada a los algoritmos opacos. Si el capitalismo de vigilancia opera mediante la extracción de experiencia humana, la IA constituye su maquinaria de predicción y modulación conductual más avanzada. A su vez, la Inteligencia Artificial tampoco se libra del oscurantismo —una opacidad estratégica, quizá— tras la protección de los sistemas de empresas como Meta o Google: limitan así nuestra comprensión acerca de cómo moldean la información, la opinión pública o incluso oportunidades vitales. De este modo, el control ya no es tanto ilusorio, sino una materialización de barreras aparentemente infranqueables para la auditoría pública a través de la arquitectura algorítmica de las plataformas.

La pregunta parece estribar no tanto en predecir hacia dónde nos dirige la potencialidad de la Inteligencia Artificial, sino en qué harán las empresas con ello. Ante esto, han surgido distintas estrategias de resistencia que, aunque complementarias en teoría, revelan un ecosistema de contrapoder aún fragmentado. En un extremo, proyectos como el liderado por Claudio Agosti, AI Forensics, encarnan un hactivismo forense: crean herramientas de ingeniería inversa que, desde fuera del sistema, buscan evidenciar sesgos en tiempo real para la acción pública directa, mapeando sesgos y patrones de contenido. Este enfoque contrasta con la auditoría científico-social propuesta por Sandvig et al. (2014), que adapta metodologías experimentales de las ciencias sociales para producir hallazgos reproducibles y académicamente legitimados. En un plano estratégico distinto, iniciativas como Digital Future Society (2024) operan bajo una lógica de gobernanza multiactor. Su misión se ejemplifica en el siguiente planteamiento:

una iniciativa transnacional sin ánimo de lucro que conecta a responsables políticos, organizaciones cívicas, expertos académicos y empresarios para explorar, experimentar y explicar cómo se pueden diseñar, usar y gobernar las tecnologías a fin de crear las condiciones adecuadas para una sociedad más inclusiva y equitativa. (Digital Future Society, 2024, p. 2)

Esta triangulación de estrategias (el hactivismo forense, la auditoría académica y la diplomacia tecnológica) demuestra que la respuesta a la opacidad —aun si permite identificar discriminaciones, manipulaciones o riesgos sistémicos— no es unívoca. Sin embargo, su efectividad colectiva se ve mermada por una división tácita: la evidencia concreta generada por el hactivismo y la academia no siempre alimenta los marcos de gobernanza, y estos últimos rara vez exigen la auditabilidad técnica constante que haría posible un control real. De este modo, esfuerzos como estos demuestran que, pese a los recursos limitados, la sociedad civil y académica pueden presentar contrapoderes técnicos, pero también revelan su asimetría estructural y su falta de integración.

Es necesario, entonces, que la transparencia provenga de las propias empresas y que sea regulatoria e impuesta. Con dichos estándares de auditabilidad integrados en el diseño de los algoritmos y a través de una alfabetización digital crítica, los ciudadanos podrán comprender y cuestionar el poder algorítmico y el carácter de la IA: un loro probabilístico que te ofrece los tokens esperados.

Por tanto, la pregunta «¿nos acompaña o nos adelanta?» encuentra su respuesta en el “campo de batalla” de la transparencia. Mientras la agencia humana dependa de iniciativas excepcionales de ingeniería inversa, la IA nos llevará la delantera. Solo cuando la auditabilidad sea un requisito regulatorio incrustado en el diseño —y no un acto de contracultura digital— podremos aspirar a una relación de acompañamiento crítico y soberano con la tecnología.

• Agosti, C., et al. (2021). AI Forensics. https://aiforensics.org/

• Digital Future Society. (2024, febrero). Hacia un uso responsable de los algoritmos: métodos y herramientas para su auditoría y evaluación. red.es y Mobile World Capital Barcelona. https://digitalfuturesociety.com/app/uploads/2024/02/Towards-accountable-algorithms_esp.pdf

• Sandvig, C., Hamilton, K., Karahalios, K., & Langbort, C. (2014). Auditing Algorithms: Research Methods for Detecting Discrimination on Internet Platforms. https://ai.equineteurope.org/system/files/2022-02/ICA2014-Sandvig.pdf

• tracking.exposed. (2021). YouTube.tracking.exposed. https://youtube.tracking.exposed

• Zuboff, S. (2019). La era del capitalismo de la vigilancia: La lucha por un futuro humano frente a las nuevas fronteras del poder. Paidós.