Lejos de los riesgos distópicos convencionales de la ciencia ficción de Hollywood —como la rebelión de las máquinas o la pérdida masiva de empleos—, el mayor problema actual con respecto al despliegue desmesurado y sin garantías de la IA, es la erosión silenciosa, sistemática y deliberada del orden político y las bases estructurales de la democracia liberal contemporánea.
¿Cómo sucede esta erosión?
A partir de la consolidación de cuatro dimensiones centrales:
- La instrumentalización del control
- El colapso de la gobernanza
- El tecnofeudalismo económico
- El tecnoautoritarismo político.
En la primera dimensión, se observa una obsolescencia institucional de larga data que en lugar de dar origen a nuevas transformaciones democráticas, ha emplazado estructuras de mayor control y disciplinamiento; las cuales han sido posibles justamente a partir de las nuevas tecnologías de vigilancia y gestión de información.
La segunda dimensión aborda el rápido colapso de las instituciones de gobernanza global, entre las cuales se encuentra el sistema de las Naciones Unidas. En el caso de la gobernanza digital, se observa un viraje de modelos de gobernanza de múltiples partes interesadas afianzadas en un idealismo político hacia un crudo realismo geopolítico. En la era de la IA esto es aún más visible, en tanto la competencia política y económica han desatado carreras unilaterales por asegurar el acceso a infraestructura y recursos críticos.
La tercera dimensión desentraña el modelo económico subyacente. Partiendo del «capitalismo de la vigilancia» teorizado por Shoshana Zuboff, donde la conducta humana es la materia prima extraída mediante el mercado de la atención, el texto avanza hacia el concepto de «tecnofeudalismo» (propuesto por Varoufakis y Morozov). Las grandes corporaciones operan hoy como señores feudales de ecosistemas cerrados (plataformas como Meta, Google, X), cobrando rentas tecnológicas por la visibilidad y limitando las libertades de los usuarios a través de los algoritmos.
Finalmente, la cuarta dimensión describe el paso del tecnofeudalismo económico al tecnoautoritarismo político. Acá se destaca un cambio de paradigma geopolítico con el segundo mandato de Donald Trump en Estados Unidos. La tradicional tensión regulatoria entre los Estados y Silicon Valley se ha transformado en una alianza orgánica con magnates tecnológicos (como Elon Musk o Peter Thiel). Esto consolida el denominado «Authoritarian Stack» (la pila autoritaria): un entramado de capitales de riesgo, contratistas militares, IA y criptoactivos que promueve un individualismo extremo, la desregulación absoluta y la neutralización de los contrapesos democráticos.
El futuro tecnoautoritario no es inevitable. Para salvar la democracia es imperativo democratizar la IA y su capacidad. Esto implica reconfigurar la gobernanza digital, concebir los datos como bienes comunes, aplicar regulaciones algorítmicas estrictas y subordinar los sistemas tecnológicos al escrutinio, participación y control de la ciudadanía.
Por Cristian Leon, Director Ejecutivo
El capítulo del libro puede leerse aquí: