Por Mariana Ferrarelli

En un arco temporal que abarca cuatro semanas y muchos debates, se publicaron dos escritos que podríamos decir delinean el inicio del segundo cuarto del siglo XXI: nos referimos, por un lado, al Manifiesto Palantir (posteado en tuits el 18 de abril como deriva del libro publicado en 2025) y, por otro, a la encíclica papal Magnifica Humanitas firmada el 15 de mayo y publicada diez días después. Se trata de dos documentos que sorprenden no sólo por quién los firma (magnates del tecnocapitalismo, y el Papa respectivamente) sino también por el contenido de lo que dicen: no se trata de escritos sobre tecnología sino sobre su dimensión humana y profundamente política.

En medio de una coyuntura desbordada por los usos de la inteligencia artificial (IA) con fines militares y de vigilancia masiva, así como por los intereses geopolíticos y comerciales de las grandes plataformas, que son hoy piezas fundamentales del complejo militar industrial estadounidense, la encíclica Magnífica Humanitas publicada por el Papa León XIV es un llamado a terminar con la aparente ingenuidad y la inacción de líderes y gobiernos frente a tecnologías que implican, como vienen señalando expertos de todo el arco político, riesgos sistémicos y eventualmente catastróficos. 

El documento se pronuncia sobre aspectos estructurales de la IA (generativa y predictiva), los datos, el funcionamiento de los algoritmos y las redes, su modelo de negocio y sus profundos impactos sociales, políticos y ambientales. Se trata de un posicionamiento que definitivamente no es sobre tecnología, sino sobre poder, democracia, derechos y futuro; un reclamo sobre la participación transversal en la gobernanza de tecnologías muy poderosas. Es un llamado a pensar qué perspectivas se privilegian en el diseño de los sistemas, qué voces se amplifican y cuáles se silencian. 

A quienes aún creían que la IA era solo una herramienta para ganar productividad y hacer más eficientes procesos y tareas, les llegó la hora de entender de manera irrevocable que se trata de un fenómeno que va mucho más allá de su apariencia artefactual. No se trata de tecnologías neutrales, ninguna lo es, ni de sistemas inocuos que no poseen intereses y cosmovisiones o modelos de mundo por detrás. Para ejemplo, basta un botón: y eso es precisamente el Manifiesto Palantir, un listado de principios publicado por la empresa Palantir, dedicada al diseño de soluciones basadas en IA para empresas y gobiernos. El manifiesto expresa la necesidad de transcender las limitaciones del ‘soft power’ con el recurso del ‘hard power’. Y no escatima en anticipar: “La pregunta no es si se construirán armas de A.I.; sino quién las construirá y con qué propósito”. Al igual que en la concepción transhumanista según la cual hay humanos más valiosos y dignos que otros, el manifiesto expresa diferencias entre algunas culturas que supuestamente “han producido avances vitales; [mientras] otras siguen siendo disfuncionales y regresivas”.

El texto del Vaticano lanza una advertencia sobre las nuevas esclavitudes que emergen en la era digital: un entramado donde el extractivismo, el colonialismo y la explotación laboral no solo subyugan cuerpos y territorios, también se apropian de los datos para transformar las vidas en mera información explotable comercialmente. Frente a este diagnóstico de asimetría y desposesión, la encíclica reclama que la verdadera justicia reside en garantizar la inclusión, la participación y la gobernanza real sobre los sistemas: para que el acceso a “los beneficios de la innovación” sea equitativo, los cuidados, el conocimiento colectivo y las oportunidades deben constituirse en un imperativo ético impostergable. 

La impugnación al modelo actual dialoga con demandas por otra IA, una centrada en el ser humano, que priorice valores democráticos, el acceso a derechos y la equidad en la distribución del bienestar económico y social. Por eso, en el diseño de los sistemas no alcanza con una mirada estrictamente técnica o ingenieril para abordar tecnologías que ya actúan como infraestructura global y reconfiguran la cognición humana. 

En un contexto dominado por perfiles técnicos e intereses comerciales, los incentivos se organizan en torno a la eficiencia y el lucro por encima de la voz y perspectivas de diversos colectivos. En sintonía con el informe “Doing AI differently” del Turing Institute, de la encíclica se desprende la urgencia de incorporar desde el inicio del diseño de los sistemas las perspectivas de las humanidades, las artes y las ciencias sociales. Porque el objetivo es estructurar arquitecturas capaces de procesar la pluralidad, el contexto, la ambigüedad y los matices culturales y lingüísticos propios de la experiencia humana. Se trata de un abordaje que apunta a asegurar que la tecnología ofrezca un espacio habitable y discutible que amplifique, en lugar de erosionar, la agencia y la dignidad humana. 

Además de su afán de denuncia y demanda por regulaciones, el gesto político de la encíclica radica en insistir en la premisa de lo colectivo como plano para sostener consensos y acuerdos sobre qué sociedad y qué tecnologías queremos. Para que el mundo no sea conducido por 5 magnates que deciden y diseñan el futuro de la humanidad, es necesario entender que la libertad implica respeto y empatía por el prójimo: “no es sólo una cuestión interior; es también un asunto público, que exige normas claras, transparencia, vías de recurso y límites proporcionados al uso de tecnologías invasivas, para que la tecnología siga estando al servicio de la persona y no se convierta en una forma de dominio de las conciencias” (171). Frente a la mercantilización de todo y de todos, emerge un llamado a la “sobriedad digital” que exige el cuidado de los más vulnerables y la protección de derechos y futuros.

Frente al Manifiesto que apuesta por la recreación de lo humano en la tecnología, emerge el límite como borde político y ético, más allá de lo que puede hacerse mediante tecnología: “Todo lo que representa un “límite” —incapacidad, enfermedad, ancianidad, sufrimiento, vulnerabilidad— tiende a ser leído principalmente como un defecto que hay que corregir, más que como un espacio en el que el ser humano madura y se abre a la relación. En cambio, debemos recordar que el ser humano no florece a pesar del límite, sino a menudo a través del límite” (118). 

La escuela y la universidad recuperan su centralidad como espacios de pensamiento y lentitud. Frente a escenarios acelerados por lo digital y por algoritmos que perforan la atención a golpe de scrolling y notificaciones push, el aula se erige como el entorno que provee el tiempo para pensar y la calidez de los vínculos duraderos: “La escuela no está llamada a perseguir la velocidad del mundo digital, sino a ofrecer aquello que lo digital por sí solo no puede dar: tiempo compartido para aprender y relaciones fiables” (147). En igual sintonía, es responsabilidad de la universidad abordar la complejidad desde la articulación de saberes y trascender la repetición memorística y el saber compartimentado. El mundo de hoy presiona por el desarrollo de habilidades más allá del enciclopedismo: verificar información, evaluar fuentes, vincularse genuinamente con otros, implicarse en el propio aprendizaje. 

Apostar por la lentitud de ninguna manera supone evadir el presente con su densidad y espesor. Por el contrario, la escuela y la universidad resisten desde la sospecha, la paciencia del análisis y la lectura demorada y profunda. De la transmisión del canon heredado, el aula se convierte en un laboratorio donde se diseña la fricción y la pausa; un espacio que estimula el pensamiento lento y dilata los arcos temporales. Frente a tecnologías que buscar borrar el conflicto y silenciar el disenso, el aula reclama la incomodidad de la pregunta y la insistencia del silencio como dispositivos de acción y rebeldía. 

El documento nos invita a tomarnos en serio qué está en juego cuando se despliegan sistemas de IA de toman decisiones e inciden en la vida material de individuos, comunidades y poblaciones enteras.

A través de la encíclica, la metáfora de Babel vuelve como un perturbador espejo de este tiempo y de este presente: en Borges representa un universo compuesto por una biblioteca infinita que contiene todas las combinaciones posibles de signos y por eso todos los libros verdaderos y falsos, todas las explicaciones, todas las contradicciones y todos los sentidos imaginables. Pero en esa abundancia no habita necesariamente el conocimiento; lo que domina es el extravío, la extracción antes que la justicia y la participación. En el documento de León XIV, Babel emerge en alusión a sistemas y poderes inhumanos capaces de producir respuestas a escala, recombinar fragmentos de mundo, y anticipar y orientar comportamientos a partir de grandes volúmenes de datos. Babel en el documento papal es sinónimo de monocultivo tecnológico, aquel que el filósofo chino Yuk Hui advierte que hay que abandonar y superar a través de múltiples cosmotécnicas. La pregunta recurrente vuelve a interrogarnos sobre quién organiza ese universo con cosmovisiones y lenguajes, bajo qué reglas lo vuelve legible y con qué horizonte político se distribuye el acceso a su sentido y gobernanza.