Estado
Nacional
Pongamos todo en perspectiva // Carlos Villalobos
La encíclica “Magnifica humanitas” del Papa León XIV parte de una idea, que aunque es evidente también es sumamente incómoda para Silicon Valley: la inteligencia artificial no es únicamente una revolución tecnológica, sino una disputa sobre qué significa seguir siendo humanos en una época obsesionada con optimizarlo todo.
Mientras las grandes tecnológicas siguen hablando de eficiencia, automatización y productividad, el documento papal coloca el foco en otro sitio: la dignidad humana como límite político y moral del desarrollo tecnológico, como condición estructural.
Uno de los fragmentos más contundentes señala que “la persona humana no puede reducirse a un conjunto de datos, patrones de comportamiento o variables predictivas”. La frase parece obvia hasta que se mira el modelo económico dominante de internet. Porque precisamente eso hacen hoy las plataformas: convertir emociones, hábitos, relaciones y decisiones en información cuantificable para anticipar conductas y dirigir consumo, atención o incluso inducir posicionamientos políticos.
La encíclica, es clara, no condena la tecnología, lo que sí hace es cuestionar la lógica bajo la cual está siendo construida. Hay otra cita especialmente relevante: “el progreso técnico desvinculado de la responsabilidad ética produce nuevas formas de desigualdad y dominación”. Para demostraelo, basta mirar cómo funcionan actualmente muchos sistemas algorítmicos: modelos entrenados con sesgos históricos, plataformas que premian la polarización porque genera interacción y herramientas capaces de reemplazar trabajo humano sin que exista una discusión seria sobre redistribución, derechos o impacto social.
Por eso el concepto de “algorética”, retomado y profundizado en el texto, resulta tan importante. Este no plantea únicamente que la IA deba ser regulada, más bien plantea que toda arquitectura tecnológica contiene una visión del mundo, incluso cuando pretende presentarse como neutral. Un algoritmo que prioriza el contenido más incendiario no está “reflejando” la realidad, más bien la moldea.
Durante años, Silicon Valley logró instalar la idea de que cuestionar el desarrollo acelerado de la IA equivalía a estar en contra del progreso. La encíclica rompe con esa narrativa porque desplaza el eje del debate. La pregunta ya no es únicamente qué puede hacer la inteligencia artificial, sino qué debería permitírsele hacer y quién decide esos límites, algo que hasta hoy no se ha decidido del todo.
Hay otro pasaje particularmente duro: “ninguna máquina debe sustituir la responsabilidad moral de la conciencia humana”. La frase golpea directamente a una industria que avanza hacia sistemas cada vez más autónomos en áreas sensibles como guerra, vigilancia, justicia, educación o salud. Porque una cosa es usar IA como herramienta y otra muy distinta construir estructuras donde la decisión humana se diluye detrás de modelos opacos imposibles de auditar públicamente.
El problema de fondo es que las corporaciones tecnológicas llevan años acumulando un poder que supera, en algunos casos, la capacidad regulatoria de muchos Estados. Controlan infraestructura, datos, comunicación y capacidad de influencia cultural a escala planetaria y aun así, gran parte de su legitimidad pública sigue descansando en una narrativa adolescente donde innovar parece automáticamente virtuoso.
Lo que los esfuerzos del Vaticano buscan, en teoría, es tratar de impedir que la lógica de mercado termine definiendo por sí sola qué partes de la experiencia humana pueden automatizarse, vigilarse o monetizarse.
Por eso resulta tan revelador que uno de los cuestionamientos más sólidos a la IA no esté llegando desde universidades tecnológicas ni desde organismos multilaterales, sino desde un espacio que muchos consideraban ajeno a esta conversación. Mientras buena parte de Occidente sigue fascinada con la velocidad del cambio tecnológico, la encíclica introduce una discusión mucho más incómoda: qué clase de sociedad aparece cuando la eficiencia comienza a valer más que la condición humana.
“No todo lo técnicamente posible es moralmente aceptable” Papa León XIV
