El diagnóstico: un cambio de época con riesgos reales
León XIV parte de una constatación sencilla: vivimos una transformación sin precedentes. La digitalización, la robótica y la inteligencia artificial ya no son tendencias emergentes; están tejidas en el tejido de la vida cotidiana, moldean decisiones colectivas y modifican el imaginario de sociedades enteras. Lo que preocupa al Papa no es la tecnología en sí, sino la concentración del poder que la sostiene. En el pasado, los estados orientaban la innovación. Hoy lo hacen actores privados transnacionales con recursos superiores a los de muchos gobiernos, operando con escasa transparencia y rendición de cuentas.
.jpeg)
La IA: herramienta valiosa pero no neutral
El Papa dedica varios apartados a describir qué es y qué no es la inteligencia artificial. Es explícito: estos sistemas imitan funciones de la inteligencia humana, la superan en velocidad y cálculo, pero no experimentan, no tienen cuerpo, no conocen el amor, la amistad o la responsabilidad. No poseen conciencia moral. Cuando generan respuestas que parecen empáticas o comprensivas, simulan algo que no habita en ellos.
Eso no los hace inútiles. Los beneficios en medicina, educación, ciencia o gestión son reales. El problema está en la adopción acrítica: la IA tiende a presentarse como objetiva cuando en realidad refleja los valores, sesgos y prioridades de quienes la diseñan y financian. Delegar decisiones sensibles, acceso al crédito, selección de personal, evaluación de riesgos, a algoritmos opacos no elimina la responsabilidad política; la disfraza de neutralidad técnica. Y la injusticia realizada en silencio es injusticia igualmente.
El paradigma tecnocrático: el verdadero adversario
León XIV no critica la tecnología sino el paradigma que la envuelve. Retoma la advertencia de Francisco en Laudato si: la lógica de la eficiencia, el control y el lucro tiende a convertirse en el criterio último de las decisiones humanas. Cuando eso ocurre, la persona deja de ser un fin y se convierte en un recurso optimizable. El paradigma tecnocrático no necesita declararse enemigo del ser humano; basta con que lo ignore sistemáticamente.
Este paradigma tiene un brazo ideológico: el transhumanismo y el posthumanismo. Corrientes que presentan el límite humano, la vulnerabilidad, la enfermedad o la vejez como defectos que corregir, y que sueñan con una humanidad potenciada o hibridada con la máquina. León XIV no descarta el diálogo con estas corrientes, pero señala su peligro: si el ser humano es materia perfectible, resulta más fácil aceptar que algunos sean considerados menos útiles o menos dignos. El progreso técnico desvinculado del progreso moral no emancipa; produce nuevas formas de descarte.
Lo que no puede perderse: el límite como riqueza
Frente a la promesa tecnocrática, el Papa defiende algo que va a contracorriente: el límite no es un error de diseño de la condición humana. Es el espacio donde maduran la compasión, la solidaridad, la experiencia espiritual. Quien ama y desea no puede evitar el sufrimiento; y es precisamente en ese sufrimiento donde se forja la sabiduría que ningún algoritmo puede replicar. Una civilización que mide su calidad por el poder de sus medios, y no por el cuidado que sabe ofrecer, ha confundido los instrumentos con los fines.
Responsabilidad, transparencia y gobernanza
El Papa traduce estos principios en exigencias concretas. Primero, la IA no puede considerarse moralmente neutra: cada sistema lleva inscrita una visión de la persona y la sociedad. Segundo, la cadena de responsabilidades debe ser identificable en todas las etapas: diseño, programación, despliegue. Tercero, los datos no son propiedad exclusiva del sector privado; son fruto del aporte de muchos y deben gestionarse como bienes comunes. Cuarto, pedir marcos regulatorios sólidos, auditorías independientes y transparencia algorítmica no es hostilidad al progreso, sino cuidado responsable.
Hay una advertencia que sobresale por su claridad: no sirve de nada una IA alineada con valores humanos si esos valores los decide una minoría sin control democrático. La alineación ética de los sistemas solo tiene sentido si el código ético que se instala ha sido discutido y sometido a criterios de justicia social compartida.
Las nuevas esclavitudes y el colonialismo de datos
Uno de los pasajes más duros de la encíclica denuncia lo que hay detrás de la economía digital. Millones de personas, mayoritariamente mujeres jóvenes en países de renta baja, realizan el trabajo invisible que alimenta los modelos algorítmicos: etiquetado de datos, moderación de contenidos brutales, entrenamiento de sistemas. Adolescentes extraen minerales en condiciones peligrosas para fabricar los dispositivos sobre los que corre esa infraestructura. Las redes criminales usan plataformas digitales para la trata de personas.
León XIV conecta esto con una forma contemporánea de colonialismo: la extracción masiva de datos sanitarios, epidemiológicos y genéticos de poblaciones enteras, muchas veces con el pretexto de la ayuda humanitaria o la investigación, para entrenar modelos predictivos que benefician a quien los posee. Quien controla esos datos controla el futuro: puede anticipar crisis, orientar inversiones y decidir, antes que nadie, a quién destinar recursos y protecciones.
La alternativa: Nehemías frente a Babel
Para estructurar su propuesta, el Papa utiliza dos imágenes bíblicas. Babel representa la construcción sin referencia a Dios, la uniformidad que aplana diferencias, el poder que se pretende autosuficiente. Nehemías representa la reconstrucción paciente, tramo a tramo, con responsabilidad compartida, escucha real y presencia de Dios en el centro del proyecto.
La pregunta decisiva que León XIV formula, citando a Juan Pablo II, es si la IA hace la vida del ser humano más humana, más digna. Si la respuesta es afirmativa, puede ser usada responsablemente. Si el poder crece mientras los vínculos se rompen y el corazón se marchita, estamos ante una nueva versión de Babel: impresionante por fuera, vacía por dentro.
La pregunta que articula toda la encíclica, citando a Juan Pablo II, es si la inteligencia artificial hace la vida del ser humano más humana, más digna. Si la respuesta es afirmativa, puede usarse con responsabilidad. Si el poder crece mientras los vínculos se rompen, estamos ante una nueva versión de Babel: impresionante por fuera, vacía por dentro.
Magnifica Humanitas no es un documento pesimista. Es una brújula. En un momento en que pocos actores concentran datos, capital computacional y capacidad normativa, la Iglesia recuerda que la tecnología no tiene dirección propia: toma el rostro de quien la concibe, la financia y la regula. Esa responsabilidad no puede delegarse en la máquina.
#InteligenciaArtificial #EticaDigital #BienComun #LiderazgoResponsable #MagnificaHumanitas