Mientras el arzobispo porteño Jorge García Cuerva, mirando a los ojos a un Milei impávido, en su homilía imploraba “renunciar a las palabras hirientes”, criticaba a “los odiadores de ayer y los haters (odiadores) de hoy frente a una computadora”, y pedía por “los abuelos, los niños, los enfermos y las personas con discapacidad”, el papa León XIV presentaba su primera encíclica titulada “Magnifica humanitas”.
El lunes 25 de mayo se realizó el tradicional tedeum en la Catedral metropolitana para conmemorar la serie de acontecimientos revolucionarios de 1810, los que conducirían a la declaración formal de la independencia en 1816. Mientras tanto, se conocía el documento del sucesor de Francisco analizando al ser humano en tiempos de la Inteligencia Artificial.
El arzobispo porteño reclamó de Milei y la plana mayor del Gobierno libertario cambios en sus formas y mejores tratos para los desprotegidos y más vulnerables.
Sintonizaba con Magnifica Humanitas. El Papa abía firmado el documento diez días antes, el 15 de mayo, al cumplirse el 135º aniversario de la encíclica “Rerun novarum” (1891) del papa León XIII, la primera encíclica social de la Iglesia sobre la situación de los trabajadores y sus derechos.
El arzobispo de Buenos Aires concluyó su homilía evocando la proclama del primer gobierno patrio, que fue un llamado a la unidad. Y aclaró: “No a la uniformidad sino a la ‘conformidad recíproca’ y a la ‘cordialidad’. El sueño fundacional fue siempre la unión. Hagámoslo realidad. Por nosotros, por nuestros abuelos, por las futuras generaciones”. También García Cuerva tuvo palabras críticas para aquellos miembros de la clase política que “viven de privilegios y alejados del común de la gente, que perdieron la sensibilidad con los que sufren y critican a los que intentan hacer el bien”.
Magnífica humanidad
El centenar de páginas de la encíclica de León XIV contiene una introducción, cinco capítulos y una conclusión. Desde el título, “Magnifica humanitas. Sobre la custodia de la persona humana en el tiempo de la Inteligencia Artificial”, plantea su ambicioso abordaje intelectual de un ser humano social, racional, reconocible, digno y virtualmente sin orillas, arrojado a la temporalidad y tensionado por el asedio de la Inteligencia Artificial.
Dice en la Introducción que “cada generación recibe como herencia la tarea de dar forma a su propio tiempo: hacer madurar la historia como un lugar donde se proteja la dignidad de cada persona, se promueva la justicia y se haga posible la fraternidad; pero en cada época se cierne el riesgo de construir un mundo inhumano y más injusto”.
A continuación, y tributando al Dios Trino, concepto central en la teología cristiana, León XIV agregó: “Allí donde la humanidad corre el peligro de perder su rostro, nosotros, los cristianos, alzamos los ojos hacia el Dios que se hizo carne, sabiendo que el misterio del hombre sólo se esclarece en el misterio del Verbo encarnado. En Jesucristo, esta magnífica humanidad encuentra el camino, la verdad y la vida, abriendo a cada uno de nosotros la vía para crecer hacia la plenitud”.
Seguidamente, León XIV inscribe su encíclica en la historia de la doctrina social de la Iglesia y aclara que, al igual que cuando “León XIII hablaba de ‘nuevos asuntos’ (rerum novarum), hoy no podemos limitarnos simplemente a repetir sus valiosas enseñanzas, sino que debemos pedirle a Dios la sabiduría para interpretar las grandes tendencias de nuestro tiempo, en particular los avances de la técnica”. Y concluye: “en los últimos años se ha hecho cada vez más evidente cuán rápida y profundamente la digitalización, la inteligencia artificial (IA) y la robótica están transformando nuestro mundo. […] Hoy, sin embargo, nos encontramos ante una situación nueva, en la que el poder y la omnipresencia de las tecnologías emergentes se entrelazan con el tejido de la vida cotidiana, moldean los procesos de toma de decisiones e inciden profundamente en el imaginario colectivo.”
Llegado a este punto, el papa León XIV lanza una observación categórica, casi un golpe de efecto: “nunca la humanidad tuvo tanto poder sobre sí misma. Las nuevas tecnologías abren un horizonte que se extiende en direcciones que, aunque puedan intuirse, aún no son completamente previsibles”.
Los dueños del conocimiento y el poder
Para León XIV, habida cuenta de que nunca la humanidad tuvo tanto poder sobre sí misma, se debe asumir con lucidez y responsabilidad los retos actuales y adoptar los instrumentos normativos aptos para salvaguardar la justicia y contener los efectos distorsionadores del poder tecnológico.
Y evocó al papa Francisco, quien sentenció: “no podemos ignorar que la energía nuclear, la biotecnología, la informática, el conocimiento de nuestro propio ADN y otras capacidades que hemos adquirido […] dan a quienes tienen el conocimiento, y -sobre todo- el poder económico para explotarlo, un dominio impresionante sobre el conjunto de la humanidad y del mundo entero. En el pasado, eran principalmente los estados los que impulsaban y orientaban la innovación. Hoy, en cambio, los principales motores del desarrollo son actores privados, a menudo transnacionales, dotados de recursos y capacidad de acción superiores a los de muchos gobiernos. El poder tecnológico adquiere -así- un rostro inédito, predominantemente privado, y por ello aún más difícil de discernir, gobernar y orientar hacia el bien común. La tecnología puede curar, conectar, educar, cuidar la Casa común; pero también puede dividir, descartar, generar nuevas injusticias. En abstracto, esta, en sí misma, no es una solución a los problemas de la humanidad, como tampoco es un mal en sí; pero, concretamente, no es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza”.
León XIV destaca, entonces, algo que trasciende a la ideología, algo que la supera y denomina “idolatría del lucro” que implica el riesgo de la deshumanización, lo cual en clave eclesiástica significa la construcción del futuro excluyendo a Dios y viendo al semejante sólo como un medio, una “tentación antigua y siempre nueva, que hoy también toma un rostro técnico”.
La “Magnifica humanitas” abunda en conceptos que merecen una profunda reflexión, como el de “edificar el bien”, lo cual significa “aceptar los límites y la fragilidad de la humanidad sin considerarlos un error que haya que corregir. […] La Iglesia recuerda, con voz humilde pero firme, que la verdadera realización no nace de la eliminación de las fragilidades, sino de un crecimiento armonioso: allí donde la libertad y la responsabilidad se entrelazan con el cuidado recíproco y la verdadera solidaridad, y donde el progreso se mide por la dignidad de cada uno y por el bien de los pueblos”.
Doctrina social de la Iglesia
En el primer capítulo de la “Magnifica humanitas” el papa León XIV recorre sintéticamente el camino a través del cual la Doctrina social de la Iglesia fue conformando el Magisterio reciente de sus antecesores. Y en ese marco entiende a la Inteligencia Artificial como una transformación que interpela desde adentro las categorías de la Doctrina social y exige un más amplio desarrollo de la misma, en consonancia con la manera en que la Iglesia habita la historia y se relaciona con el mundo.
Según León XIV (y muy sintéticamente) es a partir del doble reconocimiento de la autonomía de las realidades terrenas y la distinción de competencias entre la comunidad eclesial y la política que se comprende mejor la orientación que el Concilio Vaticano II dio a la Iglesia en su relación con el mundo. Y agrega: “alimentada por este diálogo fecundo entre el Evangelio y los conocimientos humanos, la Iglesia ha profundizado progresivamente en su Doctrina social, madurando con el tiempo un patrimonio de sabiduría dotado de una coherencia teológica y antropológica arraigada en la visión cristiana de la persona.” Y asegura que la Doctrina social no pretende sustituir las responsabilidades de la política y de las instituciones, sino que “se ofrece como apoyo al discernimiento común, ayudando a reconocer y promover lo que contribuye a la dignidad de las personas, a la vitalidad de las comunidades y al bien de todos”.
El papa León XIV asegura que la Iglesia accedió a la comprensión de la verdad como un don que hay que compartir y no como una posesión que hay que reclamar, liberándose entonces de la tentación de añorar formas de presencia basadas en el poder. O, dicho en otros términos, la verdad no sería un territorio para defender, sino un bien que habría que compartir.
Entonces desfilan los lineamientos principales de encíclicas como ‘Rerum novarum’, otras contribuciones referidas a la función social de la propiedad, la necesidad de estados de derecho sólidos para prevenir los abusos de poder y el reconocimiento de la democracia como un instrumento adecuado para favorecer el ejercicio correcto de la autoridad.
León XIV aseguró que “en nuestra época, marcada por nuevas formas de poder global y por desigualdades crecientes, siguen siendo especialmente significativos tres principios: la exigencia de que el derecho prevalezca sobre el interés, la conciencia de que las disparidades económicas son terreno fértil para las tensiones y la violencia, y el valor de un tejido asociativo capaz de mediar entre el individuo y el Estado”.
También desfilan sintéticamente los aportes de Juan XXIII, prestando atención a la necesidad de que el trabajo reciba una remuneración justa y se evite que surjan tensiones y violencia, como cuando en otro plano se registran crecientes disparidades entre los países, todas cuestiones que pueden superarse mediante el desarrollo que, en palabras de Pablo VI, es “el nuevo nombre de la paz”.
Y desfilan pinceladas de ‘Laborem exercens’, escrita noventa años después de la publicación de ‘Rerum novarum’, donde el salario justo se presenta como una prueba concreta de la equidad de todo el sistema socioeconómico porque muestra si el trabajador es tratado como persona o como un simple costo de producción.
Le siguen ‘Laudato si’, también de Francisco, el “primer gran análisis sistemático de la crisis medioambiental en una Encíclica social -escribe León XIV-, demostrando que no se trata de una cuestión sectorial sino del aspecto ecológico de la crisis socioeconómica contemporánea”.
Y agrega: “su propuesta de ecología integral aúna el cuidado de la Casa común y la opción preferencial por los pobres, y afirma con determinación que ‘tanto el clamor de la tierra como el clamor de los pobres’ no pueden separarse. En este sentido, vuelven a cobrar protagonismo el destino universal de los bienes, la crítica a un paradigma tecnocrático que pretende reducirlo todo a un objeto de dominio, la defensa del trabajo humano amenazado por la lógica del descarte, la exigencia de una justicia intergeneracional y el llamamiento a un diálogo auténtico entre política y economía, para que ninguna de las dos se encierre en su propia autorreferencialidad”.
Doctrina social: fundamentos y principios
“Pienso que actualmente -dice León XIV- para custodiar a la persona humana en el tiempo de la inteligencia artificial, debemos volver a reflexionar sobre el bien común, el destino universal de los bienes, la subsidiariedad y la justicia social.” Y plantea que la Iglesia no ofrece una “palabra definitiva” sobre cuestiones específicas sino “criterios de discernimiento” para acompañar un proceso de juicio comunitario.
Toda la encíclica, para libertarios hiperbólicos como el Presidente Milei, hasta en los detalles puede sonar subversiva.
Por ejemplo, luego de referirse a la dignidad humana advierte que debe procurarse que el crecimiento en la conciencia no sea ofuscado bajo la presión de nuevas ideologías o de determinados intereses de gran poder en la actualidad.
Y agrega: “entre estas ideologías considero particularmente insidiosa la que sugiere que toda persona deba ganarse o justificar su propio valor, hasta el punto de atribuir mayor valía a quienes son más eficientes y productivos. En semejante perspectiva, la persona termina reduciéndose a un medio para obtener resultados, a un recurso para ser usado y explotado, y no es reconocida como fin en sí misma, jamás instrumentalizable. Pero el valor de la persona no depende de lo que realiza o produce; existen derechos que corresponden a todos por el mero hecho de ser personas. Ningún poder humano puede legítimamente negarlos o limitarlos arbitrariamente”.
Para el papa León XIV los derechos humanos tienen un “altísimo valor”, siendo el primero de ellos el derecho a la vida desde la concepción hasta su fin natural, sin el cual es imposible ejercitar cualquier otro derecho. Además: “Cuando este derecho fundamental es negado -como sucede con el aborto provocado, el asesinato de inocentes y la eutanasia- nos encontramos frente a decisiones que la Iglesia juzga gravemente ilícitas.”
Pero también son varios los temas que, de cara al conservadurismo que circula transversalmente por todos los credos imaginables, resultan controversiales. Por ejemplo, el principio del destino universal de los bienes (no sólo materiales sino también inmateriales y culturales) que subordina a la propiedad privada.
En la actualidad, entre los bienes que están destinados universalmente a todos los seres humanos el Papa incluye las nuevas formas de propiedad: patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas, datos.
“En un contexto donde la riqueza de las naciones depende cada vez más de conocimientos y tecnologías -dice la encíclica-, cuando estos bienes quedan concentrados en las manos de unos pocos, sin adecuadas formas de intercambio y de acceso, se crea un nuevo desequilibrio que contradice el destino universal de los bienes y alimenta la brecha entre incluidos y excluidos, entre quienes pueden participar en la revolución digital y quienes permanecen al margen.
Además, el cuidado de la Casa común y la responsabilidad hacia los pobres y hacia las generaciones futuras requieren que el uso de los bienes de la creación y de las nuevas posibilidades ofrecidas por la técnica esté regulado de tal modo que respete el ambiente y evite despilfarros y nuevas formas de estafa”.
La encíclica también habla del principio de subsidiariedad, cuando es verificable en el nivel superior cierto desplazamiento del Estado y su reemplazo gradual por todo gran actor económico y tecnológico que ejerza un poder fáctico sobre las condiciones de la vida común.
“El nivel que absorbe competencias, datos y capacidad decisional está constituido por empresas y plataformas -dice la encíclica-, que definen condiciones de acceso, reglas de visibilidad, formas de relación e incluso oportunidades económicas. La subsidiariedad requiere que dichos procesos no se impongan desde lo alto de modo opaco y unilateral, sino que estén orientados al bien común mediante la transparencia, la responsabilidad y formas reales de participación (auditorías independientes, transparencia en los algoritmos, acceso equitativo a los datos, herramientas de apelación)”.
Los estados nacionales y las instituciones supranacionales deben garantizar reglas justas y mecanismos de protección eficaces para que las comunidades locales, las escuelas y universidades, así como las realidades eclesiales y asociativas, puedan tener voz y participar en la toma de decisiones que inciden en la vida de las personas: trabajo, acceso a los servicios, gestión de los datos y ambientes digitales. Por añadidura, según la encíclica “Magnifica humanitas” en las decisiones referidas a los flujos económicos, las plataformas digitales, la gestión de los datos y los algoritmos, no se puede dejar que pocos actores por sí solos orienten los procesos; es necesario “construir formas de cooperación que respeten los diversos niveles de la comunidad mundial y los hagan corresponsables del bien común”.
En la carta papal también son presentados los principios de solidaridad (que actualmente requiere “que las decisiones en materia de datos, algoritmos, plataformas e inteligencia artificial tengan en cuenta no sólo el beneficio inmediato de algunos, sino el impacto en todos los pueblos y en las generaciones futuras”), y el de justicia social. Respecto de este último, al que Milei y sus compinches consideran una aberración y un robo, para la Iglesia posconciliar no solo se refiere al comportamiento de los individuos sino también al modo en el que son concebidas y organizadas las estructuras de la convivencia. Para la Iglesia posconciliar, entonces, “la justicia social se reconoce por la capacidad de un orden social, económico y político que permita a todos -y en particular a los más frágiles- vivir de manera realmente humana, sin que ninguno se quede atrás”.
La carta pastoral no exige una mirada cuyo punto de partida sean los “héroes” de Milei (como, por ejemplo, los empresarios fugadores de divisas), sino los últimos. Recuerda que Juan Pablo II habló de una opción preferencial por los pobres que debe marcar las decisiones personales y sociales, y que Francisco denunció una “cultura del descarte” que genera cada vez más formas nuevas de exclusión. Los pobres, los migrantes, los refugiados, los desplazados internos, las víctimas de la violencia, las personas que viven en periferias urbanas o existenciales, allí están los más vulnerables, y desde allí debe partir la mirada de quienes desean desplegar el orden social, económico y político requerido por la justicia social.
El desarrollo humano integral
Los grandes avances científicos, técnicos y tecnológicos en sí mismos son innovaciones que pueden ser una gran ayuda para el desarrollo humano integral, argumenta León XIV, pero precisamente también por su poder pueden actuar como un acelerador del paradigma tecnocrático y, por ello, necesitan un nuevo marco espiritual, ético y político apropiado. Si éstas no van acompañadas de un auténtico progreso social y moral, la humanidad puede ser víctima de sus propias conquistas. Y en el caso del mundo digital, la encíclica argumenta que los grandes principios de la Doctrina social se convierten en criterios para juzgar y discernir el nuevo escenario, de modo que sea posible considerar más de cerca qué es la inteligencia artificial, qué posibilidades abre y qué riesgos comporta.
Aclara León XIV: “no es mi intención ofrecer aquí un tratado sobre la inteligencia artificial, ni recorrer una bibliografía que ya es muy amplia. […] Me limito a recordar algunos elementos esenciales para un discernimiento moral y social que proteja el primado de la persona, con el fin de que sea siempre la inteligencia humana, con su conciencia y su libertad, la que guíe las innovaciones técnicas y establezca con responsabilidad su uso y sus límites. […] No es posible dar una definición única y completa de la IA. Lo que podemos decir es que hay que evitar el equívoco de equiparar esta “inteligencia” a la humana. Estos sistemas imitan ciertas funciones de la inteligencia humana. Al hacerlo, a menudo la superan en velocidad y amplitud de cálculo, ofreciendo beneficios concretos en numerosos campos. Y, sin embargo, esta potencia sigue ligada exclusivamente al tratamiento de datos: las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias. Pueden imitar lenguajes, comportamientos, valoraciones; pueden simular empatía o comprensión, pero no conocen lo que producen, porque no residen en el horizonte afectivo, relacional y espiritual en el que el ser humano se vuelve sabio. Incluso cuando dichos instrumentos se presentan como capaces de “aprender”, lo hacen de modo diferente al de la persona humana. No es la experiencia de quien se deja modelar por la vida y crece en el tiempo por medio de decisiones, errores, perdón y fidelidad; es más bien una adaptación estadística a partir de datos y retroalimentaciones, que puede ser muy eficaz, pero no implica un crecimiento interior”.
Una ayuda que requiere atención
Ciertamente, es una herramienta que puede ayudar a los usuarios en múltiples y variados quehaceres. Pero también es engañosa, imita artificialmente conductas que confunden al usuario (simula una palabra, por ejemplo, que cubre una ausencia y genera algo fantasmático), y un largo etcétera.
Es una herramienta, sin embargo, que “ya está presente en procesos de decisión en todos los ámbitos y a diversos niveles: en la comunicación, la gestión y el control”.
Y prosigue el papa: “las ventajas en términos de eficiencia y las potencialidades de mejora de algunos servicios son evidentes; sin embargo, una adopción rápida y acrítica nos expone a diversos riesgos, como el de subestimar el impacto ambiental. Los actuales sistemas de inteligencia artificial requieren grandes cantidades de energía y agua, inciden de manera significativa en las emisiones de anhídrido carbónico y consumen recursos de manera intensiva. Con el aumento de la complejidad, sobre todo en los grandes modelos lingüísticos, crecen también las necesidades de potencia de cálculo y capacidad de almacenamiento, que se apoyan en un conjunto de máquinas, cables, centros de datos e infraestructuras consumidoras de energía. Por eso es esencial desarrollar soluciones tecnológicas más sostenibles para reducir el impacto sobre el medioambiente y cuidar nuestra Casa común.
Luego de otras consideraciones ilustrativas, la carta llega a una conclusión: “No podemos considerar a la IA como moralmente neutra. En realidad, todo artefacto técnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones. Si un sistema se concibe o emplea tratando algunas vidas como menos dignas, o las excluye sin posibilidad de apelación, no es un simple instrumento que hay que usar correctamente; introduce ya un criterio que contradice la dignidad inalienable de la persona.
Por eso, el discernimiento ético no se puede limitar a preguntarse si usamos un determinado sistema para un fin bueno o malo, sino que debe interrogarse también sobre el modo en el que está diseñado y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían.
Por añadidura la encíclica asegura que “no serviría de nada una inteligencia artificial más moral, si esta moral es decidida por unos pocos; se necesita una política más presente, capaz de ralentizar donde todo acelera y de proteger los espacios en los que las comunidades pueden seguir participando e interrogándose”.
Hay que proteger a las comunidades del despliegue de la inteligencia artificial, y cuidar de la propiedad de los datos que “no puede confiarse sólo al sector privado, sino que debe reglamentarse”. Los datos “son fruto del aporte de muchos y no pueden ser vendidos o confiados a unos pocos”.
“En un mundo donde pocos sujetos concentran datos, capital informático y capacidad normativa -prosigue la carta-, hablar de bien común significa desenmascarar esta nueva asimetría epistémica, económica y política, nombrando los nuevos monopolios de la inteligencia artificial. Hablar de destino universal de los bienes significa encontrar modos de asegurar el acceso universal a las tecnologías y a la formación. Hablar de subsidiariedad exige proteger la capacidad de las comunidades de decidir y corregir, sin relegar su intervención a una vigilancia posterior, una vez que los estándares hayan sido establecidos en otro sitio. Hablar de solidaridad obliga a reconocer el trabajo invisible, a menudo explotado, que alimenta los modelos algorítmicos. Hablar de justicia pide cuestionar las geografías del poder que definen quién puede programar los modelos y quién es sólo objeto de esa programación, y reconocer que la justicia social no es sólo un objetivo que hay que tutelar después de la adopción de las tecnologías, sino una condición que se debe poner en práctica desde su diseño.”
Y León XIV concluye este pasaje sin concesiones: “Quisiera, por último, usar una palabra muy importante para mí: “desarmar”. Desarmar la inteligencia artificial significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás. Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida. La tarea, hoy, no es sólo ética o técnica; es ecológica en el sentido más radical, porque interpela una nueva dimensión de nuestra Casa común. La inteligencia artificial es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla; es necesario desarmarla y hacerla acogedora.”
Para León XIV, es cierto que la innovación tecnológica puede ser, en cierto modo, una forma humana de participación en el acto divino de la creación. Los desarrolladores asumen un gran peso ético y espiritual, porque cada elección de proyecto expresa una visión de la humanidad. Al igual que los artistas, obligados a tener en cuenta los valores que manifiestan, también ellos están llamados a tratar con la debida seriedad los valores que infunden en sus proyectos: con transparencia, con responsabilidad hacia las comunidades involucradas y con atención a verificar que lo que se cultiva sea realmente un bien.
La preservación del humanismo
La revolución digital está en curso. Y en su seno surgen varias corrientes que la interpretan como una superación del ser humano y que pueden agruparse bajo los nombres de “transhumanismo” y “posthumanismo”.
Estas corrientes constituyen un trasfondo ideológico propio de algunos centros de poder tecnológico, como Silicon Valley, y colonizan el imaginario colectivo con relatos simplificados, especialmente en los medios y en las redes sociales. Además, generan cierto entusiasmo por las nuevas tecnologías con una visión futurista de “humanidad potenciada” o de “hombre hibridado” con la máquina.
En la encíclica papal se asegura que “el transhumanismo y el posthumanismo comprenden en su interior una pluralidad de corrientes y sensibilidades, y resulta difícil hacer una descripción unívoca de ellas. […] En general, el transhumanismo imagina una potenciación del ser humano por medio de las tecnologías -biomedicina, ingeniería del cuerpo, dispositivos, algoritmos-, con la aspiración de incrementar el rendimiento y las capacidades. El posthumanismo, sobre todo en sus versiones más radicales, va más allá: critica el antropocentrismo y plantea una forma de hibridación entre el ser humano, la máquina y el ambiente, hasta imaginar que atravesará el umbral en el que la humanidad se superará a sí misma, entrando en una nueva etapa evolutiva. Aun cuando estas hipótesis siguen siendo en gran parte especulativas, van adquiriendo relevancia, porque modifican el imaginario colectivo y, en consecuencia, orientan las decisiones sociales, económicas y políticas”.
Desde el punto de vista eclesiástico, aclara León XIV, el punto crítico no es el uso de la técnica en cuanto tal, sino la visión que allí subyace. En efecto, si el ser humano es tratado como materia para ser perfeccionada o superada, entonces se vuelve más fácil aceptar que algunos sean considerados menos útiles, menos deseables, menos dignos.
En nombre del progreso se podría llegar a pensar en “sacrificios necesarios”, y hacer pagar a los más vulnerables el precio de una presunta optimización de la especie. Y agrega el papa: “Por ello es necesario distinguir con claridad: una cosa es integrar las tecnologías en una visión humana y relacional; otra es dejarse guiar por un imaginario que desprecia el límite y promete una salvación puramente técnica”,
A esta altura el pontífice lanza una oración que será leída y analizada en el mundo entero: “hoy nuestra relación con la vida parece estar en crisis. Todo lo que representa un límite -incapacidad, enfermedad, ancianidad, sufrimiento, vulnerabilidad- tiende a ser leído principalmente como un defecto que hay que corregir, más que como un espacio en el que el ser humano madura y se abre a la relación”.
El Papa insiste con la idea de que los sueños prometeicos, lo que salva lo humano, no es la autosuficiencia potenciada, sino una relación que libera, una comunión que transforma. Y más aún, una tecnología que clasifica y optimiza lo que ya existe puede ser, sin querer, un obstáculo al cambio y al crecimiento.
Para un algoritmo, el error es algo que hay que corregir, al tiempo que para una persona puede ser el inicio de un cambio profundo. El futuro de una persona no es calculable, sino que está confiado a su libertad y a las relaciones que cultiva.
En un momento de la presentación de su primera encíclica el papa León XIV aseguró, señalando a Chris Olah (quien fuera cofundador de Anthropic), palabras destinadas a ceñir todavía más el sentido de sus palabras: “el hecho de que un ingeniero de inteligencia artificial -y no un simple magnate de la industria- ocupe un lugar en la presentación de una encíclica papal es una señal clara: la Iglesia no habla en contra de Silicon Valley, sino con sus protagonistas más reflexivos.
Anthropic es una empresa que ha situado la seguridad y la interpretabilidad de la inteligencia artificial en el centro de su misión. La encíclica invoca precisamente esto: transparencia, responsabilidad y lo que León XIV denomina el “desarme” de la IA, es decir sustraerla de la lógica de la competencia para devolverla a la pluralidad de las culturas humanas y de las formas de vida”.