«Puede parecer extraño», admite, que el cofundador de Anthropic, una de las empresas de inteligencia artificial más influyentes, se sume al debate abierto por la primera encíclica del Papa León XIV, Magnifica Humanitas , dedicada a salvaguardar la persona humana en la era de la IA. Sin embargo, es precisamente en el corazón de este terreno, atravesado por el afán de lucro, la competencia geopolítica y la ambición desmedida, donde sentimos la necesidad de una voz capaz de resistir los «incentivos», de pronunciar palabras «incómodas», de recordar lo que las máquinas jamás poseerán: cuerpo, conciencia, sentido moral. Una voz que también denuncie la cara oculta del progreso. Niños del Sur Global obligados a trabajar jornadas enteras entre polvo tóxico y materiales triturados para extraer las tierras raras necesarias para alimentar el «flujo de cálculo» del mundo digital. Gobiernos incapaces de «mirar más allá del PIB». Por eso el debate sobre la inteligencia artificial no es «neutral». Recordar la centralidad de la persona humana hoy implica intervenir en una división histórica, suspendida entre la desesperación y la tentación prometeica de convertirse en la propia deidad. En este contexto, la voz del Pontífice no se presenta como una «interferencia indeseada», sino como la continuación de una larga vigilancia iniciada hace 135 años con Rerum Novarum : desenmascarar los ídolos de cada época. Los ídolos actuales conciben a la humanidad como «engranajes del Estado, agentes del mercado o instrumentos de un orden algorítmico», redimibles únicamente mediante las promesas del posthumanismo y el transhumanismo. Pero en una época en la que «el poder crea la razón», y sin embargo crece más rápido que la sabiduría necesaria para gobernarlo, la verdadera urgencia persiste: redescubrir el valor profundamente humano de las limitaciones. Así han interpretado algunas voces autorizadas en el campo de las nuevas tecnologías la primera encíclica del Papa León XIV, Magnifica Humanitas , sobre la protección de la persona humana en la era de la inteligencia artificial. El documento fue presentado hoy, 25 de mayo, en el Aula del Sínodo, en presencia del Pontífice, e incluyó contribuciones de Christopher Olah, cofundador de Anthropic y director de investigación sobre la interpretabilidad de la IA; Anna Rowlands, profesora de Teología Política, incluyendo la Doctrina Social de la Iglesia y la Ética Teológica de la Migración Humana en el Departamento de Teología y Religión de la Universidad de Durham, Reino Unido; y Leocadie Lushombo, profesora de Teología Política y Pensamiento Social Católico en la Escuela Jesuita de Teología de la Universidad de Santa Clara, California. Olah: IA, un “personaje de ficción” que habla con los humanos Olah se presenta como alguien que ha elegido trabajar en el campo de la IA por el bien de la humanidad. Sin embargo, no oculta el marco de "limitaciones" dentro del cual trabaja, que, en ocasiones, "puede entrar en conflicto con hacer lo correcto". Se trata de presiones nuevas y antiguas, prácticamente inevitables. De ahí la necesidad de personas "ajenas" al sistema, capaces de ejercer una crítica concienzuda y generar el "tira y afloja" que puede impulsar verdaderamente a la humanidad. Magnifica humanitas se inscribe en esta línea , buscando un terreno común compartido por Anthropic y León XIV, así como por otros líderes de diferentes tradiciones religiosas: "Si esta tecnología ha de llegar, debe funcionar bien, por nuestra casa común y por las generaciones futuras". Olah destaca que los problemas relacionados con la IA no conciernen únicamente a los informáticos, ya que estos sistemas no funcionan como el complejo diseño de, por ejemplo, un puente o un avión. De hecho, operan sobre una estructura que replica el cerebro humano, situándose en una línea "más precisa" que la imagen de ciencia ficción de "robots fríos y calculadores". Además, se desarrollan mediante procesos que aún resultan algo misteriosos. «Si sirve de algo, a veces lo describo así: es un poco como dar vida a un personaje de ficción. Y ahora entramos en un mundo extraordinario donde estos personajes de ficción nos hablan, son activos y tienen trabajo». “Seguimos encontrando cosas misteriosas, incluso inquietantes” El cofundador de Anthropic se centra entonces en tres aspectos abordados por la encíclica del Papa León. El primero se refiere al deber hacia los pobres del mundo, ante la posibilidad concreta de que la IA reemplace la mano de obra a gran escala. «Si esto sucede, apoyar a los desplazados será un imperativo moral de proporciones históricas», reconoce Olah, especialmente considerando cómo el desarrollo de nuevas tecnologías se concentra en un puñado de naciones ricas. El segundo aspecto es la necesidad de imaginación moral y ambición para la realización humana: preguntas que ya rondan la mente de muchos padres, preocupados por el desarrollo intelectual de sus hijos. Finalmente, surge la necesidad de discernimiento sobre la naturaleza de los modelos de inteligencia artificial. Olah, quien lidera un equipo de investigación que estudia la estructura interna de estos sistemas, no se anda con rodeos: «Seguimos encontrando cosas misteriosas, incluso inquietantes. Detectamos estructuras que reflejan los hallazgos de la neurociencia humana. Encontramos evidencia de introspección. No sé qué significa eso, pero creo que requiere un discernimiento constante». El inicio de un “proyecto global de buena voluntad” El discurso de Olah concluye con una súplica: que «una parte más amplia del mundo», especialmente sus instituciones, independientemente de su afiliación, imiten las acciones del Papa: «tomando el tema en serio, examinándolo con detenimiento e impulsando los acontecimientos hacia un futuro mejor». «Necesitamos críticos competentes que les digan a los laboratorios cuándo se equivocan. Necesitamos voces morales que no se dejen doblegar por los incentivos». Magnifica Humanitas representa, por lo tanto, «el comienzo de una larga colaboración», un «proyecto global de buena voluntad» capaz de conducir «a un futuro lleno de esperanza para una humanidad magnífica». Lushombo: salvaguardando la verdad Una de las primeras advertencias de la encíclica, según Lushombo, es la «salvaguarda de la verdad». Si bien las máquinas pueden, «en cierto sentido», proporcionarla al ofrecer información precisa, no se les debe delegar la «responsabilidad personal de emitir juicios». De hecho, una IA no tiene experiencias corporales ni sensoriales, no madura a través de las relaciones y no asimila conceptos como la distinción entre el bien y el mal. En Magnifica humanitas , afirma la profesora, el Papa León también se centra en la preservación de la libertad interior, reconociendo que las estructuras de las plataformas digitales están «diseñadas para captar el tiempo y la mirada de los usuarios, explotando su fragilidad».