El papa León XIV advierte sobre el uso sin control de la IA y los chatbots demasiado "afectuosos"

El papa León XIV se ha unido a una creciente lista de voces influyentes que advierten sobre el uso sin control de la inteligencia artificial, mientras los estudios indican una creciente preocupación mundial sobre los riesgos que representa para la humanidad, incluyendo la privacidad, el empleo y la seguridad.

“La tecnología digital, cuando no se gestiona adecuadamente, corre el riesgo de alterar radicalmente algunos de los pilares fundamentales de la civilización humana, que a veces damos por sentados”, escribió el papa el sábado en un mensaje compartido en la Memoria de San Francisco de Sales en Ciudad del Vaticano.

“Al simular voces y rostros humanos, sabiduría y conocimiento, conciencia y responsabilidad, empatía y amistad, los sistemas conocidos como inteligencia artificial no solo interfieren en los ecosistemas de información, sino que también invaden el nivel más profundo de la comunicación: la relación entre las personas”.

La advertencia del pontífice nacido en Estados Unidos se produce antes de la 60.ª Jornada Mundial de las Comunicaciones Sociales de la Iglesia católica, que se celebrará el 17 de mayo de este año.

Aunque apoya la adopción de los beneficios de la IA y la tecnología digital, León XIV instó a la cooperación mundial para minimizar los riesgos para la humanidad, que, según dijo, pueden ser tanto sutiles como intencionadamente seductores.

“Aunque la IA puede proporcionar apoyo y asistencia en la gestión de tareas comunicativas, eludiendo el esfuerzo de pensar por nosotros mismos y conformándonos con una compilación estadística artificial, a la larga corre el riesgo de erosionar nuestras capacidades cognitivas, emocionales y comunicativas”, señaló.

“En los últimos años, los sistemas de inteligencia artificial han tomado cada vez más el control de la producción de textos, música y videos. Gran parte de la industria creativa humana corre así el riesgo de ser desmantelada y sustituida por la etiqueta 'Impulsado por IA', convirtiendo a las personas en meros consumidores pasivos de productos anónimos, no pensados, carentes de autoría y de amor”, continuó. “Mientras tanto, las obras maestras del genio humano en los campos de la música, el arte y la literatura quedan reducidas a un mero campo de entrenamiento para las máquinas”.

Cada vez es más difícil para las personas distinguir entre humanos y “bots” virtuales en las redes sociales, afirmó el papa, diciendo que los bots se utilizan para manipular sus decisiones.

“Las intervenciones opacas de estos agentes automatizados influyen en los debates públicos y en las decisiones de las personas. En particular, los chatbots basados en grandes modelos lingüísticos (LLM, por sus siglas en inglés) están demostrando ser sorprendentemente eficaces en la persuasión encubierta a través de la optimización continua de interacciones personalizadas. La estructura dialógica, adaptativa y mimética de estos modelos lingüísticos es capaz de imitar los sentimientos humanos y simular así una relación”, escribió el papa León.

“Esta antropomorfización, que puede llegar a ser divertida, es al mismo tiempo engañosa, especialmente para los más vulnerables. Los chatbots demasiado 'afectuosos', además de estar siempre presentes y fácilmente disponibles, pueden convertirse en arquitectos ocultos de nuestros estados emocionales, invadiendo y ocupando así la esfera de la intimidad de las personas”, explicó.

León XIV advirtió contra la desinformación que surge de la aceptación de “aproximaciones a la verdad” creadas por la IA mediante probabilidad estadística, en lugar de confiar en el periodismo verificado, “que implica el trabajo continuo de recopilar y verificar información en el lugar de los hechos”.

El mes pasado, la revista TIME nombró a los arquitectos de la IA como su “Persona del Año 2025”. El papa León señaló en su discurso que “solo un puñado de empresas” han creado efectivamente un control oligárquico sobre los sistemas de IA que podrían reescribir la historia de la humanidad y de la Iglesia si se les permite.

“Esto plantea serias preocupaciones sobre el control del oligopolio sobre los sistemas algorítmicos y de IA capaces de moldear sutilmente el comportamiento e incluso reescribir la historia de la humanidad —incluida la historia de la Iglesia— a menudo sin que nos demos cuenta”, dijo.

“El reto que tenemos por delante no es detener la innovación digital, sino guiarla y ser conscientes de su naturaleza ambivalente. Depende de cada uno de nosotros alzar la voz en defensa del ser humano para que estas herramientas puedan ser verdaderamente acogidas por nosotros como aliadas”, añadió.

El mensaje del papa llega días después de que el renombrado historiador Yuval Noah Harari advirtiera a los líderes mundiales en el Foro Económico Mundial de Davos, Suiza, el pasado martes, que la IA no debe confundirse con una herramienta, sino con un agente pensante que puede crear cosas nuevas y tomar decisiones que probablemente dejarán a la humanidad en una crisis de identidad en los próximos años.

“Siempre pensamos que podemos usar estas cosas como herramientas. Pero si pueden pensar, son agentes”, advirtió Harari, investigador distinguido de la Universidad de Cambridge en su Centro para el Estudio del Riesgo Existencial.

“Hay una pregunta que todo líder debe responder hoy sobre la IA. Pero para entender esa pregunta, primero debemos aclarar algunos puntos sobre qué es la IA y qué puede hacer. Lo más importante que hay que saber sobre la IA es que no es solo otra herramienta. Es un agente”, declaró.

“Puede aprender y cambiar por sí misma y tomar decisiones por sí misma. Un cuchillo es una herramienta. Puedes usar un cuchillo para cortar una ensalada o para asesinar a alguien, pero es tu decisión qué hacer con el cuchillo. La IA es un cuchillo que puede decidir por sí mismo si cortar una ensalada o cometer un asesinato”.