El papa León XIV advirtió sobre los riesgos de la inteligencia artificial en un mensaje previo a la Jornada Mundial de las Comunicaciones Sociales de la Iglesia Católica. El sumo pontífice expresó su preocupación por los chatbots “demasiado afectuosos” que pueden comprometer la privacidad de las personas y pidió la implementación de un marco ético para proteger a los usuarios.
En su mensaje, el líder del Vaticano también manifestó inquietud por la concentración de poder en el sector de la inteligencia artificial, actualmente dominado por un reducido grupo de empresas. Además, destacó la dificultad creciente para distinguir entre interacciones con seres humanos, bots e influencers virtuales.
Los peligros de los chatbots excesivamente afectuosos según el papa
“A medida que navegamos por fuentes de información, resulta cada vez más difícil comprender si estamos interactuando con otros seres humanos, bots o influencers virtuales”, escribió el máximo representante de la Iglesia Católica. La declaración refleja una preocupación creciente sobre el impacto de estas tecnologías en la vida cotidiana.
El pontífice agregó que los chatbots excesivamente afectuosos, además de estar siempre presentes y disponibles, pueden convertirse en “arquitectos ocultos” de los estados emocionales de las personas. De esta manera, según advirtió, estas herramientas pueden invadir y ocupar la intimidad de los usuarios.
El caso que impulsó la reflexión del Vaticano sobre la inteligencia artificial
El comentario de León XIV —conocido por su mayor apego a la tecnología en relación a sus antecesores— no pasa desapercibido en una era donde las conversaciones con entidades sintéticas han ganado protagonismo. En algunos casos, estas interacciones han conducido a situaciones problemáticas y riesgosas.
Según recuerda CNN, el sumo pontífice se reunió a fines del año pasado con la madre de Sewell Setzer, un adolescente que se suicidó tras interactuar con un chatbot. El joven supuestamente recibió indicaciones sobre autolesiones a través de estas conversaciones digitales.
Poco después de ser elegido, el sucesor del papa Francisco declaró que la inteligencia artificial sería un tema central en su papado. En ese momento, exigió la implementación de un marco ético para regular estas tecnologías emergentes.
La necesidad de regulación para proteger la privacidad
“Una regulación adecuada puede proteger a las personas de un apego emocional a los chatbots y contener la difusión de contenido falso, manipulador o engañoso”, escribió el papa en su reciente mensaje. La propuesta busca preservar la integridad de la información contra su simulación engañosa.
Además, el líder del Vaticano notó la importancia de los recursos que permitan una distinción clara entre el contenido generado con inteligencia artificial y aquel que surge de las personas. Este debate atañe a diversos sectores, entre ellos los ámbitos del arte y de la información.
“La autoría y la propiedad soberana del trabajo de los periodistas y otros creadores de contenido deben protegerse”, comentó. La afirmación subraya la necesidad de salvaguardar los derechos de los profesionales en la era digital.
Un desafío antropológico para la humanidad
León XIV también describió la inteligencia artificial como un “desafío antropológico”, con el argumento de que los riesgos asociados a su uso afectan la esencia de la identidad humana. Según el pontífice, estas tecnologías impactan en aspectos fundamentales como la creatividad, el juicio y la responsabilidad.
Finalmente, el sumo pontífice manifestó su preocupación por la concentración de poder en el negocio de la tecnología. Señaló que es inconveniente que un grupo reducido tenga “control sobre sistemas algorítmicos y de IA que pueden moldear sutilmente el comportamiento e incluso reescribir la historia de la humanidad”.
Al respecto, advirtió que este control puede ejercerse sobre la historia de la Iglesia misma, “a menudo sin que nos demos cuenta”. La afirmación resalta los riesgos de manipulación que estas herramientas pueden representar.
La inspiración detrás del nombre papal León XIV
El año pasado, el sumo pontífice sorprendió al señalar que la elección de su nombre papal se inspiró, en parte, en el auge de la inteligencia artificial. La revelación ocurrió durante un discurso en el que trazó paralelismos entre el despliegue de estas tecnologías con la Revolución Industrial.
En la ocasión, el papa nacido en Estados Unidos explicó que eligió el nombre León XIV principalmente porque el Papa León XIII abordó la cuestión social durante la primera gran revolución industrial. “En nuestros días, la Iglesia ofrece a todos el tesoro de su doctrina social en respuesta a otra revolución industrial”, afirmó.
La edición de este año del Día Mundial de las Comunicaciones Sociales se celebrará el 17 de mayo, según informó la fuente. En esta ocasión, el evento se centrará en la protección de la dignidad humana en la era de la innovación tecnológica.