Roma.- El papa Francisco pidió el jueves un tratado internacional para garantizar que la inteligencia artificial se desarrolla y se usa de forma ética, y apuntó que los riesgos de una tecnología que carece que los valores humanos de compasión, misericordia, moralidad y perdón son demasiado grandes.
El pontífice argentino se sumó a los crecientes llamados en favor de una regulación global vinculante para la IA en su mensaje anual para la Jornada Mundial de la Paz, que la Iglesia católica celebra cada 1 de enero. El Vaticano hizo público el texto del mensaje del jueves.
Para Francisco, la petición tiene algo de personal: a principios de año, una imagen generada por inteligencia artificial en la que aparecía vestido con un lujoso abrigo largo de color blanco se hizo viral, demostrando lo rápido que puede propagarse una imagen realista falsa por internet.
El mensaje del papa se hizo público días después de que los negociadores de la Unión Europa lograron la aprobación provisional de la primera normativa sobre IA del mundo, que se espera que sirva como ejemplo para los gobiernos que consideren elaborar su propia legislación.
La inteligencia artificial ha acaparado la atención mundial en el último año gracias a los impresionantes avances de sistemas revolucionarios como el ChatGPT de OpenAI, que ha encandilado a sus usuarios con su capacidad para producir textos, imágenes y canciones similares a los creados por los humanos. Pero también ha generado temores por los riesgos que esta tecnología de rápido desarrollo plantea para el empleo, la privacidad, la protección de los derechos de autor y hasta para la propia vida de los humanos.
Francisco reconoció la promesa que ofrece la IA y elogió los avances tecnológicos como una manifestación de la creatividad de la inteligencia humana, haciéndose eco del mensaje del Vaticano en la Asamblea General de Naciones Unidas de este año, donde varios líderes mundiales presentaron las ventajas y los peligros de la tecnología.
Pero su nuevo mensaje de paz fue más allá e hizo hincapié en las graves preocupaciones existenciales planteadas por los defensores de la ética y los derechos humanos acerca de la tecnología que promete transformar la vida cotidiana de forma que puede alterarlo todo, desde las elecciones democráticas al arte.
El pontífice insistió en que el desarrollo tecnológico y el despliegue de la IA deben priorizar la preocupación por garantizar los derechos humanos fundamentales, promover la paz y proteger de la desinformación, la discriminación y la distorsión.
Su principal alarma fue sobre el uso de la inteligencia artificial en el sector armamentístico, que ha sido un objetivo recurrente del jesuita, quien llegó a llamar “mercaderes de la muerte” a los fabricantes de armas tradicionales.
Según el papa, los sistemas para controlar las armas de forma remota han conducido al “distanciamiento de la inmensa tragedia de la guerra y a una menor percepción de la devastación que causan y de la responsabilidad de su uso”.
“La capacidad única de juicio moral y de toma de decisiones éticas es más que una compleja colección de algoritmos, y esa capacidad no puede reducirse a programar una máquina”, escribió.
Francisco pidió además una supervisión humana “adecuada, significativa y coherente” de los Sistemas de Armas Autónomas Letales (LAWS, por sus siglas en inglés), alegando que el mundo no necesita nuevas tecnologías que “acaban promoviendo la locura de la guerra”.
JFF