Con su primera encíclica, ‘ Magnifica humanitas ‘ (Magnífica humanidad), el Papa León XIV propone a la sociedad actual interrogarse «sobre el mundo que estamos construyendo y qué significa custodiar a la persona humana en el tiempo de la IA». Es un largo documento de más de cien páginas en el que presenta con preocupación el funcionamiento de estas tecnologías, denuncia su uso para «la manipulación y la guerra», y propone modos de garantizar que no eclipse el sentido de humanidad. Por primera vez en la historia, el mismo Papa que la ha escrito la ha presentado y explicado. En un encuentro este lunes en el Vaticano ha dicho que la encíclica es fruto de meses de escucha a científicos e ingenieros «entusiasmados por esta tecnología», líderes políticos que buscan promover «normas equitativas», y matrimonios y maestros «preocupados por el futuro de los jóvenes». Con dramatismo ha confesado haber «escuchado otras voces muy preocupantes sobre sistemas de armas cada vez más autónomos, que prácticamente ningún ser humano ni ningún gobierno puede controlar realmente. Me llegan relatos muy alarmantes sobre algoritmos que pueden bloquear el acceso a la asistencia sanitaria, al trabajo y a la seguridad basándose en datos contaminados por prejuicios e injusticias». Esto le ha llevado a proponer con urgencia el «desarme de la inteligencia artificial».Noticia relacionada general No No León XIV pide en su primera encíclica «desarmar la IA» y superar «la teoría de la ‘guerra justa’» Javier Martínez-Brocal«Sé que se trata de una expresión contundente, pero la he escrito a propósito porque el momento actual requiere palabras capaces de llamar la atención, despertar las conciencias y señalar el camino que debe seguir la humanidad», ha dicho. Plantea que igual que la Iglesia ha trabajado por el desarme nuclear, ahora debe ayudar a mostrar las implicaciones morales de la IA. En ‘Magnifica humanitas’ intenta desvelar la lógica con que trabaja la IA, y que «la convierte en un instrumento de dominación, exclusión y muerte». «Igual que ocurrió con la energía nuclear, la IA debe estar al servicio de todos», subraya. Aparte de la cuestión bélica, afronta tanto los desafíos antropológicos que plantea esta tecnología como los sociales, que aumentarían la brecha entre países ricos y pobres. Lanza propuestas muy originales sobre cómo regularla y mantenerla bajo control, qué significa que funcione de un modo «ético», o cómo debe prepararse a los jóvenes en el colegio para convivir con ella sin deshumanizarse. Recuerda que «cada generación recibe como herencia la tarea de dar forma a su propio tiempo». La actual tiene por delante un desafío enorme, pues si se equivoca, puede convertir el mundo en un lugar «inhumano e injusto».Estos ocho puntos de ‘Magnifica humanitas’ son sus ideas clave.1. La premisa: ¿Qué mundo estamos construyendo?El Papa dice que la verdadera alternativa ante la IA «no está entre el entusiasmo y el miedo, sino entre dos modos de construir: un progreso que sirve a la persona y a los pueblos, o un progreso que los doblega a lógicas de poder». Por eso llama a «proteger el primado de la persona» para que lo que «guíe las innovaciones técnicas y establezca con responsabilidad su uso y sus límites» no sea el mercado sino «la inteligencia humana, con su conciencia y su libertad».2. Ética de la IA: ¿Cómo se sabe si una IA es buena o mala?Una de las principales aportaciones es un método para «custodiar a la persona humana en el tiempo de la IA». León XIV propone como « criterios para juzgar si las tecnologías sirven realmente a la humanidad o terminan por someterla» los principios de la Doctrina social («dignidad de la persona, bien común, destino universal de los bienes, subsidiariedad, solidaridad y justicia»).Avisa de que no es suficiente que una IA se presente a sí misma como «ética». Dice que son necesarios «marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea» que lo verifique. Y avisa de que para que una IA sea ética, no basta que esté «alineada» con valores humanos. El Papa dice que debe ser posible «discutir el código ético que debe ser usado, sometiéndolo a criterios de justicia social compartida. De lo contrario, quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas». «No serviría de nada una IA más moral, si esta moral es decidida por unos pocos».3. Responsabilidad: el papel del Estado y el de la sociedadLeón XIV pide sobre todo a «los protagonistas de este ámbito —científicos, empresarios, inversionistas, autoridades académicas, políticos, entre otros» que no cooperen «en proyectos oscuros que alimentan nuevas formas de violencia, manipulación y dominio». Y luego moviliza a todos los católicos pues «nadie está exento de responsabilidad» ante la IA. «Cada uno dispone de un ámbito propio de acción, y ahí —no en otro lugar— está llamado a elegir si alimenta la lógica de la fuerza —aunque sea solo con indiferencia, cinismo, mentira y odio—; o si promueve la lógica de la paz —con verdad, sobriedad, cercanía y cuidado», explica.Ve imprescindible que se impliquen todos los sectores de la sociedad, desde las familias hasta los gobiernos, pues «el progreso tecnológico genera automáticamente desigualdades estructurales si las transformaciones no se gestionan, desde la fase de planificación». Por lo tanto, pide «adoptar instrumentos normativos adecuados, capaces de salvaguardar la justicia y de contener los efectos distorsionadores del poder tecnológico». También considera que «la propiedad de los datos no puede confiarse solo al sector privado, sino que debe reglamentarse» pues si no, se dejará en manos de «pequeños grupos muy influyentes» la capacidad de «orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social y la solidaridad entre los pueblos». «Pero la cuestión no se limita a la regulación, debemos preguntarnos con realismo quién detenta hoy ese poder y hacia qué fines lo orienta».4. Nuevas potencias globales: ¿De quién es la IA?El Papa retoma el «principio del destino universal de los bienes», que ya invocó León XIII y desarrolló Juan Pablo II. Según este, recursos como el suelo, el agua, el aire y los recursos naturales «han sido dados por Dios a toda la familia humana para sostener la vida de todos, hoy y en las futuras generaciones, y toda persona tiene un derecho originario al uso de dichos bienes». Por eso, no pueden usarse «de modo tal que sus beneficios favorezcan solo a unos pocos». Ve imprescindible que se impliquen todos los sectores de la sociedad, desde las familias hasta los gobiernosConsidera que entre esos se incluyen «nuevas formas de propiedad: patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas, datos». «Si la riqueza de las naciones depende cada vez más de conocimientos y tecnologías, cuando estos quedan concentrados en las manos de unos pocos, sin adecuadas formas de intercambio y de acceso, se crea un nuevo desequilibrio que contradice el destino universal de los bienes y alimenta la brecha entre incluidos y excluidos, entre quienes pueden participar en la revolución digital y quienes permanecen al margen».León XIV solicita «asegurar el acceso universal a las tecnologías y a la formación» ya que lo que está en juego es «el surgimiento de nuevas formas de exclusión y privación de la libertad: personas y pueblos a los que se les niega o dificulta el acceso a las tecnologías básicas, comunidades expuestas a vigilancia invasiva y grupos sociales perjudicados por algoritmos opacos que reproducen prejuicios y discriminaciones». Por eso, propone garantizar «un acceso igualitario a las oportunidades» y «someter a control público el uso de los datos y de las tecnologías, de modo que el criterio no sea solo el beneficio sino la dignidad de cada persona y el bien de los pueblos».5. Uso bélico de la IA: no hay ‘guerra justa’ y se debe desarmar a la IAA León XIV le preocupa que el mundo ha entrado «en estado de beligerancia permanente» y que se está «rehabilitando la guerra como instrumento de política internacional». Esto lleva a «presentar la violencia como necesaria, inevitable o incluso limpia» y a utilizar la IA como si fuera «neutral». Por eso, reitera «la superación de la teoría de la ‘guerra justa’, invocada con demasiada frecuencia para justificar cualquier guerra, sin perjuicio del derecho a la legítima defensa, entendida en el sentido más estricto». «La humanidad cuenta con instrumentos mucho más eficaces y capaces de promover la vida humana para afrontar los conflictos, como el diálogo, la diplomacia y el perdón», añade. León XIV reitera «la superación de la teoría de la ‘guerra justa’, invocada con demasiada frecuencia para justificar cualquier guerra, sin perjuicio del derecho a la legítima defensa, entendida en el sentido más estricto»León XIV considera que la propuesta más contundente de su carta es la de «desarmar la IA» ya que usarla como arma , «confiar a un algoritmo el poder de seleccionar quién es digno (de vivir) y quién no, sin que nadie asuma el peso de la decisión, significa encomendarle la tarea de redefinir los límites de las posibilidades humanas».Dice que cuando se usa este tipo de arsenal, «debe seguir siendo identificable y verificable la cadena de responsabilidades: quienes planifican, entrenan, autorizan y emplean deben poder rendir cuentas de sus decisiones»; y que «la selección de objetivos y el uso de la fuerza no deben confundir a combatientes y civiles, ni ignorar el impacto sobre las poblaciones indefensas».6. Educar en tiempos de IA: aprender a interesarse por la verdad para proteger la democraciaEl Pontífice defiende que «educar en el uso de la IA sea educar para decidir cuándo y para qué no utilizarla». «La rapidez y la facilidad con las que se obtiene una respuesta o una síntesis hacen correr el riesgo de que se apague el deseo de plantear preguntas». «Debemos aprender a prescindir de la IA y proteger a nuestros jóvenes (…) de esa sutil seducción que hace parecer inútil el pensamiento humano, precisamente cuando más se necesita».El Pontífice defiende que «educar en el uso de la IA sea educar para decidir cuándo y para qué no utilizarla»Lo que está en juego es el «amor por la verdad», que desaparece cuando una multiplicación de «conocimientos fragmentarios» impide «captar la realidad en su conjunto, plantear preguntas sobre el sentido de las cosas y desarrollar un auténtico pensamiento crítico y creativo». «Cuando la pregunta sobre lo que es verdadero pierde interés y se impone un pragmatismo que se conforma con lo que parece útil o eficaz, la vida democrática se debilita. Esta, en efecto, no se sustenta únicamente en normas y procedimientos, sino, ante todo, en una relación leal con los hechos y en una orientación real hacia el bien de las personas y del conjunto de la sociedad», avisa. 7. Lo parece, pero no es: salvar lo humanoEl Papa pide «no equiparar esta ‘inteligencia’ (artificial) a la humana», pues se trata de una tecnología «ligada exclusivamente al tratamiento de datos». Las IA «no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias». (…) «No es la experiencia de quien se deja modelar por la vida y crece en el tiempo por medio de decisiones, errores, perdón y fidelidad; es más bien una adaptación estadística a partir de datos y retroalimentaciones, que puede ser muy eficaz, pero no implica un crecimiento interior».Su propuesta es «cuidar las relaciones» ya que «el corazón humano conserva una necesidad irrenunciable de proximidad». «Invito a salvaguardar los espacios y los momentos en que la presencia física sigue siendo decisiva: la mesa compartida, la comunidad cristiana que se reúne, la visita a quien está solo, el servicio a los pobres», recalca.8. No solo santos y teólogos: Platón, Tolkien y PicassoAparte de a san Agustín, Benedicto XVI o el Papa Francisco, León XIV cita en su primera encíclica a varios autores no habituales en encíclicas papales . Es el caso de Platón, para quien «las cosas más profundas e importantes solo se aprenden tras mucho tiempo y mucho esfuerzo, comprometiéndose en la discusión con los demás». También menciona ‘Los orígenes del totalitarismo’ de Hannah Arendt, donde recordaba que los súbditos ideales no son aquellos ideológicamente convencidos, sino «las personas para quienes ya no existe la distinción entre el hecho y la ficción (es decir, la realidad de la experiencia) y la distinción entre lo verdadero y lo falso (es decir, las normas del pensamiento)».Incluye una cita del personaje Gandalf de ‘El Señor de los Anillos’ , de J. R. R. Tolkien, («No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir»), y otra de Viktor Frankl en ‘El hombre en busca de sentido’, donde describía la paradoja de que en los momentos de horror «hemos llegado a conocer al hombre en estado puro». También atribuye valor «profético» a tres obras: «la Novena Sinfonía de Beethoven como deseo de unidad; el Guernica de Picasso como denuncia de la deshumanización; ‘La lista de Schindler’ como una invitación a no entregar el pasado al olvido».Para quienes se desanimen ante la magnitud del problema menciona momentos en los que la historia ha cambiado gracias a que «al menos un solo hombre o una sola mujer se ha tomado en serio la dignidad de todos». Cita entre otros «el movimiento por los derechos civiles en los Estados Unidos de América, vinculado al testimonio de Martin Luther King Jr., o el fin del apartheid en Sudáfrica después de la liberación de Nelson Mandela y su decisión de no poner el futuro en manos del odio». Con su primera encíclica, ‘ Magnifica humanitas ‘ (Magnífica humanidad), el Papa León XIV propone a la sociedad actual interrogarse «sobre el mundo que estamos construyendo y qué significa custodiar a la persona humana en el tiempo de la IA». Es un largo documento de más de cien páginas en el que presenta con preocupación el funcionamiento de estas tecnologías, denuncia su uso para «la manipulación y la guerra», y propone modos de garantizar que no eclipse el sentido de humanidad. Por primera vez en la historia, el mismo Papa que la ha escrito la ha presentado y explicado. En un encuentro este lunes en el Vaticano ha dicho que la encíclica es fruto de meses de escucha a científicos e ingenieros «entusiasmados por esta tecnología», líderes políticos que buscan promover «normas equitativas», y matrimonios y maestros «preocupados por el futuro de los jóvenes». Con dramatismo ha confesado haber «escuchado otras voces muy preocupantes sobre sistemas de armas cada vez más autónomos, que prácticamente ningún ser humano ni ningún gobierno puede controlar realmente. Me llegan relatos muy alarmantes sobre algoritmos que pueden bloquear el acceso a la asistencia sanitaria, al trabajo y a la seguridad basándose en datos contaminados por prejuicios e injusticias». Esto le ha llevado a proponer con urgencia el «desarme de la inteligencia artificial».Noticia relacionada general No No León XIV pide en su primera encíclica «desarmar la IA» y superar «la teoría de la ‘guerra justa’» Javier Martínez-Brocal«Sé que se trata de una expresión contundente, pero la he escrito a propósito porque el momento actual requiere palabras capaces de llamar la atención, despertar las conciencias y señalar el camino que debe seguir la humanidad», ha dicho. Plantea que igual que la Iglesia ha trabajado por el desarme nuclear, ahora debe ayudar a mostrar las implicaciones morales de la IA. En ‘Magnifica humanitas’ intenta desvelar la lógica con que trabaja la IA, y que «la convierte en un instrumento de dominación, exclusión y muerte». «Igual que ocurrió con la energía nuclear, la IA debe estar al servicio de todos», subraya. Aparte de la cuestión bélica, afronta tanto los desafíos antropológicos que plantea esta tecnología como los sociales, que aumentarían la brecha entre países ricos y pobres. Lanza propuestas muy originales sobre cómo regularla y mantenerla bajo control, qué significa que funcione de un modo «ético», o cómo debe prepararse a los jóvenes en el colegio para convivir con ella sin deshumanizarse. Recuerda que «cada generación recibe como herencia la tarea de dar forma a su propio tiempo». La actual tiene por delante un desafío enorme, pues si se equivoca, puede convertir el mundo en un lugar «inhumano e injusto».Estos ocho puntos de ‘Magnifica humanitas’ son sus ideas clave.1. La premisa: ¿Qué mundo estamos construyendo?El Papa dice que la verdadera alternativa ante la IA «no está entre el entusiasmo y el miedo, sino entre dos modos de construir: un progreso que sirve a la persona y a los pueblos, o un progreso que los doblega a lógicas de poder». Por eso llama a «proteger el primado de la persona» para que lo que «guíe las innovaciones técnicas y establezca con responsabilidad su uso y sus límites» no sea el mercado sino «la inteligencia humana, con su conciencia y su libertad».2. Ética de la IA: ¿Cómo se sabe si una IA es buena o mala?Una de las principales aportaciones es un método para «custodiar a la persona humana en el tiempo de la IA». León XIV propone como « criterios para juzgar si las tecnologías sirven realmente a la humanidad o terminan por someterla» los principios de la Doctrina social («dignidad de la persona, bien común, destino universal de los bienes, subsidiariedad, solidaridad y justicia»).Avisa de que no es suficiente que una IA se presente a sí misma como «ética». Dice que son necesarios «marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea» que lo verifique. Y avisa de que para que una IA sea ética, no basta que esté «alineada» con valores humanos. El Papa dice que debe ser posible «discutir el código ético que debe ser usado, sometiéndolo a criterios de justicia social compartida. De lo contrario, quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas». «No serviría de nada una IA más moral, si esta moral es decidida por unos pocos».3. Responsabilidad: el papel del Estado y el de la sociedadLeón XIV pide sobre todo a «los protagonistas de este ámbito —científicos, empresarios, inversionistas, autoridades académicas, políticos, entre otros» que no cooperen «en proyectos oscuros que alimentan nuevas formas de violencia, manipulación y dominio». Y luego moviliza a todos los católicos pues «nadie está exento de responsabilidad» ante la IA. «Cada uno dispone de un ámbito propio de acción, y ahí —no en otro lugar— está llamado a elegir si alimenta la lógica de la fuerza —aunque sea solo con indiferencia, cinismo, mentira y odio—; o si promueve la lógica de la paz —con verdad, sobriedad, cercanía y cuidado», explica.Ve imprescindible que se impliquen todos los sectores de la sociedad, desde las familias hasta los gobiernos, pues «el progreso tecnológico genera automáticamente desigualdades estructurales si las transformaciones no se gestionan, desde la fase de planificación». Por lo tanto, pide «adoptar instrumentos normativos adecuados, capaces de salvaguardar la justicia y de contener los efectos distorsionadores del poder tecnológico». También considera que «la propiedad de los datos no puede confiarse solo al sector privado, sino que debe reglamentarse» pues si no, se dejará en manos de «pequeños grupos muy influyentes» la capacidad de «orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social y la solidaridad entre los pueblos». «Pero la cuestión no se limita a la regulación, debemos preguntarnos con realismo quién detenta hoy ese poder y hacia qué fines lo orienta».4. Nuevas potencias globales: ¿De quién es la IA?El Papa retoma el «principio del destino universal de los bienes», que ya invocó León XIII y desarrolló Juan Pablo II. Según este, recursos como el suelo, el agua, el aire y los recursos naturales «han sido dados por Dios a toda la familia humana para sostener la vida de todos, hoy y en las futuras generaciones, y toda persona tiene un derecho originario al uso de dichos bienes». Por eso, no pueden usarse «de modo tal que sus beneficios favorezcan solo a unos pocos». Ve imprescindible que se impliquen todos los sectores de la sociedad, desde las familias hasta los gobiernosConsidera que entre esos se incluyen «nuevas formas de propiedad: patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas, datos». «Si la riqueza de las naciones depende cada vez más de conocimientos y tecnologías, cuando estos quedan concentrados en las manos de unos pocos, sin adecuadas formas de intercambio y de acceso, se crea un nuevo desequilibrio que contradice el destino universal de los bienes y alimenta la brecha entre incluidos y excluidos, entre quienes pueden participar en la revolución digital y quienes permanecen al margen».León XIV solicita «asegurar el acceso universal a las tecnologías y a la formación» ya que lo que está en juego es «el surgimiento de nuevas formas de exclusión y privación de la libertad: personas y pueblos a los que se les niega o dificulta el acceso a las tecnologías básicas, comunidades expuestas a vigilancia invasiva y grupos sociales perjudicados por algoritmos opacos que reproducen prejuicios y discriminaciones». Por eso, propone garantizar «un acceso igualitario a las oportunidades» y «someter a control público el uso de los datos y de las tecnologías, de modo que el criterio no sea solo el beneficio sino la dignidad de cada persona y el bien de los pueblos».5. Uso bélico de la IA: no hay ‘guerra justa’ y se debe desarmar a la IAA León XIV le preocupa que el mundo ha entrado «en estado de beligerancia permanente» y que se está «rehabilitando la guerra como instrumento de política internacional». Esto lleva a «presentar la violencia como necesaria, inevitable o incluso limpia» y a utilizar la IA como si fuera «neutral». Por eso, reitera «la superación de la teoría de la ‘guerra justa’, invocada con demasiada frecuencia para justificar cualquier guerra, sin perjuicio del derecho a la legítima defensa, entendida en el sentido más estricto». «La humanidad cuenta con instrumentos mucho más eficaces y capaces de promover la vida humana para afrontar los conflictos, como el diálogo, la diplomacia y el perdón», añade. León XIV reitera «la superación de la teoría de la ‘guerra justa’, invocada con demasiada frecuencia para justificar cualquier guerra, sin perjuicio del derecho a la legítima defensa, entendida en el sentido más estricto»León XIV considera que la propuesta más contundente de su carta es la de «desarmar la IA» ya que usarla como arma , «confiar a un algoritmo el poder de seleccionar quién es digno (de vivir) y quién no, sin que nadie asuma el peso de la decisión, significa encomendarle la tarea de redefinir los límites de las posibilidades humanas».Dice que cuando se usa este tipo de arsenal, «debe seguir siendo identificable y verificable la cadena de responsabilidades: quienes planifican, entrenan, autorizan y emplean deben poder rendir cuentas de sus decisiones»; y que «la selección de objetivos y el uso de la fuerza no deben confundir a combatientes y civiles, ni ignorar el impacto sobre las poblaciones indefensas».6. Educar en tiempos de IA: aprender a interesarse por la verdad para proteger la democraciaEl Pontífice defiende que «educar en el uso de la IA sea educar para decidir cuándo y para qué no utilizarla». «La rapidez y la facilidad con las que se obtiene una respuesta o una síntesis hacen correr el riesgo de que se apague el deseo de plantear preguntas». «Debemos aprender a prescindir de la IA y proteger a nuestros jóvenes (…) de esa sutil seducción que hace parecer inútil el pensamiento humano, precisamente cuando más se necesita».El Pontífice defiende que «educar en el uso de la IA sea educar para decidir cuándo y para qué no utilizarla»Lo que está en juego es el «amor por la verdad», que desaparece cuando una multiplicación de «conocimientos fragmentarios» impide «captar la realidad en su conjunto, plantear preguntas sobre el sentido de las cosas y desarrollar un auténtico pensamiento crítico y creativo». «Cuando la pregunta sobre lo que es verdadero pierde interés y se impone un pragmatismo que se conforma con lo que parece útil o eficaz, la vida democrática se debilita. Esta, en efecto, no se sustenta únicamente en normas y procedimientos, sino, ante todo, en una relación leal con los hechos y en una orientación real hacia el bien de las personas y del conjunto de la sociedad», avisa. 7. Lo parece, pero no es: salvar lo humanoEl Papa pide «no equiparar esta ‘inteligencia’ (artificial) a la humana», pues se trata de una tecnología «ligada exclusivamente al tratamiento de datos». Las IA «no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias». (…) «No es la experiencia de quien se deja modelar por la vida y crece en el tiempo por medio de decisiones, errores, perdón y fidelidad; es más bien una adaptación estadística a partir de datos y retroalimentaciones, que puede ser muy eficaz, pero no implica un crecimiento interior».Su propuesta es «cuidar las relaciones» ya que «el corazón humano conserva una necesidad irrenunciable de proximidad». «Invito a salvaguardar los espacios y los momentos en que la presencia física sigue siendo decisiva: la mesa compartida, la comunidad cristiana que se reúne, la visita a quien está solo, el servicio a los pobres», recalca.8. No solo santos y teólogos: Platón, Tolkien y PicassoAparte de a san Agustín, Benedicto XVI o el Papa Francisco, León XIV cita en su primera encíclica a varios autores no habituales en encíclicas papales . Es el caso de Platón, para quien «las cosas más profundas e importantes solo se aprenden tras mucho tiempo y mucho esfuerzo, comprometiéndose en la discusión con los demás». También menciona ‘Los orígenes del totalitarismo’ de Hannah Arendt, donde recordaba que los súbditos ideales no son aquellos ideológicamente convencidos, sino «las personas para quienes ya no existe la distinción entre el hecho y la ficción (es decir, la realidad de la experiencia) y la distinción entre lo verdadero y lo falso (es decir, las normas del pensamiento)».Incluye una cita del personaje Gandalf de ‘El Señor de los Anillos’ , de J. R. R. Tolkien, («No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir»), y otra de Viktor Frankl en ‘El hombre en busca de sentido’, donde describía la paradoja de que en los momentos de horror «hemos llegado a conocer al hombre en estado puro». También atribuye valor «profético» a tres obras: «la Novena Sinfonía de Beethoven como deseo de unidad; el Guernica de Picasso como denuncia de la deshumanización; ‘La lista de Schindler’ como una invitación a no entregar el pasado al olvido».Para quienes se desanimen ante la magnitud del problema menciona momentos en los que la historia ha cambiado gracias a que «al menos un solo hombre o una sola mujer se ha tomado en serio la dignidad de todos». Cita entre otros «el movimiento por los derechos civiles en los Estados Unidos de América, vinculado al testimonio de Martin Luther King Jr., o el fin del apartheid en Sudáfrica después de la liberación de Nelson Mandela y su decisión de no poner el futuro en manos del odio».
Con su primera encíclica, ‘Magnifica humanitas‘ (Magnífica humanidad), el Papa León XIV propone a la sociedad actual interrogarse «sobre el mundo que estamos construyendo y qué significa custodiar a la persona humana en el tiempo de la IA». Es un largo documento de más … de cien páginas en el que presenta con preocupación el funcionamiento de estas tecnologías, denuncia su uso para «la manipulación y la guerra», y propone modos de garantizar que no eclipse el sentido de humanidad.
Por primera vez en la historia, el mismo Papa que la ha escrito la ha presentado y explicado. En un encuentro este lunes en el Vaticano ha dicho que la encíclica es fruto de meses de escucha a científicos e ingenieros «entusiasmados por esta tecnología», líderes políticos que buscan promover «normas equitativas», y matrimonios y maestros «preocupados por el futuro de los jóvenes».
Con dramatismo ha confesado haber «escuchado otras voces muy preocupantes sobre sistemas de armas cada vez más autónomos, que prácticamente ningún ser humano ni ningún gobierno puede controlar realmente. Me llegan relatos muy alarmantes sobre algoritmos que pueden bloquear el acceso a la asistencia sanitaria, al trabajo y a la seguridad basándose en datos contaminados por prejuicios e injusticias». Esto le ha llevado a proponer con urgencia el «desarme de la inteligencia artificial».
Noticia relacionada
«Sé que se trata de una expresión contundente, pero la he escrito a propósito porque el momento actual requiere palabras capaces de llamar la atención, despertar las conciencias y señalar el camino que debe seguir la humanidad», ha dicho. Plantea que igual que la Iglesia ha trabajado por el desarme nuclear, ahora debe ayudar a mostrar las implicaciones morales de la IA. En ‘Magnifica humanitas’ intenta desvelar la lógica con que trabaja la IA, y que «la convierte en un instrumento de dominación, exclusión y muerte». «Igual que ocurrió con la energía nuclear, la IA debe estar al servicio de todos», subraya.
Aparte de la cuestión bélica, afronta tanto los desafíos antropológicos que plantea esta tecnología como los sociales, que aumentarían la brecha entre países ricos y pobres. Lanza propuestas muy originales sobre cómo regularla y mantenerla bajo control, qué significa que funcione de un modo «ético», o cómo debe prepararse a los jóvenes en el colegio para convivir con ella sin deshumanizarse. Recuerda que «cada generación recibe como herencia la tarea de dar forma a su propio tiempo». La actual tiene por delante un desafío enorme, pues si se equivoca, puede convertir el mundo en un lugar «inhumano e injusto».
Estos ocho puntos de ‘Magnifica humanitas’ son sus ideas clave.
1. La premisa: ¿Qué mundo estamos construyendo?
El Papa dice que la verdadera alternativa ante la IA «no está entre el entusiasmo y el miedo, sino entre dos modos de construir: un progreso que sirve a la persona y a los pueblos, o un progreso que los doblega a lógicas de poder». Por eso llama a «proteger el primado de la persona» para que lo que «guíe las innovaciones técnicas y establezca con responsabilidad su uso y sus límites» no sea el mercado sino «la inteligencia humana, con su conciencia y su libertad».
2. Ética de la IA: ¿Cómo se sabe si una IA es buena o mala?
Una de las principales aportaciones es un método para «custodiar a la persona humana en el tiempo de la IA». León XIV propone como «criterios para juzgar si las tecnologías sirven realmente a la humanidad o terminan por someterla» los principios de la Doctrina social («dignidad de la persona, bien común, destino universal de los bienes, subsidiariedad, solidaridad y justicia»).
Avisa de que no es suficiente que una IA se presente a sí misma como «ética». Dice que son necesarios «marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea» que lo verifique. Y avisa de que para que una IA sea ética, no basta que esté «alineada» con valores humanos. El Papa dice que debe ser posible «discutir el código ético que debe ser usado, sometiéndolo a criterios de justicia social compartida. De lo contrario, quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas». «No serviría de nada una IA más moral, si esta moral es decidida por unos pocos».
3. Responsabilidad: el papel del Estado y el de la sociedad
León XIV pide sobre todo a «los protagonistas de este ámbito —científicos, empresarios, inversionistas, autoridades académicas, políticos, entre otros» que no cooperen «en proyectos oscuros que alimentan nuevas formas de violencia, manipulación y dominio».
Y luego moviliza a todos los católicos pues «nadie está exento de responsabilidad» ante la IA. «Cada uno dispone de un ámbito propio de acción, y ahí —no en otro lugar— está llamado a elegir si alimenta la lógica de la fuerza —aunque sea solo con indiferencia, cinismo, mentira y odio—; o si promueve la lógica de la paz —con verdad, sobriedad, cercanía y cuidado», explica.
Ve imprescindible que se impliquen todos los sectores de la sociedad, desde las familias hasta los gobiernos, pues «el progreso tecnológico genera automáticamente desigualdades estructurales si las transformaciones no se gestionan, desde la fase de planificación». Por lo tanto, pide «adoptar instrumentos normativos adecuados, capaces de salvaguardar la justicia y de contener los efectos distorsionadores del poder tecnológico».
También considera que «la propiedad de los datos no puede confiarse solo al sector privado, sino que debe reglamentarse» pues si no, se dejará en manos de «pequeños grupos muy influyentes» la capacidad de «orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social y la solidaridad entre los pueblos». «Pero la cuestión no se limita a la regulación, debemos preguntarnos con realismo quién detenta hoy ese poder y hacia qué fines lo orienta».
4. Nuevas potencias globales: ¿De quién es la IA?
El Papa retoma el «principio del destino universal de los bienes», que ya invocó León XIII y desarrolló Juan Pablo II. Según este, recursos como el suelo, el agua, el aire y los recursos naturales «han sido dados por Dios a toda la familia humana para sostener la vida de todos, hoy y en las futuras generaciones, y toda persona tiene un derecho originario al uso de dichos bienes». Por eso, no pueden usarse «de modo tal que sus beneficios favorezcan solo a unos pocos».
Ve imprescindible que se impliquen todos los sectores de la sociedad, desde las familias hasta los gobiernos
Considera que entre esos se incluyen «nuevas formas de propiedad: patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas, datos». «Si la riqueza de las naciones depende cada vez más de conocimientos y tecnologías, cuando estos quedan concentrados en las manos de unos pocos, sin adecuadas formas de intercambio y de acceso, se crea un nuevo desequilibrio que contradice el destino universal de los bienes y alimenta la brecha entre incluidos y excluidos, entre quienes pueden participar en la revolución digital y quienes permanecen al margen».
León XIV solicita «asegurar el acceso universal a las tecnologías y a la formación» ya que lo que está en juego es «el surgimiento de nuevas formas de exclusión y privación de la libertad: personas y pueblos a los que se les niega o dificulta el acceso a las tecnologías básicas, comunidades expuestas a vigilancia invasiva y grupos sociales perjudicados por algoritmos opacos que reproducen prejuicios y discriminaciones». Por eso, propone garantizar «un acceso igualitario a las oportunidades» y «someter a control público el uso de los datos y de las tecnologías, de modo que el criterio no sea solo el beneficio sino la dignidad de cada persona y el bien de los pueblos».
5. Uso bélico de la IA: no hay ‘guerra justa’ y se debe desarmar a la IA
A León XIV le preocupa que el mundo ha entrado «en estado de beligerancia permanente» y que se está «rehabilitando la guerra como instrumento de política internacional». Esto lleva a «presentar la violencia como necesaria, inevitable o incluso limpia» y a utilizar la IA como si fuera «neutral».
Por eso, reitera «la superación de la teoría de la ‘guerra justa’, invocada con demasiada frecuencia para justificar cualquier guerra, sin perjuicio del derecho a la legítima defensa, entendida en el sentido más estricto». «La humanidad cuenta con instrumentos mucho más eficaces y capaces de promover la vida humana para afrontar los conflictos, como el diálogo, la diplomacia y el perdón», añade.
León XIV reitera «la superación de la teoría de la ‘guerra justa’, invocada con demasiada frecuencia para justificar cualquier guerra, sin perjuicio del derecho a la legítima defensa, entendida en el sentido más estricto»
León XIV considera que la propuesta más contundente de su carta es la de «desarmar la IA» ya que usarla como arma, «confiar a un algoritmo el poder de seleccionar quién es digno (de vivir) y quién no, sin que nadie asuma el peso de la decisión, significa encomendarle la tarea de redefinir los límites de las posibilidades humanas».
Dice que cuando se usa este tipo de arsenal, «debe seguir siendo identificable y verificable la cadena de responsabilidades: quienes planifican, entrenan, autorizan y emplean deben poder rendir cuentas de sus decisiones»; y que «la selección de objetivos y el uso de la fuerza no deben confundir a combatientes y civiles, ni ignorar el impacto sobre las poblaciones indefensas».
6. Educar en tiempos de IA: aprender a interesarse por la verdad para proteger la democracia
El Pontífice defiende que «educar en el uso de la IA sea educar para decidir cuándo y para qué no utilizarla». «La rapidez y la facilidad con las que se obtiene una respuesta o una síntesis hacen correr el riesgo de que se apague el deseo de plantear preguntas». «Debemos aprender a prescindir de la IA y proteger a nuestros jóvenes (…) de esa sutil seducción que hace parecer inútil el pensamiento humano, precisamente cuando más se necesita».
El Pontífice defiende que «educar en el uso de la IA sea educar para decidir cuándo y para qué no utilizarla»
Lo que está en juego es el «amor por la verdad», que desaparece cuando una multiplicación de «conocimientos fragmentarios» impide «captar la realidad en su conjunto, plantear preguntas sobre el sentido de las cosas y desarrollar un auténtico pensamiento crítico y creativo». «Cuando la pregunta sobre lo que es verdadero pierde interés y se impone un pragmatismo que se conforma con lo que parece útil o eficaz, la vida democrática se debilita. Esta, en efecto, no se sustenta únicamente en normas y procedimientos, sino, ante todo, en una relación leal con los hechos y en una orientación real hacia el bien de las personas y del conjunto de la sociedad», avisa.
7. Lo parece, pero no es: salvar lo humano
El Papa pide «no equiparar esta ‘inteligencia’ (artificial) a la humana», pues se trata de una tecnología «ligada exclusivamente al tratamiento de datos». Las IA «no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias». (…) «No es la experiencia de quien se deja modelar por la vida y crece en el tiempo por medio de decisiones, errores, perdón y fidelidad; es más bien una adaptación estadística a partir de datos y retroalimentaciones, que puede ser muy eficaz, pero no implica un crecimiento interior».
Su propuesta es «cuidar las relaciones» ya que «el corazón humano conserva una necesidad irrenunciable de proximidad». «Invito a salvaguardar los espacios y los momentos en que la presencia física sigue siendo decisiva: la mesa compartida, la comunidad cristiana que se reúne, la visita a quien está solo, el servicio a los pobres», recalca.
8. No solo santos y teólogos: Platón, Tolkien y Picasso
Aparte de a san Agustín, Benedicto XVI o el Papa Francisco, León XIV cita en su primera encíclica a varios autores no habituales en encíclicas papales. Es el caso de Platón, para quien «las cosas más profundas e importantes solo se aprenden tras mucho tiempo y mucho esfuerzo, comprometiéndose en la discusión con los demás». También menciona ‘Los orígenes del totalitarismo’ de Hannah Arendt, donde recordaba que los súbditos ideales no son aquellos ideológicamente convencidos, sino «las personas para quienes ya no existe la distinción entre el hecho y la ficción (es decir, la realidad de la experiencia) y la distinción entre lo verdadero y lo falso (es decir, las normas del pensamiento)».
Incluye una cita del personaje Gandalf de ‘El Señor de los Anillos’, de J. R. R. Tolkien, («No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir»), y otra de Viktor Frankl en ‘El hombre en busca de sentido’, donde describía la paradoja de que en los momentos de horror «hemos llegado a conocer al hombre en estado puro». También atribuye valor «profético» a tres obras: «la Novena Sinfonía de Beethoven como deseo de unidad; el Guernica de Picasso como denuncia de la deshumanización; ‘La lista de Schindler’ como una invitación a no entregar el pasado al olvido».
Para quienes se desanimen ante la magnitud del problema menciona momentos en los que la historia ha cambiado gracias a que «al menos un solo hombre o una sola mujer se ha tomado en serio la dignidad de todos». Cita entre otros «el movimiento por los derechos civiles en los Estados Unidos de América, vinculado al testimonio de Martin Luther King Jr., o el fin del apartheid en Sudáfrica después de la liberación de Nelson Mandela y su decisión de no poner el futuro en manos del odio».
RSS de noticias de sociedad
