Al asistir este año a las reuniones de primavera del FMI y el Banco Mundial como representante de la Asociación Internacional de Caridades (AIC), descubrí que había mucho diálogo en torno al debate sobre la Inteligencia Artificial (IA), sus beneficios y sus retos. Esto me hizo pensar en nuestra misión vicenciana y en cómo san Vicente de Paúl podría haber visto este fenómeno tecnológico. La ética en torno a la IA es sin duda digna de nuestra consideración, especialmente en cómo, para las personas que viven en la pobreza, puede exacerbar las disparidades en la distribución de los beneficios y las cargas de la IA. Al hacer mi investigación, me sorprendió gratamente descubrir que mis pensamientos sobre la IA y el Carisma Vicenciano han sido sondeados por otros en la Familia Vicenciana, específicamente el P. Roger Mamani Choque, CM, de Perú, que nos invitó a todos en julio de 2024 a una reflexión en tres partes sobre este mismo tema, explorando la ética de la IA desde una perspectiva vicenciana[1]. Esta reflexión coincide con dos afirmaciones recientes y fundamentales: la del experto en IA del Vaticano, Fray Paolo Benanti, que aboga por un tratado internacional que garantice el uso ético de la IA (Jon, 2024); y el Pacto Digital Mundial de las Naciones Unidas , en el que los Estados miembros se comprometen a mejorar la cooperación digital para «garantizar un acceso digital seguro y asequible para todos» (Pacto Digital Mundial de las Naciones Unidas, 2023). El Pacto Digital Mundial se acordará en la Cumbre del Futuro de septiembre de 2024 «a través de una vía tecnológica en la que participen todas las partes interesadas: gobiernos, el sistema de las Naciones Unidas, el sector privado (incluidas las empresas tecnológicas), la sociedad civil, las organizaciones de base, el mundo académico y los individuos, incluidos los jóvenes»[2].

Teniendo en cuenta la dedicación de san Vicente de Paúl a aliviar el sufrimiento de los pobres y su compromiso con la construcción de una sociedad más justa que acoja al «extranjero» y respete la dignidad de todas las personas, la llegada de la IA y su aplicación generalizada en casi todos los aspectos de nuestras vidas nos exige, como miembros de la Familia Vicenciana, que estemos atentos a su capacidad para hacer daño, al tiempo que reconocemos su potencial para hacer progresos. Los expertos coinciden en que no hay forma de escapar a la IA —ha llegado para quedarse—, pero sigue sin estar regulada en gran medida, e inclina la balanza a favor de los privilegiados de la brecha digital. Necesitamos saber cómo se utiliza la IA, qué peligros entraña para la vida de quienes tienen un acceso limitado a los productos y servicios financieros y digitales, y cómo puede aplicarse de forma más ética y justa.

Esta investigación llega en un momento crucial, cuando nos acercamos a 2030 y a la promesa contenida en la agenda de los Objetivos de Desarrollo Sostenible (ODS) de la ONU. En particular, el ODS 1 pide la eliminación de la pobreza en todas sus manifestaciones, y cualquier amenaza a este objetivo menoscava las virtudes modélicas de san Vicente de Paúl, que hacía hincapié en el respeto a la dignidad de los pobres y en la atención a sus necesidades materiales y espirituales. Aunque la IA se pregona como una mano amiga que hace más eficiente, innovador y habilitador el acceso a la financiación de los mercados desatendidos, la realidad es que aún se sabe muy poco sobre los usos indebidos de la IA y sus consecuencias para la humanidad. Del mismo modo, mientras que los beneficios de la IA para el sector sanitario, educativo y financiero han sido sólidamente documentados, las medidas de seguimiento de la adopción responsable de la IA que incluyen la transparencia, la equidad, la privacidad, la seguridad y una gobernanza sólida han sido relativamente comparativamente deficientes, y los métodos de seguimiento carecen de armonización, lo que dificulta la comparabilidad entre regiones, empresas adoptantes y desarrolladores de IA[3].

Es significativo el potencial de la IA para entorpecer la prosperidad económica de las comunidades más vulnerables del mundo y exacerbar las disparidades sociales y económicas, en un momento en el que la IA está floreciendo mientras se amplía la brecha digital en las comunidades marginadas, y en el que las decisiones impulsadas por la IA adquieren cada vez más importancia. Estas decisiones a menudo conllevan sesgos algorítmicos que pueden amplificar las desigualdades en la sociedad, «reflejando el sesgo en nuestro mundo» y «haciéndolo a una escala potencialmente masiva y sin la debida supervisión» (Panch, Mattie y Atun, 2019). Es el momento de abogar por una mejor regulación de la IA y políticas más fuertes para su implementación, especialmente para aquellos que de otro modo serían «dejados atrás» por la digitalización. Como pregunta Bernards (2023, p. 83): ¿Se traducen la IA y la tecnología financiera en oportunidades equitativas para todos, y hasta qué punto contemplan siquiera «lo que la libertad, la igualdad, la dignidad y, sobre todo, la democracia podrían significar en relación con las finanzas»?

Nuestra singular perspectiva vicenciana arroja una luz ética sobre la aplicación de la IA y sugiere medios para frenar sus excesos allí donde tienen el potencial de crear más daño, insistiendo en la transparencia, la justicia, el cuidado y la dignidad.

Dra. Linda M. Sama
Representante ante la ONU de la Asociación Internacional de Caridades (AIC)

Referencias:

Bernards, N. (2023), “Can technology democratize finance?”, Ethics & International Affairs, 37(1): 81-95.

Jon, Q. (2024), “Vatican’s AI expert on a mission to ensure ethical tech use”, Tech Times, https://www.techtimes.com/articles/300747/20240118/vaticans-ai-expert-mission-ensure-ethical-tech-use.htm, consultado el 26-06-2024.

Panch, T, Mattie, H., & Atun, R. (2019). “Artificial Intelligence and algorithmic bias: implications for health systems”, Journal of Global Health, 9(2)
10.7189/jogh.09.020318

United Nations, (2023), “Global Digital Compact: Background Note”, Version 17, January 2023, https://www.un.org/techenvoy/sites/www.un.org.techenvoy/files/Global-Digital-Compact_background-note.pdf, consultado el 14-7-2024.

[1] Véase https://cmglobal.org/en/category/formation/ para enlaces a estas reflexiones.

[2] Véase https://www.un.org/techenvoy/global-digital-compact for more details on the Global Digital Compact

[3] Informe sobre el Índice de Inteligencia Artificial 2024 (consultado el 8/2/2024)