Papa Francisco urge a adoptar un tratado vinculante sobre la IA

24 enero, 2024 9:05 am

El papa Francisco urgió a la comunidad internacional a adoptar un tratado vinculante para regular el uso de la inteligencia artificial (IA) ante los peligros que conlleva como los “deepfake”, de los que recuerda ha sido objeto.

“Renuevo mi llamamiento exhortando a la comunidad de las naciones a trabajar unida para adoptar un tratado internacional vinculante, que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas (…) como en cualquier ámbito humano, la sola reglamentación no es suficiente”, escribió el papa con motivo de la Jornada Mundial de las Comunicaciones que celebra la Iglesia católica.

En su mensaje, reflexiona sobre la llegada de la inteligencia artificial que “también está modificando radicalmente la información y la comunicación y, a través de ellas, algunos de los fundamentos de la convivencia civil” y cuya “difusión acelerada de sorprendentes inventos, cuyo funcionamiento y potencial son indescifrables para la mayoría de nosotros, suscita un asombro que oscila entre el entusiasmo y la desorientación”.

El pontífice aplaude que “los sistemas de inteligencia artificial pueden contribuir al proceso de liberación de la ignorancia y facilitar el intercambio de información entre pueblos y generaciones diferentes” o “hacer accesible y comprensible una enorme riqueza de conocimientos escritos en épocas pasadas o hacer que las personas se comuniquen en lenguas que no conocen”.

Pero advierte también de los peligros que conlleva pues “pueden ser instrumentos de contaminación cognitiva, de alteración de la realidad a través de narrativas parcial o totalmente falsas que se creen y se comparten como si fueran verdaderas”.

Además de las ya conocidas noticias falsas (fake news), el papa alerta ante “los llamados ‘deepfakes’, es decir, de la creación y difusión de imágenes que parecen perfectamente verosímiles pero que son falsas” y recuerda que él también ha sido objeto de ellos o también “de mensajes de audio que utilizan la voz de una persona para decir cosas que nunca ha dicho”.

Por ello, Francisco afirma que “es necesario actuar preventivamente, proponiendo modelos de regulación ética para frenar las implicaciones nocivas y discriminatorias, socialmente injustas, de los sistemas de inteligencia artificial y contrarrestar su uso en la reducción del pluralismo, la polarización de la opinión pública o la construcción de un pensamiento único”.

Entre los otros riesgo de la inteligencia artificial, el papa señala “que todo se transforme en un cálculo abstracto, que reduzca las personas a meros datos, el pensamiento a un esquema, la experiencia a un caso, el bien a un beneficio, y sobre todo que acabemos negando la unicidad de cada persona y de su historia, disolviendo la concreción de la realidad en una serie de estadísticas”.

Y que con la IA “en lugar de aumentar el pluralismo de la información, corremos el riesgo de perdernos en un pantano desconocido, al servicio de los intereses del mercado o del poder”.

“Es inaceptable que el uso de la inteligencia artificial conduzca a un pensamiento anónimo, a un ensamblaje de datos no certificados, a una negligencia colectiva de responsabilidad editorial”, asevera el pontífice.

Otro de los peligros que le papa enumera sobre la IA es la “guerra paralela” que se hace mediante campañas de desinformación.

Te recomendamos