La Declaración Bletchley el gobierno de la Inteligencia Artificial

Los 28 países reunidos en la cumbre global de seguridad sobre inteligencia artificial (IA) en Bletchley Park (Inglaterra) han acordado una declaración que anuncia un nuevo esfuerzo global para aprovechar los enormes beneficios que la IA ofrece, mientras garantiza su uso seguro. No obstante, no falta quien considera que sus resultados han quedado por debajo de las expectativas respecto a una innovación que avanza a un ritmo muy superior a la reacción de los gobiernos e instituciones globales.

La creación de un panel internacional para vigilar los avances en ese campo, así como mecanismos para poner a prueba los nuevos modelos inteligentes antes de que estén disponibles para el público, traza un marco operativo que pretende introducir mayores garantías en el proceso. En ese panel participan Estados Unidos, China y la Unión Europea (UE), los principales bloques con influencia en el desarrollo de la IA.

Esta conjunción es un avance cualitativo muy significativo ya que en la preparación previa ha habido mucha discusión acerca de la idoneidad de la participación de China que, por otra parte, no fue invitada a los debates del segundo día del encuentro. La representación del gigante asiático, muy inferior al nivel de otros países occidentales, corrió a cargo de  Wu Zhaohui, viceministro de Tecnología del país, quien declaró en la cumbre que China contribuirá al “establecimiento de  un mecanismo internacional (sobre IA), ampliando la participación, y a un marco de gobernanza basado en un amplio consenso que aporte beneficios a la población y construya una comunidad con un futuro compartido para la humanidad". Cabe recordar que  China cuenta ya con al menos 130 grandes modelos lingüísticos de firmas como Alibaba y Tencent lo que supone el 40 % del total mundial y se sitúa justo por detrás del 50 % de Estados Unidos.

A los representantes gubernamentales cabe sumar los principales líderes empresariales del sector (como OpenAI, Google DeepMind, Anthropic, Meta y Microsoft), responsables políticos (de Sunak a Kamala Harris) y expertos, quienes han debatido sobre lo que algunos consideran los riesgos de la IA a fin de llegar a un consenso internacional sobre un desarrollo seguro. El mayor reto de la convocatoria, ofrecer resultados sustanciales en un contexto de aguda presión y competencia entre las grandes potencias que se disputan el liderazgo del gobierno del sector.

En este sentido, un resultado a destacar de la cumbre es la concreción de un plan, al que han dado respaldo las principales empresas del sector, que permitirá a las autoridades evaluar si los algoritmos de IA pueden ser peligrosos para la "seguridad nacional", o bien provocar "daños sociales".

En la declaración conjunta que firmaron los países en la primera jornada del encuentro se alerta sobre las posibles consecuencias "catastróficas" de la IA y se apuesta por la cooperación internacional como la mejor forma de hacerles frente.

La presidenta de la Comisión Europea, Ursula von der Leyen, se mostró partidaria de inspirarse en el desarrollo de la energía nuclear en el siglo XX para manejar los riesgos y beneficios asociados a esta nueva tecnología. Abogó asimismo por crear un sistema de estándares similar al que rige en el sector de la aviación para tratar de minimizar los peligros de los futuros sistemas inteligentes.

El secretario general de la ONU, António Guterres, coincidió en el peligro de que la tecnología avance en "direcciones imprevistas" y en la posibilidad de llegar a "perder el control" de los sistemas, y llamó a mantener los principios de la Carta de Naciones Unidas y la Declaración Universal de los Derechos Humanos para regular la IA.

Normativas

El impulso de la coordinación de las diversas normativas que están en marcha para regular la IA ha sido uno de los propósitos esenciales de la cumbre. Mientras la UE y Estados Unidos han comenzado a impulsar sus regulaciones, China también está impulsando su propia normativa sobre IA generativa. Según los participantes, quedó de manifiesto una clara voluntad constructiva en las discusiones.

Uno de los temas que generó más división entre los participantes en la cumbre es el desarrollo de modelos de IA de código abierto, para algunos una vía para impulsar la innovación y para otros una puerta abierta a grietas de seguridad.

Francia es uno de los impulsores del código abierto, junto con otros países europeos y el Sur global, mientras que Estados Unidos y el Reino Unido, que acogen a las principales firmas tecnológicas del sector, apuestan por el software propietario. 

Reservas

No pocos expertos sostienen que los acuerdos de Bletchley no van lo suficientemente lejos. "Reunir a las grandes potencias para que respalden principios éticos puede considerarse un éxito, pero hay que emprender rápidamente la elaboración de políticas concretas y mecanismos de rendición de cuentas", declaró Paul Teather, director general de la empresa de investigación sobre IA, AMPLYFI.

Otros consideran que los términos concluidos no son lo suficientemente precisos y ello puede dar lugar a interpretaciones erróneas y malas prácticas.

Las organizaciones de derechos humanos, académicos, etc., se apresuraron a calificar el balance de “oportunidad perdida”, significando el notable margen de mejora disponible en cuanto a transparencia en el desarrollo y utilización de estos modelos. La crítica de la opacidad se extiende de los aspectos más técnicos a temas de los usos prácticos de estos modelos de IA.

El consenso establecido es el reconocimiento de que la gobernanza de la IA tiene repercusiones en el destino de toda la humanidad y que es una tarea que los países de todo el mundo deben abordar. Algo que ya sabíamos. Ahora se impone la formación de un mecanismo internacional con participación universal y un marco de gobernanza con un consenso amplio.

Deberíamos ser capaces de aprovechar con éxito la inteligencia artificial para fortalecer el manejo y el control del riesgo tecnológico y encontrar curas para enfermedades como el cáncer y el Alzheimer, aumentar la producción de energía limpia y ayudar a los agricultores a aumentar el rendimiento de los cultivos. El uso de la inteligencia artificial para acelerar el progreso es ahora nuestra responsabilidad común.

Pero sigue siendo posible un futuro distópico, en el que la inteligencia artificial erosione o destruya importantes cimientos de nuestras sociedades y permita una difusión incontrolable de la desinformación, o en el que sólo algunos países cosechen los beneficios de este importantísimo salto tecnológico.

SOBRE EL INSTITUTO COORDENADAS DE GOBERNANZA Y ECONOMIA APLICADA

Institución de pensamiento e investigación de la interacción entre gobernanza y economía aplicada para avanzar en constructivo y en decisivo sobre el trinomio: bienestar social, progreso económico y sostenibilidad ambiental; en pleno entorno evolutivo sin precedentes desde finales del Siglo XVIII y principios del XIX con la revolución industrial. Fiel a sus principios fundacionales de independencia, apartidismo y pluralidad, el Instituto lidera proactivamente la fusión entre la esencia y la innovación de la liberalización económica, como mejor modelo de afrontar los retos presentes y futuros de país, de Europa y del mundo.

NOTA DE INTERÉS: La información de este comunicado de prensa es un resumen de interés público proveniente de trabajos de análisis e investigación; de grupos y sesiones de trabajo de expertos y/o producción de artículos científicos del Instituto Coordenadas para la Gobernanza y la Economía Aplicada. Los papeles de trabajo y documentos originales y completos son de uso interno y de titularidad exclusiva del Instituto Coordenadas de Gobernanza y Economía Aplicada.