segurode la IA
El documento destaca la necesidad urgente de comprender y gestionar de forma colectiva los riesgos potenciales
de la nueva tecnología
![Foto](/2023/11/02/fotos/a05n1cie-1.jpg)
![Foto](/2023/11/02/fotos/a05n1cie-2.jpg)
Jueves 2 de noviembre de 2023, p. 5
Bletchley Park. Estados Unidos, China, la Unión Europea y 20 países más firmaron ayer en el Reino Unido la Declaración de Bletchley para un desarrollo seguro
de la inteligencia artificial (IA), en la primera cumbre internacional sobre el auge de esta tecnología.
Esta declaración histórica marca el comienzo de un nuevo esfuerzo mundial para aumentar la confianza del público en la IA, garantizando que sea segura
, señaló Rishi Sunak, primer ministro británico, en la red social X.
El documento, entre cuyos firmantes también están Brasil y Chile, subraya la necesidad urgente de comprender y gestionar colectivamente los riesgos potenciales
de la IA.
Ante el creciente potencial de modelos como ChatGPT, la declaración de Bletchley muestra que, por primera vez, el mundo se reúne para identificar el problema y destacar sus oportunidades
, puntualizó a Afp Michelle Donelan, ministra británica de Tecnología.
La reunión no tiene como objetivo sentar las bases de una legislación mundial, sino que debe servir para trazar un camino a seguir
, precisó.
Dos cumbres internacionales sobre la IA tendrán lugar a posteriori, una en Corea del Sur –dentro de seis meses– y otra en Francia –en un año–, añadió la ministra desde el emblemático centro donde se descifraron los códigos secretos nazis en la Segunda Guerra Mundial.
De forma paralela al encuentro, Kamala Harris, vicepresidenta estadunidense, debe anunciar en un discurso en Londres la creación de un instituto sobre la seguridad de la inteligencia artificial en Washington.
Esta estructura –similar a la que también anunció el Reino Unido– reunirá a expertos para determinar directivas
y evaluar los modelos de IA más avanzados para identificar y mitigar
los riesgos, según la Casa Blanca.
Las IA generativas –capaces de producir texto, sonidos o imágenes en cuestión de segundos– progresaron exponencialmente en los años recientes y las próximas generaciones de estos modelos aparecerán en el verano.
Conllevan grandes esperanzas para el campo de la medicina y la educación, pero también podrían desestabilizar las sociedades, permitir la fabricación de armas o eludir el control humano, advierte el gobierno británico.
Después de este primer día dedicado a los peligros potenciales de una IA más avanzada, se reunieron ayer representantes políticos de alto nivel. Entre ellos, Ursula von der Leyen, presidenta de la Comisión Europea; Antonio Guterres, secretario general de la Organización de Naciones Unidas, y Giorgia Meloni, jefa del gobierno italiano.
El multimillonario estadunidense y empresario estrella Elon Musk, también acudió a la cumbre de ayer. Hoy por la noche tiene programada una recunión con Sunak.
Nuestro objetivo es determinar un marco para la mejor comprensión (...), y con el fin de que haya al menos un árbitro independiente que pueda observar lo que están haciendo las empresas de la IA y dé la señal de alarma si algo le preocupa
, explicó Musk a la prensa.
Mi esperanza para esta cumbre es que haya un consenso internacional sobre la comprensión inicial de la IA avanzada
, agregó.
En una carta abierta publicada el martes, varios de los padres fundadores
de esta tecnología, como Yoshua Bengio y Geoffrey Hinton, abogaron por la elaboración y la ratificación de un tratado internacional sobre la IA
, para reducir los riesgos potencialmente catastróficos que los sistemas avanzados hacen pesar sobre la humanidad
.
El reto consiste en definir salvaguardias sin obstaculizar la innovación para los laboratorios de IA y los gigantes tecnológicos.
La Unión Europea y Estados Unidos, a diferencia del Reino Unido, eligieron el camino de la regulación.
La semana pasada, varias empresas como OpenAI, Meta (Facebook) y DeepMind (Google) acordaron hacer públicas algunas de sus políticas de seguridad de la IA a petición del Reino Unido.
En una carta abierta dirigida a Rishi Sunak, un centenar de organizaciones, expertos y activistas internacionales lamentaron que esta cumbre se celebre a puerta cerrada
, dominada por los gigantes de la tecnología y con un acceso limitado para la sociedad civil.