Washington. Las principales empresas de inteligencia artificial (IA), entre ellas OpenAI, Alphabet y Meta Platforms, se comprometieron voluntariamente con la Casa Blanca a aplicar medidas como una marca de agua en los contenidos para contribuir a que la tecnología sea más segura, informó este viernes el gobierno de Estados Unidos.

“Estos compromisos son un paso prometedor, pero tenemos mucho más que hacer juntos”, dijo el presidente Joe Biden.

En un acto en la Casa Blanca, Biden abordó la creciente preocupación por la posibilidad de que la inteligencia artificial se use con fines perturbadores, afirmando que “debemos tener los ojos bien abiertos y estar atentos a las amenazas de las tecnologías emergentes” para la democracia estadunidense.

Las empresas -entre las que también se encuentran Anthropic, Inflection, Amazon, y Microsoft –socio de OpenAI– se comprometieron a probar exhaustivamente los sistemas antes de lanzarlos al mercado y a compartir información sobre cómo reducir los riesgos e invertir en ciberseguridad.

El anuncio se considera una victoria para los esfuerzos del gobierno de Biden por regular esta tecnología, que ha experimentado un auge de inversión y popularidad entre los consumidores.

“Acogemos con satisfacción el liderazgo del presidente a la hora de reunir a la industria tecnológica para definir medidas concretas que ayuden a que la IA sea más segura y beneficiosa para el público”, señaló Microsoft en un blog el viernes.

Desde que la IA generativa, como ChatGPT, que utiliza datos para crear nuevos contenidos como prosa que parece humana, se hizo tremendamente popular este año, legisladores de todo el mundo han empezado a plantearse cómo mitigar los peligros de la tecnología emergente para la seguridad nacional y la economía.

Marca de agua

Como parte del esfuerzo, las siete empresas se comprometieron a desarrollar un sistema de “marca de agua” en todas las formas de contenido, desde texto, imágenes, audios hasta videos generados por IA, para que los usuarios sepan cuándo se ha utilizado la tecnología.

Esta marca de agua, incrustada en el contenido, presumiblemente facilitará a los usuarios la detección de imágenes o audios falsificados que puedan, por ejemplo, mostrar violencia que no se ha producido, crear una estafa o distorsionar una foto de un político para poner a la persona bajo una luz poco favorecedora.

No está claro cómo se hará evidente la marca de agua al compartir la información.

Las empresas también se comprometieron a proteger la privacidad de los usuarios, a medida que se desarrolle la IA y a garantizar que la tecnología esté libre de prejuicios y no se utilice para discriminar a grupos vulnerables.

Otros compromisos incluyen el desarrollo de soluciones de IA para problemas científicos como la investigación médica y la mitigación del cambio climático.

Redes, IA y elecciones

A medida que se acercan las elecciones presidenciales de 2024 en Estados Unidos aumenta la preocupación por la posibilidad de que las imágenes o el sonido creados por inteligencia artificial se utilicen para cometer fraude o desinformar.

El comité de apoyo de Ron DeSantis, principal rival de Donald Trump en la carrera por la nominación del Partido Republicano, ya ha utilizado en un anuncio publicitario una voz falsa generada por inteligencia artificial que suena exactamente como la del ex presidente.

Los consumidores necesitan “saber si el contenido está generado por IA o no”, dijo un funcionario de la Casa Blanca.

En junio, Chuck Schumer, líder de la mayoría en el Senado de Estados Unidos, pidió una “legislación amplia” para avanzar y garantizar salvaguardias en materia de inteligencia artificial.

El Congreso está estudiando un proyecto de ley que obligaría a los anuncios políticos a revelar si se ha utilizado IA para crear imágenes u otros contenidos.

Estados Unidos va a la zaga de la Unión Europea (UE) en la regulación de la inteligencia artificial.

En junio, los legisladores de la UE aprobaron una serie de normas según las cuales sistemas como ChatGPT tendrían que revelar los contenidos generados por IA, ayudar a distinguir las denominadas imágenes ultrafalsas de las reales y garantizar salvaguardias contra los contenidos ilegales.

Enormes ventajas

La iniciativa de la Casa Blanca es un primer intento de hacer frente al creciente problema de cómo regular un sector que se desarrolla más rápido de lo que el Congreso puede gestionar.

Entre las promesas de las siete empresas figura hacer “pruebas de seguridad internas y externas” de los sistemas de IA antes de un lanzamiento para detectar amenazas a la bioseguridad, la ciberseguridad y “efectos sociales más amplios”.

Biden también prevé una orden ejecutiva (con poderes limitados pero que no necesita la aprobación del Congreso) sobre la seguridad de la IA.

La Casa Blanca asegura estar trabajando con aliados extranjeros en busca de “un marco internacional sólido que rija el desarrollo y el uso de la IA” en todo el mundo.

El tema se debatió durante la reunión del G7 en Japón el pasado mes de mayo y el Reino Unido se dispone a celebrar una cumbre internacional sobre IA.

“Las redes sociales nos han mostrado el daño que puede causar una tecnología poderosa sin las salvaguardias necesarias”, dijo Biden.

“Debemos ser lúcidos y estar atentos a las amenazas de la tecnología emergente que puede suponer para nuestra democracia y nuestros valores”, afirmó. Pero la IA también tiene un “enorme, enorme potencial positivo”.