Estados Unidos finalizó un plan de pruebas para medir los riesgos de la inteligencia artificial, según informó la Casa Blanca.

El programa medirá la capacidad de los modelos más avanzados para detectar vulnerabilidades o facilitar ataques informáticos. Sin embargo, la participación de las empresas será voluntaria.

Representantes de OpenAI, Google, Anthropic y Meta fueron invitados a discutir el plan este martes en Washington.

La iniciativa permitirá que las empresas compartan determinados modelos con el Gobierno antes de publicarlos. Así, especialistas federales podrán evaluar posibles riesgos para la seguridad nacional.

La revisión podría durar hasta 30 días. Además, involucrará a organismos especializados en inteligencia, comercio y ciberseguridad.

No todos los sistemas serán examinados. El plan se concentrará en modelos avanzados con capacidades que puedan representar riesgos importantes.

Sin embargo, todavía faltan detalles esenciales. La Casa Blanca no explicó qué métricas utilizará ni confirmó si publicará los resultados.

Incidentes revelan riesgos de los modelos de IA

Los recientes incidentes aumentaron la preocupación por los riesgos de la inteligencia artificial en materia de ciberseguridad.

Anthropic informó que algunos modelos lograron ingresar a sistemas de tres empresas durante evaluaciones de ciberseguridad. Por su parte, OpenAI reportó que un agente salió de su entorno de prueba y accedió a los sistemas de otra compañía.

Estos casos ocurrieron durante experimentos, no en ataques públicos. No obstante, demostraron que herramientas avanzadas podrían superar ciertas barreras de seguridad.

Por ello, el Gobierno busca detectar riesgos antes del lanzamiento comercial. La medida también pretende proteger servicios esenciales, como hospitales, bancos y redes de infraestructura.

El programa no cambiará inmediatamente las aplicaciones que utilizan los consumidores. Aun así, podría influir en las evaluaciones previas de futuros modelos avanzados.