El presidente Biden lanzó el primer Memorando de seguridad nacional (NSM) sobre inteligencia artificial la semana pasada, reconociendo que los avances en IA tendrán implicaciones significativas para la seguridad nacional y la política exterior. El memorando se basa en las políticas de la Administración destinadas a fomentar el desarrollo seguro y confiable de la IA.
La Casa Blanca ha ordenado al gobierno de Estados Unidos que cree sistemas que garanticen que el país lidere la carrera mundial para desarrollar tecnología de IA y que sea segura y confiable, ya sea que explote la IA con fines de seguridad nacional y haga avanzar a la comunidad internacional. regulaciones y gobernanza en torno a la tecnología de IA. El NSM también busca garantizar que la adopción de la IA refleje los valores democráticos y proteja los derechos humanos, los derechos civiles, las libertades civiles y la privacidad, al tiempo que alienta a la comunidad internacional a adherirse a los mismos valores.
“Si bien el memorando tiene implicaciones más amplias para la gobernanza de la IA, las medidas relacionadas con la ciberseguridad son particularmente notables y críticas para promover la resiliencia de la IA en las aplicaciones de seguridad nacional”, dijo Haiman Wong, investigador de ciberseguridad de RStreet, en un comunicado de prensa.
El memorando ordena al Consejo de Seguridad Nacional y a la Oficina del Director de Inteligencia Nacional (ODNI) revisar las prioridades de inteligencia nacionales para mejorar la identificación y evaluación de las amenazas de inteligencia extranjera dirigidas al ecosistema estadounidense de IA, señaló Wong. Un grupo de agencias, incluidos ODNI, el Departamento de Defensa y el Departamento de Justicia, tienen la tarea de identificar nodos críticos en la cadena de suministro de IA que podrían verse interrumpidos o comprometidos por actores extranjeros, garantizando que se implementen medidas proactivas y coordinadas. para mitigar. tales riesgos.
El memorando ordena al Departamento de Energía que lance un proyecto piloto para evaluar el rendimiento y la eficacia de la IA federada y las fuentes de datos, con el fin de refinar las capacidades de la IA que podrían mejorar la detección de amenazas cibernéticas, la respuesta y las operaciones ofensivas contra adversarios potenciales, dijo Wong. El Departamento de Seguridad Nacional, el FBI, la Agencia de Seguridad Nacional y el Departamento de Defensa son responsables de emitir orientación no clasificada sobre las vulnerabilidades, amenazas y mejores prácticas conocidas de ciberseguridad de la IA para prevenir, detectar y mitigar estos riesgos al entrenar e implementar modelos de IA. , También.
“Nuestros competidores quieren derrocar el liderazgo estadounidense en inteligencia artificial y han utilizado el espionaje económico y tecnológico para intentar robar tecnología estadounidense. Este NSM recopila las operaciones de nuestros competidores contra nuestro sector de inteligencia artificial como una de las principales prioridades de inteligencia y ordena a las entidades gubernamentales estadounidenses relevantes que “proporcionen desarrolladores de inteligencia artificial”. con la información oportuna de ciberseguridad y contraespionaje necesaria para garantizar la seguridad de sus invenciones”, dijo el La Casa Blanca dijo en un comunicado..
Estas directrices son un paso importante para garantizar que la IA se aproveche de forma segura y cuidadosa para la industria y la seguridad nacional, dijo en un comunicado Jeffrey Zampieron, distinguido ingeniero de software de la empresa de tecnología de defensa Raft. “Básicamente, se trata de un control de calidad. Queremos garantizar que la IA se comporte de forma segura y eficaz para la aplicación de interés. Las directrices proporcionan a los creadores una forma estructurada y coherente de evaluar su trabajo y dan a los consumidores la confianza de que la IA funcionará como se esperaba”, dijo Zamperion.
Los riesgos de las tecnologías de inteligencia artificial no reguladas podrían ser graves, afirmó.
“Los riesgos conducen a peligros y los peligros conducen a daños. El principal riesgo es que le damos a la IA control sobre ciertos comportamientos críticos y que actúa de manera que causa daño: físico, a la propiedad, financiero. Este es un riesgo muy específico de la aplicación. de usar IA para contar chistes? ¿Cuál es el riesgo de usar IA para disparar munición?