A medida que siguen surgiendo a un ritmo rápido herramientas y tecnologías que utilizan inteligencia artificial (IA), la prisa por innovar a menudo eclipsa debates cruciales sobre seguridad. En Black Hat 2024 el próximo mes en Las Vegas, un panel de expertos explorará el Tema de seguridad de IAOrganizado por Nathan Hamiel, quien dirige el equipo de investigación fundamental y aplicada de Kudelski Security, el panel tiene como objetivo disipar mitos y resaltar las responsabilidades de las organizaciones en lo que respecta a la seguridad de la IA.
Hamiel dice que la seguridad de la IA no es sólo una preocupación de académicos y gobiernos.
“A la mayoría de los profesionales de la seguridad realmente no les importa la seguridad de la IA”, explica. “Creen que este es un tema que deben tener en cuenta los gobiernos o los académicos, o incluso las organizaciones que crean modelos fundamentales. »
Sin embargo, la rápida integración de la IA en los sistemas cotidianos y su uso en procesos críticos de toma de decisiones requiere un enfoque más amplio en la seguridad.
“Es lamentable que la seguridad de la IA esté relegada a un segundo plano entre los riesgos existenciales”, afirma Hamiel. “La seguridad de la IA es esencial para garantizar que la tecnología se pueda utilizar de forma segura. »
Intersección de seguridad y protección de la IA
La mesa redonda explorará la intersección entre la seguridad de la IA y cómo se interrelacionan los dos conceptos. La seguridad es un aspecto fundamental de la seguridad, según Hamiel. Un produit non sécurisé n’est pas sûr à utiliser, et à mesure que la technologie de l’IA s’intègre davantage dans les systèmes et les applications, la responsabilité de garantir la sécurité de ces systèmes incombe de plus en plus aux professionnels de la seguridad.
“Los profesionales de la seguridad desempeñarán un papel más importante en la seguridad de la IA debido a su proximidad a sus responsabilidades actuales de proteger sistemas y aplicaciones”, explica.
Lucha contra los daños técnicos y humanos.
Uno de los principales temas discutidos durante la mesa redonda serán los diversos daños que pueden causar las implementaciones de IA. Hamiel clasifica estos daños utilizando el acrónimo SPAR, que significa Seguro, Privado, Alineado y Confiable. Este marco ayuda a evaluar si los productos de IA se pueden utilizar de forma segura.
“No podemos empezar a abordar el daño humano hasta que abordemos el daño técnico”, explica Hamiel, enfatizando la importancia de considerar casos de uso de tecnologías de IA y el costo potencial de fallas en estos contextos específicos. El panel también discutirá el papel fundamental que desempeñan las organizaciones en la seguridad de la IA.
“Si creas un producto y lo entregas a los clientes, no puedes decir: ‘No es culpa nuestra, es culpa del proveedor del modelo’”, dice Hamiel.
Las organizaciones deben asumir la responsabilidad de la seguridad de las aplicaciones de IA que desarrollan e implementan. Esta responsabilidad implica comprender y mitigar los riesgos y daños potenciales asociados con el uso de la IA.
La innovación en IA y la seguridad van de la mano
El panel reunirá a un grupo diverso de expertos, incluidos representantes del sector privado y del gobierno. El objetivo es brindar a los participantes una comprensión integral de los desafíos y responsabilidades de la seguridad de la IA, permitiéndoles tomar acciones informadas basadas en sus necesidades y perspectivas únicas.
Hamiel espera que los asistentes salgan de la sesión con una comprensión más clara de la seguridad de la IA y la importancia de integrar consideraciones de seguridad en sus estrategias de seguridad.
“Quiero disipar algunos de los mitos sobre la seguridad de la IA y abordar algunos de los peligros que plantea”, explica. “La seguridad es seguridad y los profesionales de la seguridad de la información tienen un papel que desempeñar. »
Los debates que tienen lugar en Black Hat tienen como objetivo crear conciencia y proporcionar información útil para garantizar que las implementaciones de IA sean seguras. A medida que la IA continúa avanzando y integrándose en más y más aspectos de la vida diaria, debates como este son esenciales, afirma Hamiel.
“Este es un tema extremadamente candente que sólo adquirirá más importancia en los próximos años”, señala. “Me alegra que podamos tener esta conversación en Black Hat. »