COMENTARIO
Nadie quiere perderse la ola de la inteligencia artificial (IA), pero el “miedo a perderse algo” empuja a los ejecutivos a subirse a un tren que ya avanza rápidamente donde los riesgos pueden superar las recompensas. Una encuesta de PwC destacó una dura realidad: el 40% de los líderes mundiales no comprenden los riesgos cibernéticos de la IA generativa (GenAI), a pesar de su entusiasmo por la tecnología emergente. Esta es una señal de alerta que podría exponer a las empresas a riesgos de seguridad debido a la adopción descuidada de la IA. Esta es precisamente la razón por la que un Director de Seguridad de la Información (CISO) debería liderar la evaluación, implementación y gobernanza de las tecnologías de IA. Los CISO comprenden los escenarios de riesgo que pueden ayudar a crear salvaguardas para que todos puedan utilizar la tecnología de forma segura y centrarse más en las promesas y oportunidades de la IA.
El viaje de la IA comienza con un CISO
Embarcarse en el viaje de la IA puede resultar intimidante sin directrices claras, y muchas organizaciones no están seguras de qué alto ejecutivo debería liderar la estrategia de IA. Si bien tener un Director de IA (CAIO) dedicado es un enfoque, la cuestión fundamental sigue siendo que la integración de cualquier tecnología nueva implica inherentemente consideraciones de seguridad.
El auge de la IA coloca la experiencia en seguridad a la vanguardia de la seguridad y el cumplimiento en toda la organización. Los CISO desempeñan un papel fundamental a la hora de navegar por el complejo panorama de la IA en medio de regulaciones y órdenes ejecutivas nuevas y emergentes para garantizar la privacidad, la seguridad y la gestión de riesgos. Como primer paso hacia el viaje hacia la IA de una organización, los CISO son responsables de implementar un enfoque de IA que priorice la seguridad y establecer una estrategia adecuada de gestión de riesgos a través de políticas y herramientas. Esta estrategia debe incluir:
-
Alinear los objetivos de la IA: Establezca un consorcio de IA para alinear las partes interesadas y los objetivos de adopción con la tolerancia al riesgo y los objetivos estratégicos de su organización para evitar una adopción maliciosa.
-
Colaboración con equipos de ciberseguridad: Colabore con expertos en ciberseguridad para crear un marco sólido de evaluación de riesgos.
-
Crear salvaguardias centradas en la seguridad: Implemente salvaguardas para proteger la propiedad intelectual, los datos internos y de los clientes, y otros activos críticos de las ciberamenazas.
Determinar el riesgo aceptable
Aunque la IA es muy prometedora para las organizaciones, el despliegue rápido y desenfrenado de GenAI puede generar problemas como la proliferación de productos y la mala gestión de datos. Prevenir los riesgos asociados con estos problemas requiere alinear los esfuerzos organizacionales de adopción de IA.
En última instancia, los CISO establecen la agenda de seguridad con otros líderes, como los CTO, para llenar las lagunas de conocimiento y garantizar que todo el negocio esté alineado con la estrategia de gestión de seguridad, los riesgos y el cumplimiento. Los CISO son responsables de todo el espectro de la adopción de la IA, desde asegurar el consumo de IA (es decir, los empleados que utilizan ChatGPT) hasta la creación de soluciones de IA. Para ayudar a determinar los riesgos aceptables para su organización, los CISO pueden establecer un consorcio de IA con partes interesadas clave que trabajen de manera interdisciplinaria para sacar a la luz los riesgos asociados con el desarrollo o uso de las capacidades de GenAI, establecer tolerancias de riesgos aceptables y actuar como un organismo de cumplimiento compartido para mantener controles adecuados sobre la proliferación del uso de la IA.
Digamos que la organización se centra en asegurar el consumo de IA. En este caso, el CISO debe determinar cómo los empleados pueden y no pueden usar la tecnología, que puede incluirse en la lista blanca o negra o administrarse de forma más granular con productos como Harmonic Security que permiten la adopción de la tecnología GenAI con gestión de riesgos proporcionada por SaaS. Por otro lado, si la organización está desarrollando soluciones de IA, los CISO deben desarrollar un marco sobre cómo funciona la tecnología. En cualquier caso, los CISO deben estar al tanto de los desarrollos de la IA para reconocer los riesgos potenciales y empaquetar proyectos con los recursos y expertos adecuados para una adopción responsable.
Bloquea tu base de seguridad
Dado que los CISO tienen capacitación en seguridad, pueden implementar una base de seguridad sólida para la adopción de la IA que gestione los riesgos de manera proactiva y establezca las barreras adecuadas para evitar interrupciones debido a amenazas cibernéticas. Los CISO unen la colaboración de los equipos de información y ciberseguridad con las unidades de negocio para mantenerse informados sobre amenazas, estándares y regulaciones de la industria, como Ley europea de IA.
En otras palabras, los CISO y sus equipos de seguridad establecen barreras de seguridad integrales, desde la gestión de activos hasta métricas sólidas. técnicas de cifradoser la columna vertebral de una integración segura de la IA. Protegen la propiedad intelectual, los datos internos y de los clientes y otros activos vitales. También proporciona un amplio espectro de monitoreo de seguridad, desde rigurosos controles de seguridad del personal y capacitación continua hasta sólidas técnicas de cifrado, para responder de manera rápida y efectiva a posibles incidentes de seguridad.
Es esencial permanecer atentos a la evolución del panorama de seguridad a medida que la IA se generaliza. Al integrar perfectamente la seguridad en cada etapa del ciclo de vida de la IA, las organizaciones pueden ser proactivas frente al uso creciente de GenAI para ingeniería social ataques, lo que dificulta la distinción entre contenido genuino y malicioso. Además, los malos actores aprovechan la GenAI para crear vulnerabilidades y acelerar el descubrimiento de debilidades en las defensas. Para abordar estos desafíos, los CISO deben ser diligentes y continuar invirtiendo en controles preventivos y de detección y considerar nuevas formas de crear conciencia entre el personal.
Pensamientos finales
La IA afectará a todas las funciones del negocio, incluso en formas que aún no se han predicho. Como puente entre los esfuerzos de seguridad y los objetivos comerciales, los CISO actúan como guardianes del control de calidad y el uso responsable de la IA en toda la empresa. Pueden articular la base necesaria para integraciones de seguridad que eviten errores en la adopción de la IA y permitan a las empresas desbloquear todo el potencial de la IA para lograr resultados comerciales mejores y más informados.