A medida que madura la era digital, las organizaciones de todo el mundo están adoptando la inteligencia artificial (IA) como un importante impulsor de la innovación. Sin embargo, a medida que la IA evoluciona a un ritmo vertiginoso, con su papel cada vez mayor en la estrategia, las operaciones y la gobernanza empresarial, surge una pregunta crucial: ¿las empresas necesitan alguna vez un director de IA dedicado a supervisar sus iniciativas de IA? ¿Es este el momento adecuado para presentar el nuevo rol?
El debate sobre la necesidad de un marco especializado de nivel C para gestionar la innovación, la ética y los riesgos de la IA ha estado al frente de múltiples discusiones dentro de las empresas y las regulaciones. Según Forbes, el ascenso del puesto de director de IA se considera una respuesta natural a la creciente complejidad y el impacto de la IA en todas las industrias.
Los líderes en gestión de riesgos, tecnología y derecho discuten la naturaleza cambiante de la gobernanza de la IA y la necesidad de un nuevo enfoque, incluida la introducción de un especialista dedicado.
El surgimiento del rol de Director de IA no es solo una discusión teórica sino una realidad creciente para muchas empresas. Uno de los paneles de discusión en la reciente conferencia #RISK en Londres comenzó con una pregunta simple: ¿cuántas organizaciones en la sala ya habían designado un Director de IA? Sin embargo, sólo un pequeño número de manos se levantaron, lo que refleja incertidumbre.
A medida que la tecnología de IA se integra cada vez más en los procesos de negocio, los roles tradicionales de los directores de tecnología (CTO), directores de datos (CDO) y directores de privacidad (CPO) se están ampliando para cubrir cuestiones relacionadas con la IA. Pero el consenso dista mucho de ser claro sobre si la gobernanza de la IA requiere una posición de liderazgo nueva y autónoma, y las conversaciones revelan aún más perspectivas divergentes.
Por ejemplo, algunos panelistas presentes en la conferencia, como
Tia Cheang, directora de servicios de información y datos de TI de Gallaghercuestiona la necesidad de este nuevo papel como tal. Sostuvo que la IA, aunque transformadora, se ha gestionado durante mucho tiempo dentro de marcos de datos y tecnología, lo que sugiere que un puesto de director senior o vicepresidente podría ser más apropiado. “No creo necesariamente que haya una brecha en este espacio para un líder de IA de alto nivel”. Cheang señaló que la IA es a menudo solo una extensión de las responsabilidades de TI y datos existentes, y que esta función podría distribuirse entre varios puestos técnicos de alto nivel.
Otros oradores, sin embargo, destacaron la importancia de la estrategia y la gobernanza de la IA, particularmente en organizaciones donde la IA es un componente importante.
Sanja Hukovic, directora de grupo y jefa de gestión de riesgos de IA y modelos en el London Stock Exchange Group (LSEG)dijo que a medida que la IA se integra cada vez más en funciones comerciales críticas, aumenta la necesidad de un monitoreo dedicado: “La gobernanza de la IA no se trata sólo de tecnología, sino también de comprender los riesgos, gestionar los prejuicios y garantizar la transparencia y la rendición de cuentas dentro de la organización. »
Varios participantes se hicieron eco de la necesidad de contar con marcos integrales de gobernanza de la IA, incluidas evaluaciones de riesgos y directrices éticas. Hukovic sugirió que las organizaciones podrían aprovechar los modelos de gobernanza existentes, como los desarrollados para el cumplimiento del RGPD, pero advirtió que la IA introduce nuevos desafíos únicos:
“Es necesario analizar los riesgos de la IA independientemente de la privacidad” dijo, instando a las empresas a crear equipos multidisciplinarios para abordar las complejidades de la gobernanza de la IA.
Una parte importante del debate se centró en el panorama regulatorio, en particular las implicaciones de la ley de IA de la UE. No hay duda de que la regulación desempeña un papel crucial en la configuración de la gobernanza de la IA, pero persisten las preocupaciones sobre los desafíos que supone cumplir con las nuevas leyes específicas de la IA. Nish Imthiyaz, asesor jurídico global de privacidad, inteligencia artificial y regulación digital de Vodafonehabló sobre las similitudes entre la gobernanza de la IA y el camino que las organizaciones ya han emprendido para cumplir con el RGPD. “Hay paralelos” Imthiyaz dijo: “Pero la IA es fundamentalmente diferente. Necesitamos capacidades de gobernanza de la IA, ya sea que eso implique nombrar un director de IA o no.
La presión regulatoria, en particular de la ley europea sobre IA, podría obligar a las empresas a formalizar las funciones de gobernanza de la IA. Sin embargo, los expertos advirtieron especialmente contra apresurarse a crear una función de CAIO simplemente para cumplir con los requisitos de cumplimiento. En cambio, aconsejaron a las empresas que consideraran cuidadosamente su madurez en IA y los riesgos específicos que plantea para sus modelos de negocio específicos antes de realizar cambios organizativos.
En lugar de limitar el conocimiento de la IA a roles específicos y especializados como el de director de IA,
Oisín Boydell, director de datos de Corlyticsdestacó el valor de integrar este conocimiento en todos los roles dentro de una empresa, brindando a los empleados de todos los departamentos y unidades una comprensión fundamental del potencial y las amenazas de la IA:
“Dado que la IA desempeña un papel cada vez más importante en las empresas, por no hablar de la sociedad en general, todo el personal, en todas las funciones, debe estar equipado con al menos una comprensión básica de la IA, tanto de sus oportunidades como de sus riesgos. Las empresas que aprovechan con éxito la IA tienden a inculcar este conocimiento en todos los equipos, de modo que quienes mejor entienden el negocio puedan identificar nuevos casos de uso de la IA y posibles dificultades.
Este enfoque permite a los equipos más familiarizados con el negocio identificar aplicaciones innovadoras de IA y posibles desafíos, en lugar de aislar el conocimiento de IA dentro del equipo de ciencia de datos, que, aunque está altamente capacitado en la ejecución, puede no estar alineado con las necesidades comerciales específicas: “Se trata de empoderar a todo el personal, en lugar de ver la IA como algo exclusivo del equipo de ciencia de datos, que puede ser experto en su implementación, pero a menudo está alejado de las necesidades y requisitos detallados de la empresa. » continuó.
Haciendo eco de los puntos expresados por otros expertos de la industria, Oisín confirmó que no existe un enfoque único para un rol de Director de IA dedicado, ya que cada empresa es diferente en términos de madurez de la IA y cómo se utiliza la IA. variado. Puede ser una parte integral de una oferta de producto principal o usarse como parte de un proceso interno. Asimismo, dependiendo de la industria, los tipos y fuentes de datos con los que trabaja una empresa difieren. Y, a su vez, todos estos aspectos y variables impactan en la complejidad de la gobernanza de la IA.
Por ejemplo, en Corlytics, esta comprensión matizada da forma al enfoque de la empresa, donde los datos y las estrategias de IA están estrechamente alineados.
“Como director de datos, superviso nuestra estrategia y gobernanza de IA, con el apoyo de nuestro CTO desde una perspectiva de seguridad e infraestructura de datos. Nuestros activos de datos únicos, como nuestra biblioteca de regulaciones globales comentadas, nuestra taxonomía regulatoria y la integración de datos en toda la cadena de valor del riesgo regulatorio (desde el análisis de previsión hasta las regulaciones, los controles y las políticas), junto con nuestros expertos legales internos, impulsan nuestra Soluciones de IA en toda la plataforma. Tener una visión integrada y conjunta de los datos y la IA, y la estrecha relación entre ellos, nos permite ofrecer soluciones basadas en IA que sean precisas, fiables y dignas de confianza. »
Explicó Oisín Boydell.
Si bien las opiniones sobre el papel exacto varían, la necesidad de un liderazgo en IA es innegable. Que este liderazgo adopte la forma de un director de IA o a través de roles existentes depende del tamaño de la organización, su industria y su estrategia de IA. Para las empresas que dependen en gran medida de la IA para su eficiencia operativa o experiencia del cliente, el Oficial de IA podría proporcionar el enfoque y la responsabilidad necesarios para navegar en el complejo mundo de la gobernanza de la IA. Para otras organizaciones, la gobernanza de la IA podría gestionarse mejor ampliando las responsabilidades de los líderes existentes en tecnología, datos o privacidad. El objetivo final no es crear nuevos títulos, sino garantizar que la IA se gestione de manera eficiente, ética y de conformidad con las regulaciones en evolución. Parece que el papel de un director de IA está todavía en su infancia, quizás todavía faltan entre 3 y 5 años para convertirse en una norma. Su necesidad variará según las necesidades únicas de una organización, su uso de la tecnología de IA y su posición en la curva de madurez de la IA. Sin embargo, lo que está claro es que la gobernanza y el liderazgo de la IA son elementos esenciales de cualquier estrategia de IA, y que las empresas deben abordar adecuadamente estos desafíos para seguir siendo competitivas y cumplir con las normas en un panorama digital en rápida evolución.
En coautoría con Oisín Boydell, director de datos de Corlytics