COMENTARIO
Los asistentes de reuniones con tecnología de inteligencia artificial como Otter.ai, Zoom AI Companion y Microsoft 365 Copilot prometen una mayor productividad de los empleados y una grabación confiable de las discusiones al participar en reuniones en línea junto con los participantes o en lugar de ellos. Los asistentes de IA pueden grabar videos y transcribir audio, resumir notas y acciones, proporcionar análisis e incluso capacitar a los oradores sobre una comunicación más efectiva. Pero, ¿los beneficios superan la seguridad asociada? confidencialidad ¿riesgos?
Imagínese esto: si un extraño apareciera en una sala de reuniones con la intención de grabar la conversación y usar esa información para propósitos desconocidos, ¿se le permitiría continuar sin ser molestado? ¿Se llevaría a cabo la misma conversación con el mismo nivel de franqueza? La respuesta es, por supuesto, no. Entonces, ¿por qué las empresas permiten que los asistentes de reuniones con IA espíen las conversaciones y recopilen datos potencialmente confidenciales?
Privacidad del contenido
Estas aplicaciones plantean un riesgo importante para la privacidad y seguridad de la información de la empresa y de las personas registradas. El riesgo de uso indebido es una preocupación apremiante que muchas organizaciones aún tienen que considerar cuál es la mejor manera de gestionar. Esta tecnología se está extendiendo más rápido que la conciencia de sus riesgos, lo que pone de relieve la necesidad de actuar de inmediato.
La primera víctima de las escuchas de IA podría ser la calidad de la conversación. Los empleados que hablen abiertamente sobre sus compañeros, sus directivos, la empresa y sus clientes o inversores podrían enfrentarse a sanciones basadas en la transcripción del asistente, que podría fácilmente sacarse de contexto. A su vez, el miedo al uso que podría hacerse de las grabaciones también podría obstaculizar la innovación y la transparencia.
Otros riesgos incluyen que los empleados se sientan presionados a dar su consentimiento en contra de su voluntad porque un colega de mayor rango quiere utilizar un asistente, y una confianza excesiva en la veracidad de las transcripciones, que pueden contener errores que, si no se verifican, se convierten en un registro de los hechos.
Las reuniones en línea a menudo también incluyen discusiones sobre datos personales, propiedad intelectual, estrategia comercial, información no divulgada sobre una empresa que cotiza en bolsa o información sobre vulnerabilidades de seguridad, todo lo cual podría causar problemas legales, financieros y de reputación en caso de una filtración. Las herramientas existentes para detener las fugas, como los sistemas de prevención de pérdida de datos, no impedirían que los datos salgan del control de la organización.
El riesgo de acceso no autorizado o uso indebido de conversaciones grabadas es considerable. Aunque las soluciones empresariales pueden ofrecer cierto control a través de salvaguardas administrativas, las aplicaciones de terceros a menudo ofrecen menos protecciones y no siempre está claro cómo y dónde un proveedor almacenará los datos, durante cuánto tiempo, quién tendrá acceso a ellos o cómo se prestará el servicio. el proveedor podría utilizarlos.
La privacidad y la seguridad suelen ser una consideración secundaria
Algunas herramientas de transcripción pueden permitir al proveedor ingerir y utilizar los datos para otros fines, como entrenar el algoritmo. Los usuarios del proveedor de reuniones virtuales Zoom se quejaron el año pasado, después de una Los términos de servicio de Zoom actualizados generan inquietudes que los datos de los clientes se utilizarían para entrenar el algoritmo de inteligencia artificial de la empresa. Zoom se vio obligada a actualizar sus términos y aclarar cómo y cuándo se utilizarían los datos de los clientes para mejorar el producto.
Los problemas pasados de privacidad de datos de Zoom son un claro recordatorio de las posibles consecuencias. Investigación de la Comisión Federal de Comercio resuelta Investigación de la Comisión Federal de Comercio y un Se resuelve una demanda colectiva de 86 millones de dólares por violación de la privacidad demostró que las empresas emergentes de rápido crecimiento pueden descuidar la privacidad y la seguridad de los datos.
Las empresas de esta industria también pueden convertirse, sin darse cuenta, en blanco de piratas informáticos que buscan acceso a miles de horas de reuniones corporativas. Cualquier filtración, independientemente de su contenido, podría dañar la reputación del proveedor y del cliente.
Sin embargo, la revolución de la IA no se limita a las reuniones en línea. Gadgets, como IA portátil humanalleva el concepto de asistente aún más lejos y puede registrar cualquier interacción a lo largo del día y procesar el contenido. En tales casos, parece aún menos probable que los usuarios de PIN soliciten continuamente el consentimiento de otras partes cada vez, exponiendo fácilmente conversaciones confidenciales.
Consideraciones legales
El principal aspecto legal a considerar cuando se trata de asistentes de IA es el consentimiento. La mayoría de los asistentes de IA incluyen un mecanismo de consentimiento de grabación claro y visible para cumplir con leyes como la Ley de Invasión de la Privacidad de California, que tipifica como delito grabar la voz de una persona sin su conocimiento o consentimiento. Sin embargo, los requisitos legales varían: 11 estados de EE. UU., incluida California, tienen leyes de consentimiento de “todas las partes”, que exigen que todos los participantes den su consentimiento para ser grabados, mientras que el resto tiene leyes de consentimiento de “todas las partes”, en las que sólo se permite el consentimiento de “una sola parte”. un participante (normalmente el que realiza la grabación) debe dar su consentimiento.
Mapa de estados de consentimiento uninominales y multipartidistas
Al tomar estas medidas proactivas, las empresas pueden aprovechar los beneficios de los asistentes de IA, al mismo tiempo que protegen su información confidencial y mantienen la confianza de sus empleados y clientes. Al prevenir incidentes antes de que ocurran y garantizar que la integración de la IA en las reuniones mejore la productividad sin comprometer la privacidad y la seguridad, podemos mejorar y revolucionar la colaboración en equipo.
Los participantes en reuniones de trabajo en línea podrían asumir confidencialidadpero esto a menudo depende de las políticas y la jurisdicción de la empresa. En Estados Unidos, la privacidad en el lugar de trabajo generalmente está limitada por las políticas de la empresa. En contraste, la Unión Europea y sus estados miembros, particularmente Alemania y Francia, ofrecen protecciones de privacidad más sólidas en el lugar de trabajo.
El incumplimiento de las leyes de registro puede dar lugar a responsabilidad penal, que rara vez se aplica, así como a daños y sanciones civiles, que a menudo se persiguen ante los tribunales. Este año se han presentado en California más de 400 casos relacionados con grabaciones ilegales, y miles más están en arbitraje, aunque ninguno parece estar relacionado con asistentes de IA… todavía.
Gestión de riesgos
A medida que los asistentes de IA se integran cada vez más en las esferas profesionales y personales, los líderes sólo pueden enfatizar la urgencia de abordar las preocupaciones sobre privacidad y seguridad. Para gestionar el riesgo, las empresas deben crear rápidamente equipos dedicados para evaluar las tecnologías emergentes, documentar políticas y difundirlas en toda la organización.
Una política integral debe definir el uso permitido de asistentes de IA, los requisitos de consentimiento, los protocolos de protección y gestión de datos y las consecuencias claras en caso de una infracción. La actualización continua de estas políticas es esencial a medida que evoluciona la tecnología. Al mismo tiempo, es fundamental concienciar a los empleados sobre los riesgos potenciales y fomentar una cultura de vigilancia.