La siguiente es una publicación invitada de Yannik SchradeCEO y cofundador de Arcium.
Cuando Larry Ellison, CTO de Oracle AI, compartió su visión de una red de vigilancia global impulsada por IA que mantendría a los ciudadanos conectados. “mejor comportamiento”Los críticos se apresuraron a hacer comparaciones con 1984 de George Orwell y etiquetar su discurso de venta como distópico. La vigilancia masiva es una violación de la privacidad, efectos psicológicos negativose intimidar a la gente de participar en manifestaciones.
Pero lo más preocupante de la visión de Ellison para el futuro es que la vigilancia masiva impulsada por IA ya es una realidad. Durante los Juegos Olímpicos de verano de este año, el gobierno francés subcontrató cuatro empresas de tecnología – Videtics, Orange Business, ChapsVision y Wintics – para proporcionar videovigilancia en todo París, utilizando análisis basados en inteligencia artificial para monitorear el comportamiento y alertar a la seguridad.
La creciente realidad de la vigilancia masiva impulsada por la IA
Esta controvertida política fue posible gracias a legislación adoptado en 2023, lo que permitirá que el software de inteligencia artificial recientemente desarrollado analice los datos de la audiencia. Si bien Francia es la primer país de la unión europea Para legalizar la vigilancia basada en IA, el análisis de vídeo no es nada nuevo.
El gobierno británico CCTV instalado por primera vez en las ciudades de la década de 1960 y a partir de 2022, 78 de 179 países de la OCDE utilizó IA para sistemas públicos de reconocimiento facial. Se espera que la demanda de esta tecnología aumente a medida que la IA avance y permita servicios de información más precisos y a mayor escala.
Históricamente, los gobiernos han aprovechado los avances tecnológicos para modernizar los sistemas de vigilancia masiva, y a menudo han confiado a empresas privadas el trabajo sucio por ellos. En el caso de los Juegos Olímpicos de París, a las empresas de tecnología se les permitió probar sus modelos de entrenamiento de IA durante un evento público a gran escala, obteniendo acceso a información sobre la ubicación y el comportamiento de millones de personas que asistieron a los juegos y realizaron sus actividades diarias. vida de la ciudad.
Privacidad y seguridad pública: el dilema ético de la vigilancia mediante IA
Los defensores de la privacidad como yo diríamos que la videovigilancia impide que las personas vivan libremente y sin ansiedad. Los formuladores de políticas que emplean estas tácticas pueden afirmar que se utilizan en nombre de la seguridad pública; La vigilancia también proporciona control sobre las autoridades, por ejemplo al exigir a los agentes de policía que usen cámaras corporales. La pregunta es, en primer lugar, si las empresas de tecnología deberían tener acceso a los datos públicos, pero también cuánta información confidencial se puede almacenar y transferir de forma segura entre múltiples partes.
Lo que nos lleva a uno de los mayores desafíos de nuestra generación: almacenar información confidencial en línea y cómo se gestionan esos datos entre diferentes partes. Independientemente de la intención de los gobiernos o empresas de recopilar datos privados a través de la vigilancia mediante IA, ya sea por razones de seguridad pública o ciudades inteligentesdebe haber un entorno seguro para el análisis de datos.
Computación confidencial descentralizada: una solución para la privacidad de los datos de la IA
El movimiento por la informática confidencial descentralizada (DecCC) ofrece una visión de cómo solucionar este problema. Muchos modelos de entrenamiento de IA, como Apple Intelligence, utilizan entornos de ejecución confiables (TEE) que se basan en una cadena de suministro con puntos únicos de falla que requieren la confianza de terceros, desde la fabricación hasta el proceso de certificación. DeCC tiene como objetivo eliminar estos puntos únicos de falla, estableciendo un sistema descentralizado y sin confianza para el análisis y procesamiento de datos.
Además, DeCC podría permitir el análisis de datos sin descifrar información confidencial. En teoría, una herramienta de análisis de vídeo construida en una red DeCC puede alertar de una amenaza a la seguridad sin exponer información confidencial sobre las personas que fue grabada a las partes monitoreadas con esa herramienta.
Actualmente se están probando varias técnicas informáticas confidenciales descentralizadas, incluidas las pruebas de conocimiento cero (ZKP), el cifrado totalmente homomórfico (FHE) y la informática multipartita (MPC). Básicamente, todos estos métodos intentan hacer lo mismo: verificar información crítica sin revelar información confidencial de ninguna de las partes.
MPC se ha convertido en pionero en DeCC, permitiendo una liquidación transparente y una divulgación selectiva con el mayor poder computacional y eficiencia. Los MPC permiten la creación de entornos de ejecución multipartita (MXE). Contenedores de ejecución virtuales y cifrados, en los que se puede ejecutar cualquier programa informático de forma totalmente cifrada y confidencial.
En este contexto, esto permite tanto el entrenamiento sobre datos cifrados aislados y altamente sensibles como la inferencia utilizando datos cifrados y modelos cifrados. Por lo tanto, en la práctica, el reconocimiento facial podría realizarse manteniendo estos datos ocultos a las partes que procesan esta información.
Los análisis recopilados a partir de estos datos podrían luego compartirse entre diferentes partes relevantes, como las autoridades de seguridad. Incluso en un entorno basado en la vigilancia, es posible introducir mínimamente transparencia y rendición de cuentas en la vigilancia llevada a cabo manteniendo al mismo tiempo la confidencialidad y protección de la mayoría de los datos.
Si bien la tecnología informática confidencial descentralizada aún se encuentra en su fase de desarrollo, su aparición resalta los riesgos asociados con los sistemas confiables y ofrece un método alternativo de cifrado de datos. Hoy en día, el aprendizaje automático está integrado en casi todas las industrias, desde la planificación urbana hasta la medicina, el entretenimiento y más.
Para cada uno de estos casos de uso, los modelos de capacitación se basan en los datos del usuario, y DeCC será fundamental para garantizar la privacidad individual y la protección de datos en el futuro. Para evitar un futuro distópico, debemos descentralizar la inteligencia artificial.