Si creciste en la década de 1980, quizás recuerdes a Max Headroom, el personaje televisivo ficticio generado por computadora con una apariencia granulada y un sonido crepitante. Probablemente Max no habría sido considerado un “deepfake” por sus contemporáneos (el término no se acuñó hasta décadas después), pero es un ejemplo temprano.
Max ha recorrido un largo camino
Avance rápido hasta el día de hoy. Los avances en inteligencia artificial (IA) han dado pasos agigantados en términos de claridad y credibilidad. Sin mencionar que la tecnología se ha generalizado con software y aplicaciones disponibles para crear imágenes y sonidos falsos, sin necesidad de experiencia.
El mayor progreso con los deepfakes proviene del desarrollo de redes generativas adversarias (GAN), un tipo de aprendizaje automático que utiliza un conjunto de datos determinado para entrenar dos redes separadas (una red generadora y una red discriminadora) para competir entre sí. para crear datos falsos que parezcan reales. Por ejemplo, la red generadora toma entradas como grabaciones de audio y video de un cuadro y las utiliza para crear una copia realista de ese cuadro. La red discriminadora está entrenada para determinar si es real o falsa, lo que empuja al generador a mejorar continuamente sus intentos de imitar a los humanos. Si bien el uso de GAN tiene beneficios comerciales (mayor eficiencia y creación de contenido, por nombrar algunos), el peligro que representan los deepfakes que ayudan a crear es muy real.
Con la capacidad de crear una réplica real de la voz y la imagen de uno, el aumento de incidentes deepfake no es sorprendente. Según una empresa de verificación de identidad Informe de fraude de identidad de Onfido 2024Hubo un aumento del 3000% en los intentos de deepfake solo entre 2022 y 2023.
Ver no siempre debe ser creer
La capacidad de crear engaños tan convincentes que un individuo crea que está teniendo una conversación en vivo con alguien que conoce y en quien confía debería ser una preocupación importante para la industria financiera y bancaria en particular.
En un incidente ampliamente reportado a principios de este año, un empleado de finanzas de una gran empresa global, sin saberlo, pagó 25 millones de dólares a malos actores después de recibir una solicitud del director financiero de la empresa durante una videollamada que resultó ser un deepfake. Si bien es impactante pensar que esto pueda suceder, el incidente resalta el riesgo significativo que existe cuando se trata de transacciones financieras fraudulentas y la tecnología de alta calidad que genera este riesgo. De hecho, ha habido un aumento del 700% en incidentes ultrafalsos dirigidos al sector fintech entre 2022 y 2023. según un informe desde la plataforma de verificación de identidad Sumsub.
Desde el robo de identidad hasta el fraude de apropiación de cuentas y el riesgo para la reputación de procesar transacciones fraudulentas, no se puede subestimar la magnitud del daño que puede causar un ataque deepfake. A informe reciente del Centro de Servicios Financieros de Deloitte predice que la IA generativa podría ayudar a que las pérdidas por fraude alcancen los 40 mil millones de dólares en los Estados Unidos para 2027, frente a los 12,3 mil millones de dólares en 2023.
Cómo proteger su negocio… y a sus clientes
Los reguladores ya exigen a los bancos y otras instituciones financieras que sigan ciertos protocolos Conozca a su cliente (KYC) para prevenir delitos financieros, como el lavado de dinero, pero la creciente prevalencia de deepfakes resalta la necesidad de hacer más.
Invertir en herramientas de detección de deepfake, como la biometría, puede resultar costoso, pero afortunadamente hay pasos que puedes tomar y que requieren muy poca o ninguna inversión, como por ejemplo:
- Capacitación continua y obligatoria sobre concientización sobre el fraude para ayudar a los empleados a reconocer esquemas comunes y comportamientos sospechosos y comprender la importancia de seguirlos. todo protocolos todo tiempo.
- Revisar periódicamente los controles internos y actualizar los procesos para reflejar el entorno de riesgo cambiante.
- Implemente procesos de autorización dual para el acceso a cuentas, manejadores de pagos y otras funciones financieras.
- Valide cada solicitud de transacción de clientes y proveedores con una llamada telefónica al número registrado. Si se le pide que llame a un número diferente, siempre ser una señal de alerta.
Tu socio bancario puede ayudarte
Las instituciones financieras también desempeñan un papel a la hora de garantizar que sus clientes conozcan los esquemas de fraude más comunes y comprendan cómo ayudar a mitigar los riesgos. Mantener una relación estrecha con su banquero para que lo comprenda a usted, su negocio y sus hábitos de transacción puede ser de gran ayuda para detectar el fraude a tiempo.
Es igualmente importante buscar una institución financiera que lo desafíe a pensar críticamente sobre sus procesos para que sepa que son lo más herméticos posible. Su institución financiera debería alentarlo a:
- Habilitar la recepción de alertas de fraude en caso de actividad sospechosa en la cuenta;
- Habilite las notificaciones del sistema cuando se hayan modificado los detalles de la cuenta;
- Utilice autenticación multifactor; Y
- Confirme la autenticidad de las solicitudes de cambio de pago del proveedor llamando al proveedor al número registrado.
Está bien detenerse, presionar pausa y verificar la autenticidad de una solicitud, sin importar de quién provenga. La seguridad de tu negocio depende de ello. Para obtener más información sobre cómo Synovus puede ayudar a su organización a mitigar el fraude BEC, complete una forma corta y un asesor de tesorería de Synovus se comunicará con usted.
Aubrey LaBoda es director ejecutivo y jefe de ventas de gestión de efectivo en Synovus Bank.