GlosarioConcienciación sobre seguridad

Deepfake

Respuesta corta

Un deepfake es un audio, vídeo o imagen generado o alterado con IA para que parezca que una persona real dijo o hizo algo que no dijo ni hizo. En las empresas se usa cada vez más para el fraude, por ejemplo una videollamada o un mensaje de voz falso de un directivo que pide un pago urgente.

Cómo se usa contra las empresas

El uso más dañino es la suplantación de directivos. En 2024, un empleado de la empresa de ingeniería Arup en Hong Kong transfirió unos 25 millones de dólares tras una videollamada en la que los demás participantes, incluido el director financiero, eran deepfakes. Las voces clonadas también se usan en llamadas de vishing, para superar verificaciones por voz y por falsos candidatos en entrevistas de trabajo en remoto.

Por qué funciona

Unos segundos de audio o vídeo público, de un pódcast, una conferencia o las redes sociales, pueden bastar para clonar una voz. Combinado con presión y secretismo, una cara o una voz conocidas bajan la guardia más que un correo.

Cómo reducir el riesgo

Las herramientas de detección ayudan, pero no son fiables por sí solas. Las medidas más eficaces son de procedimiento: verificar las peticiones de pago y de acceso por un segundo canal conocido, exigir más de una aprobación para transferencias grandes o inusuales, acordar preguntas de verificación para peticiones sensibles e incluir escenarios de deepfake en la formación en concienciación. Estos controles también frenan el fraude BEC.

Regulación

La Ley Europea de IA (EU AI Act) obliga a indicar que el contenido deepfake ha sido generado o manipulado artificialmente, con excepciones limitadas. Esto ayuda con el contenido legítimo, pero los delincuentes no etiquetan sus falsificaciones.

Términos relacionados

Sigue leyendo sobre este tema

Empleados como línea de defensa activa: formación de concienciación, simulación de phishing, higiene de dispositivos e identidad y control de acceso a SaaS.

Ir a la guía del tema