La IA ha llegado al mundo para revolucionarlo, pero no necesariamente para hacerlo mejor. Si ya nos engañaban con las fake news, ha llegado para quedarse una técnica aún más peligrosa: el deepfake. Permite editar vídeos e imágenes falsos de personas a través de algoritmos de aprendizaje no supervisados con un resultado tan realista que es difícil saber si es real o no. Y también clonan voces.
La última víctima de esta técnica ha sido nada menos que un alto ejecutivo de Ferrari, que empezó a recibir supuestos mensajes y llamadas del mandamás de la compañía con el objetivo de infiltrarse en ella. Pero la 'víctima' estaba preparada.
Si huele mal, es porque está podrido. La solución: una pregunta personal
Según detalla Autonews Europe, todo comenzó cuando un ejecutivo de Ferrari comenzó a recibir demasiados mensajes con tono urgente del CEO de la compañía, Benedetto Vigna: "Oye, ¿te enteraste de la gran adquisición que estamos planeando? Podría necesitar tu ayuda", era uno de ellos. Otro aludía a un sentido de urgencia en referencia a un supuesto acuerdo de confidencialidad que el ejecutivo tendría que firmar "lo antes posible".
Le estaban llegando los mensajes a través de un número que no era el de Vigna, pero en la foto de perfil salía supuestamente él posando. "El regulador del mercado italiano y la Bolsa de Milán ya han sido informados. Mantente preparado y, por favor, sé extremadamente discreto", detallaba otro mensaje de Whatsapp.
Una llamada de teléfono desde otro móvil y con una voz casi idéntica a la del CEO de Ferrari fue el detonante para que este ejecutivo empezara a sospechar: le pedían que se llevara a cabo una transacción comercial en referencia a un acuerdo que involucraba a China, y era todo confidencial. La llamada terminó de forma inmediata cuando el ejecutivo destapó el intento de engaño con una pregunta:
"Lo siento, Benedetto, pero necesito identificarte: ¿Cómo se titulaba el libro que me recomendaste el otro día?". Obviamente era una pregunta que el autor de la grabación deepfake no podía responder. Tras el incidente, Ferrari ha abierto una investigación interna.
Por desgracia son cada vez más las empresas que caen en el engaño y pierden cientos de millones de dólares o abren la puerta a información sensible. Por poner un ejemplo, en febrero el trabajador de una multinacional de Hong Kong fue engañado para pagar 25 millones de dólares a estafadores que utilizaron tecnología deepfake para hacerse pasar por el director financiero de la empresa en una videoconferencia. Y los expertos creen que irá a más. Por eso cada vez más grandes compañías están empezando a probar un software que puede detectar un deepfake.