:quality(75)/cloudfront-us-east-1.images.arcpublishing.com/elcomercio/DSXQDHRZ2VEKPEFCWZRAHIGHRQ.png)
Si recibes una videollamada de un familiar que necesita dinero o tienes una videoconferencia con tu empleador para pedirte una transacción bancaria, debes estar alerta, porque podrías estar interactuando con una Deepfake generado por Inteligencia Artificial (IA). ¿Qué es y cómo identificarlo?
De acuerdo a la Policía Nacional de Perú (PNP), en 2023 se detectaron 107 intentos de ataque cibernético por minuto. Además, hubo 262 ataques de “carding”, es decir, acceso ilegal a la cuenta para el robo de datos personales.
Para Marcos Allende, CEO de Blerify, firma especializada en soluciones de autenticación, refiere que Perú es el quinto país de Latinoamérica con más incidencia en ciberataques.
Sin embargo, dichas ciberamenazas se han sofisticado con la proliferación de una nueva táctica tecnológica de los ciberdelincuentes: las Deepfakes.
De acuerdo a Isabel Manjarrez, Investigadora de seguridad de Kaspersky, un deepfake es una tecnología que consiste en imágenes, videos, e incluso audios y textos, alterados por la IA para obtener un resultado con apariencia realista.
“Antes no era fácil falsificar nuestra voz o imagen con un alto nivel de resolución; ahora con la IA es muy sencillo hacer ambas cosas”, dijo a Gestión, Marcos Allende.
Pero, ¿por qué se ha vuelto tan popular?, Manjarrez explicó que antes las falsificaciones eran de baja calidad y fáciles de detectar, sin embargo, a medida que los algoritmos evolucionaron, los resultados se volvieron tan convincentes.
“Ahora es difícil distinguirlos de la realidad”, afirmó Manjarrez a Gestión.
Al respecto, los expertos en ciberseguridad están preocupados porque la mayoría de peruanos desconocen los deepfakes.
Kaspersky alertó que el 75% de peruanos no sabe qué es un deepfake, y 57% no sabría cómo reconocer un video de este tipo.
:quality(75)/cloudfront-us-east-1.images.arcpublishing.com/elcomercio/NZE2FAFTZ5CKNAHIOFYCFDRWZ4.jpg)
LEA TAMBIÉN: Generación IA: La historia de tres peruanos que lideran los proyectos del mañana
El lado B de IA generativa: la Deepfake como manipulación digital
Para Marcos Allende, CEO de Blerify, la IA generativa usada en principio por Open AI, a través de ChatGPT, ha proliferado en el campo generativo y llevado a la interacción con los usuarios, al mismo tiempo, se ha convertido en una oportunidad para los ciberdelincuentes: su nuevo “modus operandi inteligente”.
“Eso les permite a los ciberdelincuentes suplantar la identidad de una persona a través de llamadas o videoconferencias”, dijo Allende.
En ese sentido, advirtió que la IA está haciendo que algunos de los mecanismos de autenticación que se han utilizado en los dispositivos, ya no sean confiables.
Una IA generativa oscura. Para Manjarrez, investigadora de seguridad Kaspersky, el método más común para crear un deepfake es utilizar un sistema llamado GAN o red generativa antagónica. ¿En qué consiste?
Los GAN son dos redes neuronales que interactúan entre sí. Una genera imágenes y la otra intenta determinar si es genuina y falsa. Hasta ese momento, todo bien, pero, ¿Qué pasa si se usa para fines poco éticos?
“Para los deepfake, el algoritmo se entrena con fotos reales de determinada persona, lo que da como resultado una red que puede generar un número infinito de fotos convincentes de un individuo para que pueda integrarse en un video”, explicó Manjarrez.
:quality(75)/cloudfront-us-east-1.images.arcpublishing.com/elcomercio/GFB2G4DJ3BF6HGHVNNPG2OPIGA.png)
LEA TAMBIÉN: Selección de Personal: IA y pruebas psicolaborales cambian la dinámica de contratación
¿Quiénes son las víctimas preferidas de las deepfakes?
En el trabajo. En Hong Kong, un empleado fue víctima de una estafa tras haber trasferido, por orden de su jefe, US$ 25 millones. ¿El problema? se enteró que no era un directivo de la empresa sino una deepfake generado por IA.
Figuras Públicas. Kaspersky contó que varios países han circulado distintos videos deepfakes de celebridades para publicitar falsos juegos de apuestas con el objetivo de robar dinero a las víctimas.
Imágenes sexuales. En Perú, escolares del conocido colegio StGeorge’s College, usaron dicha táctica tecnológica para alterar las fotos de sus compañeras y venderlas como pornografía infantil.
Noticias falsas. En 2023, hubo imágenes de Donald Trump siendo arrestado por el FBI; sin embargo, la imagen era falsa y había sido generado por IA.
Presentadores de TV. En octubre del 2023, dos conductoras de televisión denunciaron el uso de sus rostros y voces para promocionar productos sin su consentimiento.
:quality(75)/cloudfront-us-east-1.images.arcpublishing.com/elcomercio/LKSJWKDF4NCURJGZMJOEJIH7QM.jpg)
LEA TAMBIÉN: IA y las áreas de desarrollo para los profesionales, ¿qué competencias se requieren?
¿Cómo podemos reconocer una deepfake?
Según Manjarrez, investigadora de seguridad de Kaspersky, un deepfake puede ser complicado de identificar, ya que las técnicas de manipulación digital evolucionan constantemente. Sin embargo, recomendó algunos consejos para detectar este tipo de contenidos:
Anomalías faciales y corporales. Busca incoherencias en los movimientos faciales, expresiones o movimientos corporales que parezcan extraños o poco naturales. Detecta desalineaciones en los ojos, la boca u otras partes de la cara.
Sincronización labial y expresiones. Comprueba que las palabras correspondan correctamente con los movimientos de los labios y que las expresiones faciales son apropiadas para el contexto del video.
Iluminación y sombreado. Evalúa si la iluminación del rostro corresponde con el entorno. Las incoherencias en la iluminación pueden indicar manipulación.
Conciencia y educación. Sé consciente de la existencia de los deepfakes y edúcate sobre las tecnologías de manipulación digital. Cuanto más consciente seas, mejor podrás detectar posibles fraudes
Cuidado con los sitios web falsos. Si tienes dudas sobre un sitio web o una aplicación, no introduzcas tus datos ni realices pagos. Visita directamente los sitios oficiales, así como redes sociales de las instituciones o figuras públicas para verificar la información.
LEA TAMBIÉN: ¿Empleos en peligro?: los puestos que serían reemplazados más fácilmente por la IA
Credenciales digitales para prevenir la suplantación de identidad
Si bien las entidad públicas y las empresa utilizan tecnología biométrica va autentificar la identidad del usuario, también es un arma de doble filo, y que la identidad del usuario está más expuesta; además, la mayoría de teléfonos móviles no incorporan está tecnología.
Sin embargo, destacó que, para solucionar dicho problema, ya en Europa se viene desarrollando la tecnología de credenciales digitales.
:quality(75)/cloudfront-us-east-1.images.arcpublishing.com/elcomercio/KE6W3BA5TRHZPEP2P4SJR3AXPM.png)
“Esta tecnología no permite que haya falsificaciones generadas por IA y tiene un mayor nivel de protección de datos”, contó el CEO de Blerify.
Asimismo, que dicha tecnología permite establecer una nueva generación de interacciones mas seguras, verificables y confiables. “Te empodera con el control de tu yo digital”
LEA TAMBIÉN: Audios y videos deepfake, la ciberamenaza del trabajo remoto
:quality(75)/s3.amazonaws.com/arc-authors/elcomercio/52431f34-998f-4bd2-979a-ce0a114e914f.png)
Periodista digital con foco en carreras del futuro, tecnología, startups e internacionalización de empresas. Exredactor de Economía en Diario El Gobierno. Desde el 2023 es parte de Gestión.
Comienza a destacar en el mundo empresarial recibiendo las noticias más exclusivas del día en tu bandeja Aquí. Si aún no tienes una cuenta, Regístrate gratis y sé parte de nuestra comunidad.