Meta refuerza sus políticas contra deepfakes tras el millonario fraude con criptomonedas

Uno de los principales desafíos asociados al crecimiento de la inteligencia artificial generativa es la creciente sofisticación del fraude digital. Los ciberdelincuentes ahora cuentan con herramientas que les permiten diseñar amenazas de manera dinámica y eficiente, automatizando sus procesos. En este contexto, el uso de deepfakes para estafas ha aumentado considerablemente. 

Ahora bien, ¿en qué consisten?. Los atacantes recurren a estas falsificaciones profundas para llevar a cabo campañas de phishing (suplantación de identidad) más amplias y efectivas. Ante esta realidad, Meta ha lanzado una nueva herramienta llamada FIRE, destinada a combatir las deepfakes. 

Según Mashable, la implementación inicial de esta medida se realizó en Australia, un país que ha experimentado importantes pérdidas económicas debido a fraudes vinculados con criptomonedas, perpetrados por actores malintencionados que utilizan este tipo de falsificaciones.

Las deepfakes, creadas mediante herramientas de IA, consisten en fotos, videos y audios que imitan con gran precisión a personas reales. En muchos casos, estas falsificaciones son utilizadas para la difamación. Un ejemplo reciente es el de deepfakes pornográficas que perjudicaron a la cantante Taylor Swift.

Además, como se ha mencionado, estas falsificaciones son empleadas por ciberdelincuentes para realizar ataques de gran alcance, gracias a su capacidad para engañar a los espectadores. Australia ha sido uno de los países más afectados por este tipo de fraudes. 

Según The Guardian, deepfakes de celebridades como la multimillonaria Gina Rinehart y el presentador de televisión Larry Emdur fueron utilizados para estafas relacionadas con criptomonedas.

¿Cómo operan? Los hackers distribuyen videos en los que estos clones digitales promueven inversiones en criptomonedas, un phishing más avanzado y, por lo tanto, más peligroso. Al usar la imagen de una celebridad, generan confianza en las víctimas.

De acuerdo con el servicio gubernamental australiano Scamwatch, entre enero y agosto de este año, se reportaron pérdidas de 30 millones de dólares en redes sociales debido a estafas. Además, la Comisión Australiana de Competencia y Consumo indicó que el año pasado las pérdidas por estos fraudes crecieron un 16,5%, alcanzando los 64 millones de dólares.

FIRE: el plan de Meta contra las estafas con deepfakes

Esta herramienta es un esfuerzo colaborativo entre Meta y diversas entidades bancarias, enfocada en recopilar información sobre las estafas que circulan en redes sociales. En este marco, la empresa estadounidense bloqueó cerca de 8.000 páginas y más de 9.000 estafas con deepfakes de celebridades durante los primeros seis meses de la iniciativa.

“Además de invertir en nuestras propias herramientas y tecnología, estamos trabajando con socios gubernamentales y de la industria para luchar contra este flagelo. Las estafas afectan a múltiples industrias”, señaló David Agranovich, director de políticas de Disrupción Global de Amenazas en Meta.