Las aplicaciones de besos con inteligencia artificial están popularizando los deepfakes

Forbes México.
Las aplicaciones de besos con inteligencia artificial están popularizando los deepfakes

Meta y TikTok han publicado miles de anuncios de aplicaciones que utilizan inteligencia artificial para generar videos falsos de besos entre personas, lo que permite a los usuarios subir fotos de dos personas y dejar que la inteligencia artificial las convierta en un video de ellas besándose. Las aplicaciones se comercializan como herramientas que permitirían al usuario “besar a quien quiera” al instante, sin necesidad de consentimiento.

Similares en concepto a las aplicaciones de “ desnudistas con inteligencia artificial ” que producen pornografía deepfake no consensuada, estas aplicaciones de besos con inteligencia artificial crean videos creíbles de personas haciendo algo que no hicieron. Y la facilidad con la que lo hacen es una preocupante habituación de las imágenes deepfake.

Si bien los anuncios no son sexualmente explícitos como la avalancha de contenido pornográfico generado por IA que ha invadido plataformas de redes sociales como Instagram, Reddit y YouTube, pueden ser igualmente peligrosos, dijo a Forbes Haley McNamara, ejecutiva del Centro Nacional para la Explotación Sexual .

“No tiene que ser explícito para ser explotador”, dijo McNamara. “Si es cruzar los límites hacer algo fuera de línea a alguien sin su consentimiento, besarlo, desvestirlo, etcétera, entonces también es cruzar los límites hacerlo en línea”.

Meta ha mostrado más de 2.500 anuncios de aplicaciones de “besos con IA” en Instagram y Facebook, según un análisis de Forbes. Actualmente, hay unos 1.000 de ellos activos. TikTok ha mostrado unos 1.000 anuncios a millones de usuarios en países europeos, según su biblioteca de anuncios (la biblioteca de anuncios de TikTok no incluye los anuncios que se muestran a sus usuarios en Estados Unidos). La mayoría de estos anuncios muestran a celebridades como Scarlett Johansson, Emma Watson y Gal Gadot besándose. Otros muestran vídeos de personas al azar besándose, promocionando que la IA podría permitirte “besar a tu ex” y “besar a la persona que te gusta”. No está claro si las personas que aparecen en los vídeos son reales o generadas por la IA. Johansson, Watson y Gadot no respondieron a las solicitudes de comentarios.

Meta también está promocionando aplicaciones de “abrazos con inteligencia artificial”, cuyos anuncios muestran videos generados por inteligencia artificial de niños abrazando a personajes de dibujos animados como Dora la Exploradora, Mickey Mouse y Tom y Jerry. Algunos, como un video que muestra a una niña abrazando a un hombre mayor, prometen a los padres que las aplicaciones impulsadas por inteligencia artificial podrían permitir a sus hijos “abrazar a abuelos que nunca conocieron”. El gigante de las redes sociales ha publicado alrededor de 1.200 anuncios de aplicaciones de abrazos con inteligencia artificial, según una búsqueda de Forbes . Más de 300 siguen activos.

“Esta tendencia está normalizando las falsificaciones profundas explotadoras y tomando la participación no consentida en imágenes íntimas o sexualizadas como una broma”.

Haley McNamara, ejecutiva del Centro Nacional sobre Explotación Sexual.

Los videos generados por IA de personas besándose y abrazándose ya circulan por las redes sociales. Un video que muestra a Taylor Swift abrazando a Kim Jong Un tiene alrededor de 30 millones de vistas en Instagram. A fines de diciembre, un video deepfake de Elon Musk y la primera ministra italiana Giorgia Meloni besándose se volvió viral en X.

El portavoz de Meta, Daniel Roberts, dijo a Forbes que estos anuncios de “besos con IA” no violan las políticas de la empresa. Si bien la desnudez, el contenido sexualmente explícito y sexualmente sugerente están en contra de los estándares publicitarios de Meta y Meta no permite anuncios que “muestren, defiendan o coordinen actos sexuales con partes que no consientan”, los videos de besos y abrazos están permitidos.

Después de que Forbes se pusiera en contacto con ellos , TikTok eliminó los anuncios por violar sus políticas. La plataforma para compartir videos requiere que los anunciantes obtengan el consentimiento de las figuras públicas o privadas representadas en sus anuncios, incluso si los anuncios están generados por inteligencia artificial, dijo a Forbes la portavoz de TikTok, Ariane de Selliers .

Las empresas que están detrás de estos generadores de video parecen tener su sede fuera de los Estados Unidos, en países como los Emiratos Árabes Unidos, Italia y China, según sus sitios web. Las aplicaciones están disponibles de forma gratuita en la App Store de Apple y la Play Store de Google y ya tienen millones de descargas. La función de “beso con IA” es parte de un conjunto más amplio de capacidades de edición de fotos basadas en IA en las aplicaciones, como retocar fotos antiguas, convertir imágenes fijas en videos y predecir cómo se verían los futuros bebés de dos personas. Apple y Google no respondieron a las solicitudes de comentarios.

“Fue increíblemente espeluznante encontrarlo”.

Alice Siregar, analista de inteligencia artificial y usuaria de redes sociales.

La proliferación de aplicaciones de besos con inteligencia artificial, impulsada por la viralidad de las redes sociales, ilustra una preocupante generalización de los deepfakes en la era de la inteligencia artificial generativa. El uso de estas aplicaciones aparentemente inofensivas podría abrir la puerta a herramientas que podrían crear imágenes más gráficas, como pornografía deepfake y otros tipos de abuso sexual basado en imágenes, dijo McNamara. “Es simplemente una caja de Pandora absoluta”, dijo.

“Esta tendencia está normalizando los deepfakes explotadores y tomando como una broma la participación no consentida en imágenes íntimas o sexualizadas”, dijo. “Es el tipo de cosas que es fácil trivializar cuando piensas en otras personas, pero, de nuevo, si piensas en alguien de tu propio entorno que hace imágenes como esta de ti mismo, alguien de quien no querrías tener imágenes, creo que todos pueden reconocer que eso es una violación”.

Esto es especialmente preocupante cuando el material de abuso sexual infantil (CSAM) generado ilegalmente por IA está en un aumento sin precedentes . En los últimos dos años, el Centro Nacional para Niños Desaparecidos y Explotados ( NCMEC ) ha recibido más de 7.000 informes de material de explotación infantil relacionado con IA generativa. En un caso , un pedófilo supuestamente filmó a niños en Disneyland y utilizó la popular herramienta de IA Stable Diffusion para producir miles de imágenes ilegales de ellos. Y con acceso irrestricto a los generadores de imágenes de IA, los estudiantes adolescentes de secundaria en múltiples casos han creado imágenes de desnudos deepfake de sus compañeros de clase menores de edad, algunas de las cuales resultaron en cargos criminales . Meta también ha tenido problemas para controlar los anuncios de dichos sitios de “desnudez” de IA, uno de los cuales ha visto el 90 por ciento de su tráfico provenir de Instagram y Facebook, según el boletín Faked Up .

Las personas que se han encontrado con anuncios de besos de IA mientras navegaban por las redes sociales dicen que los encuentran inquietantes . En diciembre, Alice Siregar comenzó a ver un aumento en los anuncios de aplicaciones de besos de IA en TikTok. Ella misma es analista de IA en una empresa de consultoría tecnológica y se sintió consternada al ver que la tecnología se usaba de una manera “profundamente poco ética”.

“Fue increíblemente espeluznante encontrarlo”, dijo.

Este artículo fue publicado originalmente por Forbes US.

Te puede interesar más de Forbes en Español: Productor del Futuro 4.0: el proyecto que busca transformar la producción de cacao

Las aplicaciones de besos con inteligencia artificial están popularizando los deepfakes
Rashi Shrivastava