El impacto de los deepfakes en las redes sociales: las verdades impactantes sobre los deepfakes

¿Qué es un deepfake? ¿Cuáles son los efectos del deepfake en las redes sociales?

Un deepfake se puede definir como: un video o grabación de audio que reemplaza la cara o la voz de alguien por la cara o la voz de otra persona, de una manera que parece muy real. Puede que pienses que la manipulación de medios no es nada nuevo, pero con el tiempo, el término deepfake ha cambiado. Mientras que en 2017 y 2018 se usaba solo para imágenes que fueron creadas explícitamente por Deepfake en redes sociales con inteligencia artificial, desde 2022 en adelante se ha usado para describir imágenes y videos que son explícitamente o presumiblemente falsificados por algún tipo de inteligencia artificial. El primer y más común deepfake se puede rastrear al uso de intercambio de caras para crear videos de “face swap”, que son muy comunes hoy en día. El deepfake en redes sociales puede ser muy peligroso hoy y puede llevar a abusos fraudulentos usando las voces e imágenes de las personas para hacer cosas ilegales

¿Por qué es importante que estudiemos el efecto de los deepfakes en las redes sociales?

Las redes sociales como TikTok, YouTube, Instagram, etc. se han convertido en uno de los espacios para publicar estos deepfakes en línea y muy fácilmente. Dada la velocidad de su distribución masiva, juegan un papel clave en la publicación o control de estos deepfakes
Las implicaciones éticas de los deepfakes en las redes sociales pueden hacer que las personas y usuarios presentes en estas plataformas pierdan la confianza en ellas al ver contenido falso que se publica. Estas noticias falsas, que pueden ser publicadas en redes sociales basadas en deepfakes, afectan la cultura pública e incluso causan daño psicológico o social a los individuos y destruyen la confianza general de los usuarios en el contenido en línea, por lo que este problema debe tomarse en serio. Aquí te ofrecemos una visión completa de los efectos y el funcionamiento de este efecto mediático en crecimiento y expansión, y además, te proporcionamos soluciones legales para combatirlo

¿Qué son las estructuras de Deepfake en general y cómo funcionan?

La tecnología de deepfake en redes sociales puede integrar sin problemas a cualquier persona del mundo en un video o foto en la que nunca ha participado. El elemento principal en los deepfakes es el aprendizaje automático, que ha hecho posible producir deepfakes mucho más rápido y a un costo más bajo. La red neuronal puede enseñar a la computadora toda la información necesaria sobre cómo funciona la cara de esa persona en diferentes ángulos y luces, y usando esta información y herramientas, puede crear una imagen similar a esa misma cara. Se hace una serie de deepfakes usando un algoritmo llamado GAN (redes generativas competitivas) que son muy profesionales y hacen que las imágenes y caras se vean más naturales. Pero ahora, muchos deepfakes en videos de redes sociales ya no se hacen ni siquiera con GAN, porque son muy lentos y difíciles de hacer con eso.
Hoy en día, todo este proceso se puede hacer fácil y más rápido que antes con la existencia de la inteligencia artificial. Claro que hay que decir que la inteligencia artificial aún no ha podido llegar a una composición creíble que la persona que ve estos videos o imágenes creados crea de inmediato en su autenticidad. En la continuación de hacer estos deepfakes, el productor mismo debe usar herramientas manuales para cambiar muchos de los parámetros que el programa en cuestión no pudo captar bien. Este proceso es muy simple y poderoso, aunque sea difícil
Por ejemplo, en 2018, Jordan Peele (un famoso comediante y director) publicó un video deepfake de Barack Obama, el expresidente de Estados Unidos, en el que se le veía diciendo palabras insultantes sobre Donald Trump (el presidente de ese entonces). Su objetivo era mostrar lo fácil que es usar la tecnología deepfake en redes sociales para hacer palabras que parecen totalmente creíbles y reales, incluso de un expresidente

¿Cómo entró Deepfake en las redes sociales?

El deepfake en las redes sociales al principio era solo para entretenimiento. El deepfake en las redes sociales tenía un aspecto de entretenimiento, programas como Reface, Zao o FaceApp permitían a los usuarios copiar fácilmente su imagen en el cuerpo de celebridades, actores o personajes famosos con unas pocas herramientas gráficas simples. Estos videos y manipulaciones de deepfake se hicieron virales rápidamente en TikTok e Instagram por su diversión y entretenimiento, y mucha gente de todo el mundo empezó a usar este efecto sin saber que es lo mismo. Es deepfake
Plataformas como TikTok, Instagram y YouTube hacen que estos deep fakes sean fáciles de crear y difundir en internet usando mercados simples y accesibles. Cuando un contenido en estas plataformas sociales puede volverse viral de una manera sorprendente, su algoritmo lo hace viral y más gente ve estos deep fakes en redes sociales. Podrían hacerlo en su momento, pero hoy en día, con unas pocas subidas de fotos desde diferentes ángulos y clics, se pueden hacer fácilmente como quieran
Deepfake empezó como una tecnología interesante, pero después de entrar en las redes sociales, se convirtió en una herramienta para el entretenimiento, la publicidad y a veces en un abuso serio

Impactos positivos potenciales

Deepfake, con toda la información que te hemos dado sobre cómo funciona, cómo se hace y su propósito, ha sido muy útil en algunos campos gráficos del mundo y ha sido muy efectivo. Al principio, usar deepfake puede parecer peligroso e ilegal, pero si se usa correctamente, puede ser una herramienta poderosa y efectiva. Aquí vamos a ver un poco de esta información:

Cine y Entretenimiento

En el campo del cine y los documentales, usar deepfake para reconstruir o rejuvenecer caras, crear efectos especiales El realismo se ha hecho posible sin necesidad de un CGI pesado, y ha facilitado a los creadores en este campo concentrarse en crear películas más atractivas y de calidad

Educación e Historia

Reconstruir la cara y la voz de figuras históricas para la educación interactiva ayuda a que los temas educativos sean más atractivos, más comprensibles y más concretos para los estudiantes

Medicina y salud mental

Produciendo videos educativos para pacientes con la cara de un médico real, en el idioma y dialecto local, para que estén mejor informados sobre el proceso de operación y tratamiento. Por ejemplo, durante entrenamientos difíciles y complicados en universidades, el uso de deep fakes es muy efectivo para enseñar cirugía o lidiar con situaciones psicológicas. O ayudar a pacientes con demencia reconstruyendo rostros familiares

Publicidad y marketing

Crear contenido personalizado y atractivo sin necesidad de gente de fondo y costos exorbitantes según el gusto de los clientes. La posibilidad de producir anuncios en diferentes idiomas sin tener que grabar varias veces

Accesible para todos

Ayudando a traducir y doblar videos mientras se mantienen expresiones naturales de boca y cara (sincronización labial AI). Aumentando la accesibilidad para los sordos o con problemas de audición al convertir el habla en movimientos faciales

Implicaciones éticas de los deepfakes en las redes sociales

Así como cualquier cosa puede tener ventajas, también puede tener desventajas, y los deepfakes en las redes sociales no son la excepción. Con la mayor disponibilidad de la tecnología deepfake, los estafadores ahora pueden hacerse pasar por ejecutivos, empleados o clientes con una precisión alarmante, creando vulnerabilidades significativas para los negocios. Pero usar deepfake fuera de las reglas y regulaciones de deepfake viola los problemas éticos de deepfake, lo que lleva a muchos abusos y estafas en este ámbito, y uno debe estar consciente de estos problemas para estar a salvo de sus consecuencias
Pero más allá de las pérdidas financieras directas, las consecuencias para la reputación son igual de dañinas, ya que los medios manipulados pueden empañar la imagen de una empresa y causar ataques a la reputación de las personas (ya sea personal o pública). Incluso si la empresa expone la estafa, el daño ya está hecho. Las industrias que dependen de la confianza, como las finanzas, el derecho y la salud, son particularmente susceptibles. Los deepfakes son básicamente impersonaciones, así que son una forma popular de estafar a los CEOs usando voces artificiales
La confianza pública en el contenido está en declive (cultura post-verdad) Con todos estos videos e imágenes falsas volviéndose virales en el mundo digital y en línea, podría eventualmente erosionar la confianza en las redes sociales, que se ha convertido en una fuente de ingresos y branding para grandes empresas o negocios. También hay que señalar que los criminales y estafadores están encontrando constantemente nuevas formas de usar deepfakes, incluyendo extorsión, chantaje y espionaje industrial. Las empresas, organizaciones e individuos necesitan estar alerta

La aparición de la tecnología Deepfake en las redes sociales

ha causado que personas de todo el mundo que trabajan en ciertos campos y han creado un nombre y una dirección para sí mismos y tienen una cierta reputación se preocupen por este tema. Especialmente en relación con el consentimiento de las personas, la responsabilidad y la insuficiencia de las leyes actuales. Esto ha llevado a que muchas personas tengan muchas preguntas especializadas sobre cómo proteger a los individuos y a las sociedades de su mal uso
Una de las éticas del deepfake es si las personas cuyas caras e información de apariencia se utilizan han dado su consentimiento o no. Muchos videos usan deepfake y videos manipulados, incluidos celebridades, políticos o incluso personas comunes, sin su consentimiento. Estos videos pueden usar las caras de otras celebridades para transmitir comportamientos inapropiados, hacer comentarios ofensivos al público en redes sociales y causar la pérdida de credibilidad personal y dañar su estatus, rango y personalidad, etc. Además de las pérdidas financieras e identitarias para los individuos, este problema deja efectos psicológicos dañinos en las personas. Mientras que en muchos países, las víctimas no tienen una forma legal específica para lidiar con esto. Aquí surge la pregunta: ¿quién es responsable de las consecuencias morales del deepfake? ¿El creador de contenido? ¿La plataforma que lo publicó? ¿O el usuario que lo compartió? Actualmente, no hay un estándar claro y global para determinar la responsabilidad. Por otro lado, la ley que existe al respecto a menudo es ineficaz e incompleta y no puede compensar las pérdidas incurridas. Esta laguna legal ha abierto la puerta a abusos generalizados. La Ley de IA de la UE es uno de los primeros intentos legislativos para regular el contenido generado por IA. Requiere que los creadores sean transparentes sobre si un video ha sido manipulado o generado artificialmente. Otros países, como EE. UU., China y el Reino Unido, también están explorando soluciones similares, aunque la tendencia global hacia leyes y regulaciones de deepfake aún no es uniforme

El papel de las plataformas sociales en el control de deepfakes en redes sociales

Con el uso creciente de deepfakes en las redes sociales, el papel de las plataformas para identificar y controlar este tipo de contenido se ha vuelto más importante que nunca. Las redes sociales han hecho esfuerzos para controlar la publicación de este contenido, que han sido algo útiles. Uno de los métodos comunes es el etiquetado de contenido. Si muchas plataformas detectan un contenido deepfake, lo marcan con advertencias como puede haber sido editado o información engañosa. Algunos algoritmos usan inteligencia artificial para reconocer fácilmente el contenido creado con deepfakes. Pero con el progreso diario, estos deepfakes se vuelven más reales y algunos de ellos pueden permanecer ocultos a los ojos de los algoritmos

Cómo detectar la tecnología deepfake en redes sociales

El deepfake a menudo evoca una sensación extraña y revela fallos sutiles que traicionan su autenticidad. Al entrenar el ojo humano para detectar estas inconsistencias, como movimientos faciales poco naturales, iluminación irregular o pistas de audio y video inconsistentes, y combinar esta habilidad con técnicas de verificación confiables, se vuelve posible distinguir el deepfake del contenido real
Hay algunas cosas bastante simples que puedes buscar al intentar detectar un deepfake

Movimiento ocular anormal

Los movimientos de los ojos que no parecen naturales — o la falta de movimiento ocular, como no parpadear — son señales de alerta. Es complicado replicar el acto de parpadear de una manera que se vea natural. También es difícil replicar los movimientos oculares de una persona real. Esto es porque los ojos de alguien normalmente siguen a la persona con la que están hablando

Expresiones faciales anormales

Cuando algo no se ve bien en una cara, puede indicar una distorsión facial. Esto pasa cuando una simple costura de una imagen se ha superpuesto a otra

Posicionamiento incómodo de las características faciales

Si la cara de alguien está mirando hacia un lado y su nariz hacia el otro, deberías desconfiar de la autenticidad del video

Falta de emoción

También puedes notar distorsión facial o costura de imagen si la cara de alguien no parece mostrar la emoción que debería ir con lo que supuestamente están diciendo

El cuerpo o la postura se ven raros

Otro signo es que la forma del cuerpo de la persona no se ve natural o hay una posición de cabeza y cuerpo incómoda o inconsistente. Esta puede ser una de las inconsistencias más fáciles de detectar porque la tecnología deepfake generalmente se centra en las características faciales en lugar de en todo el cuerpo

Movimiento corporal anormal

Si alguien se ve distorsionado o raro cuando se gira de lado o mueve la cabeza, o sus movimientos son bruscos y descoordinados de un cuadro a otro, deberías sospechar que el video es falso

Coloración anormal

Tono de piel anormal, decoloración, iluminación extraña y sombras fuera de lugar son señales de que lo que estás viendo probablemente es falso

Cabello que no parece real

No verás pelo encrespado o volador, ya que las imágenes falsas no pueden crear estas características individuales

Dientes que no parecen reales

Los algoritmos pueden no ser capaces de generar dientes individuales, así que la falta de contornos de dientes individuales puede ser una pista

Borroso o desigualdad

Si los bordes de las imágenes están borrosos o las imágenes son desiguales, por ejemplo, donde la cara y el cuello de alguien se encuentran con su cuerpo, sabrás que algo no está bien

Audio inconsistente y ruido

Los creadores de deepfake suelen pasar más tiempo en las imágenes de video que en el audio. El resultado puede ser un mal sincronización de labios, voces robóticas, pronunciación extraña de palabras, ruido de fondo digital o incluso sin audio en absoluto

Imágenes que se ven poco naturales cuando se ralentizan

Si estás viendo un video en una pantalla más grande que tu smartphone o tienes un software de edición de video que puede ralentizar el video, puedes hacer zoom y examinar las imágenes más de cerca. Por ejemplo, hacer zoom en los labios te ayudará a ver si realmente están hablando o si la sincronización de labios es mala

Disputas de Hashtags

Hay un algoritmo criptográfico que ayuda a los creadores de videos a mostrar que sus videos son auténticos. Este algoritmo se usa para insertar hashtags en lugares específicos a lo largo de un video. Si los hashtags se cambian, deberías sospechar que el video ha sido manipulado

Huella Digital

La tecnología blockchain también puede crear una huella digital para videos. Aunque esta verificación basada en blockchain no es infalible, puede ayudar a establecer la autenticidad de un video. Así es como funciona. Cuando se crea un video, el contenido se registra en un libro de contabilidad que no se puede cambiar. Esta tecnología puede ayudar a probar la autenticidad de un video

Búsqueda de imágenes inversa

Buscar una imagen original o una búsqueda de imagen inversa asistida por computadora puede descubrir videos similares en línea para ayudar a determinar si una imagen, audio o video ha sido alterado de alguna manera. Aunque la tecnología de búsqueda de video inversa aún no está disponible públicamente, invertir en una herramienta así puede ser beneficioso

El video no está reportado por fuentes de noticias confiables

Si lo que alguien dice o hace en un video es impactante o importante, los medios de comunicación lo van a reportar. Si buscas información sobre el video y no hay fuentes confiables hablando de ello, podría significar que el video es un deepfake

En conclusión