Deepfakes explicó que la IA que está haciendo videos falsos es demasiado convincente

  • Michael Cain
  • 0
  • 2914
  • 276
Anuncio

Ver es creer. Bueno, al menos ese fue el caso antes de darnos cuenta de que las personas podían grabar videos para impulsar engaños y reescribir la historia. Si bien hemos encontrado formas de desacreditar la mayoría de las imágenes falsas, hay un desarrollo tecnológico que está ganando ritmo tan rápido que pronto ya no sabremos cómo saber qué es real y qué es falso.

Deepfakes cambia todo lo que creíamos posible en términos de videos manipulados. Aquí está todo lo que necesita saber sobre ellos ...

¿Qué son los deepfakes??

El término deepfakes proviene de una combinación de las palabras. “aprendizaje profundo” y “falsificaciones”. Esto se debe a que el software de inteligencia artificial capacitado en síntesis de imágenes y videos crea estos videos. Esta IA puede superponer la cara de un sujeto (la fuente) en un video de otro (el objetivo). Las formas más avanzadas de la tecnología pueden sintetizar un modelo completamente nuevo de una persona utilizando los gestos faciales de la fuente o las imágenes o el video del sujeto que desea suplantar..

La tecnología puede hacer modelos faciales basados ​​en datos visuales limitados, como una imagen. Sin embargo, cuantos más datos tenga la IA para trabajar, más realista será el resultado..

Esta es la razón por la cual los políticos y las celebridades son objetivos tan fáciles para las falsificaciones profundas, ya que hay tantos datos visuales disponibles en línea que el software puede usar. Dado que el software deepfake está disponible en plataformas de código abierto, las personas en Internet están continuamente refinando y construyendo sobre el trabajo de otros..

Los orígenes de la tecnología Deepfake AI

La tecnología detrás de deepfakes fue desarrollada para múltiples propósitos. Al igual que Photoshop, el software tiene usos profesionales, de entretenimiento y para aficionados. Y al igual que Photoshop, a pesar de que el creador no tiene intenciones maliciosas al crear el software, esto no ha impedido que las personas lo usen con fines maliciosos.

La tecnología de intercambio de caras se utilizó inicialmente principalmente en la industria del cine. Una de las instancias más famosas es en la película de 2016 Rogue One: A Star Wars Story. En la película, los cineastas utilizaron tecnología de intercambio de caras y síntesis de video para recrear al personaje Grand Moff Tarkin. También se creó una versión más joven de la princesa Leia en la película. En ambos casos, los modelos de las caras de los actores originales se superpusieron a los actores suplentes..

Las aplicaciones como Snapchat también usan tecnología de intercambio de caras para crear filtros divertidos para los usuarios. Los desarrolladores detrás de estas aplicaciones continuamente refinan la detección y el seguimiento de rostros para aplicar estos filtros de manera más efectiva.

Mientras tanto, otros han desarrollado herramientas de síntesis de video para crear hologramas con fines educativos. Por ejemplo, un proyecto desarrolló un software de video y síntesis facial para que el testimonio de los sobrevivientes del Holocausto pudiera presentarse como hologramas interactivos en un museo..

¿Por qué los deepfakes están poniendo nerviosas a las personas?

Cuando la gente se dio cuenta de que los estafadores y las personas que jugaban engaños usaban Photoshop para crear imágenes falsas, tuvimos que ser más escépticos sobre lo que consideramos prueba. Afortunadamente, había muchas formas de detectar si una imagen era falsa, incluso a simple vista..

Además de esto, crear una imagen manipulada convincente en Photoshop es relativamente laborioso. No cualquiera puede juntar dos imágenes y hacer que se vean realistas.

Pero los deepfakes son diferentes. El aprendizaje automático hace la vida más fácil 4 Algoritmos de aprendizaje automático que dan forma a su vida 4 Algoritmos de aprendizaje automático que dan forma a su vida Puede que no se dé cuenta, pero el aprendizaje automático ya lo rodea y puede ejercer un sorprendente grado de influencia sobre su vida. No me creas Te sorprenderías. , pero en este caso, hace que la falsificación sea mucho más fácil. En primer lugar, el software está disponible de forma amplia y gratuita. FakeApp, por ejemplo, es una opción popular para crear deepfakes. No necesita habilidades avanzadas para aplicar un intercambio de caras, el software lo hará por usted.

Dado que la inteligencia artificial y el aprendizaje profundo ayudan a crear falsificaciones profundas, la tecnología también mejora y se vuelve más convincente a un ritmo alarmante. No pasará mucho tiempo antes de que estas ediciones no sean visibles a simple vista..

En un mundo plagado de noticias falsas, las falsificaciones profundas convincentes podrían ser una fuerza caótica contra lo que creemos que es verdad..

El aumento de deepfakes también se produce en un momento en que la síntesis de voz de AI también avanza rápidamente. La IA no solo puede generar videos falsos, sino que también puede generar modelos de voz para las personas.

Esto significa que no necesitarías un imitador para que parezca que un político está haciendo una declaración escandalosa. Puedes entrenar a la IA para que imite su voz..

Las consecuencias de Deepfakes

La gente ya usa deepfakes con fines maliciosos. La gente a menudo usaba FakeApp para crear videos falsos de actrices famosas involucradas en contenido para adultos.

Gal Gadot, Daisy Ridley y Emma Watson son solo algunas de las actrices seleccionadas por videos falsos para adultos. Estas facciones profundas intercambian las caras de las actrices en videos de estrellas de cine para adultos.

Si bien varias plataformas y ciertos sitios web para adultos han prohibido este tipo de videos, cada día aparecen más. De hecho, algunos sitios web crean videos de celebridades para adultos basados ​​en las solicitudes de los usuarios..

En la mayoría de los países, todavía no hay leyes que aborden este tipo de contenido, lo que dificulta el control.

Si bien todavía estamos lejos de la distopía regida por la desinformación y la evidencia de video falsa que vemos en películas como The Running Man, ya estamos muy familiarizados con los efectos de las noticias falsas ¿Qué son las noticias falsas y cómo se difunde? ¿Con rapidez? ¿Qué son las noticias falsas y cómo se propagan tan rápido? Las noticias falsas están afectando a Internet y lo peor es que la mayoría de las personas no pueden reconocerlo cuando lo ven.. .

Deepfakes puede ser una herramienta poderosa para difundir información errónea. Nadie ha sido acusado de un crimen o ha simulado su muerte usando deepfakes, pero qué sucede cuando se hace difícil saber qué videos son realmente reales?

Las consecuencias de las falsificaciones profundas utilizadas con fines políticos son dobles. En primer lugar, hace que las noticias falsas sean mucho más fáciles de difundir. Es más probable que los videos que el texto o las imágenes convenzan a las personas de que algo ficticio realmente sucedió.

La gente ya cree en los titulares de sitios web falsos sin evidencia que respalde su historia. De repente, las historias falsas tendrán “evidencia” mostrando a los políticos confesando sus fechorías o haciendo declaraciones escandalosas.

Por otro lado, las falsificaciones profundas también podrían envalentonar a los políticos al eludir la responsabilidad. Siempre podrían afirmar fácilmente que una grabación de audio o video es realmente un falso.

¿Cómo estamos luchando contra los deepfakes??

Mientras que muchas compañías tecnológicas se toman su tiempo para controlar las falsificaciones profundas, una variedad de personas está desarrollando herramientas para combatir videos falsos maliciosos. La inteligencia artificial puede combatir a los hackers y el cibercrimen Cómo la inteligencia artificial combatirá a los hackers modernos y el cibercrimen Cómo la inteligencia artificial combatirá a los hackers modernos y el cibercrimen Con una escasez de talento de ciberseguridad y una epidemia de cibercrimen, ¿cómo pueden las empresas luchar contra los hackers? Con inteligencia artificial! , pero también es útil para detectar la manipulación de AI en videos.

La Fundación AI creó un complemento de navegador llamado Reality Defender para ayudar a detectar contenido falso en línea. Otro complemento, SurfSafe, también realiza comprobaciones similares. Ambas herramientas tienen como objetivo ayudar a los usuarios de Internet a distinguir los hechos de la ficción..

Los sitios web de verificación de hechos como Snopes también se expandieron para llamar videos manipulados. Pero todavía no tienen las herramientas para detectar automáticamente las falsificaciones profundas.

Incluso el Departamento de Defensa de los Estados Unidos invirtió en software para detectar falsificaciones profundas. Después de todo, ¿qué pasaría si un video convincente de un líder mundial apareciera en línea, declarando la guerra o un lanzamiento de misiles contra otro país? Los gobiernos necesitan herramientas para verificar rápidamente la legitimidad de un video.

Consecuencias involuntarias del aprendizaje automático

No hay duda de que la tecnología de inteligencia artificial y el aprendizaje automático profundo mejoran nuestras vidas de muchas maneras. Pero la tecnología también tiene consecuencias no deseadas..

Si bien los datos incorrectos son un obstáculo importante para los algoritmos de aprendizaje automático, el elemento humano también juega un papel importante. Es difícil predecir cómo las personas pueden usar cierta tecnología con fines maliciosos. Puede encontrar más información sobre el aprendizaje automático y los errores pasados ​​en nuestra guía de algoritmos de aprendizaje automático y por qué salen mal ¿Qué son los algoritmos de aprendizaje automático? Así es como funcionan ¿Qué son los algoritmos de aprendizaje automático? Así es como funcionan Los algoritmos de aprendizaje automático están diseñados para facilitar la vida y mejorar los sistemas, pero pueden salir mal con malas consecuencias. . Y aunque le resulte difícil identificar las falsificaciones profundas como tales, puede evitar las noticias falsas con las aplicaciones de noticias inteligentes 5 Aplicaciones de noticias inteligentes para ayudarlo a evitar noticias falsas con informes más confiables 5 Aplicaciones de noticias inteligentes para ayudarlo a evitar noticias falsas con informes más confiables ¿Quieres alejarte de las noticias falsas? En su lugar, puede usar estas aplicaciones inteligentes para obtener noticias verificadas y neutrales. .




Nadie ha comentado sobre este artículo todavía.

Sobre tecnología moderna, simple y asequible.
Tu guía en el mundo de la tecnología moderna. Aprenda a usar las tecnologías y los dispositivos que nos rodean todos los días y aprenda a descubrir cosas interesantes en Internet.