El auge de los deepfakes: la IA aviva nuevas amenazas para la seguridad y privacidad

euronews (en español)

En este episodio de Sci-Tech, exploramos el rápido auge de los deepfakes, impulsado por los avances en IA generativa.

Transcript

00:00Muchos de nosotros han recibido e-mails malos, pidiendo dinero, prometiendo cosas que son muy buenas para ser verdaderas.

00:09Ahora, la inteligencia artificial podría ser usada para intentar chuparnos.

00:13Un Deepfake es una copia producida por la AI de un ser humano.

00:17Y esta tecnología hace que la fraude de un nuevo tipo sea muy, muy posible.

00:22Un banco está luchando contra Deepfakes, con Deepfakes.

00:27Para los falsificadores, es una herramienta poderosa que pueden usar para robar tu dinero.

00:35Bienvenidos a esta edición de SciTech de Londres, donde vamos a profundizar en la creación de Deepfakes.

00:40Vídeo, audio y imágenes que parecen ser reales, pero no lo son.

00:44Al igual que esa introducción, eso no era yo.

00:47De hecho, fue mi avatar, creado usando la inteligencia artificial.

00:52¿Podrías decir la diferencia?

00:56Mi avatar fue creado con mi consentimiento a través de una plataforma dirigida por Synthesia.

01:01Produce contenidos generados por la AI para propósitos legítimos,

01:06como videos de entrenamiento, marketing y servicio al cliente,

01:10con aseguramientos estrictos en lugar.

01:13Nunca generamos un avatar de alguien sin su consentimiento explícito.

01:16El otro es el control. Aplicamos moderación de contenidos en los videos que se crean.

01:20Y el tercero es alrededor de colaboración.

01:22Así que trabajamos con grupos de industria, con gobiernos y con políticos

01:26para asegurarnos de que la tecnología sea desarrollada y utilizada responsablemente.

01:32Deepfakes que tienen un intenso intento malicioso

01:34copian la imagen de personas reales en fotos, videos y audio

01:39para misrepresentar a ellos o a una organización.

01:43El profesor Michael Woodridge, experto en la AI en la Universidad de Oxford,

01:48dice que la tecnología está mejorando rápidamente.

01:52Si puedes llevarlo hasta el punto en el que puedes estar en un grupo

01:56con alguien que piensas que es tu jefe, mirando un video de alguien,

02:00y es un video producido por la AI en el otro lado,

02:03entonces empieza a ser muy difícil saber qué es real y qué es falso.

02:08En un estudio publicado en julio,

02:10solo más del 40% de los respondientes de edad de 16 años

02:14dijeron que habían visto un Deepfake en los últimos seis meses,

02:17pero menos de 1 en 10 tenían confianza en su capacidad de verlo.

02:24Una banca ha lanzado una campaña

02:26que está desplegando su propio contenido Deepfake

02:29para dar conciencia de los peligros.

02:38Las empresas tecnológicas también están luchando contra los Deepfakes.

02:42Esta nueva fórmula de teléfono pide a la AI contra la AI,

02:46ayudando a los usuarios a ver qué es real y qué no.

02:50La AI de los dispositivos lleva a cabo un scan facial

02:53de una persona en una imagen o un video.

02:55El algoritmo analiza cosas como la composición,

02:58si hay imperfecciones de píxeles

03:00o si hay anomalías en las características faciales

03:03de la persona en esa imagen o video.

03:05Y, crucialmente, permite al usuario ver en tiempo real

03:08si esa persona es real.

03:10Veamos un ejemplo específico.

03:12Si miramos a esta señora, ¿qué piensan?

03:15¿Real o fake?

03:17Es difícil decir, ¿no?

03:19No sé si sería Deepfake o no.

03:21Veamos. Si clickeo en la cápsula mágica,

03:24se puede ver que la AI de los dispositivos

03:26está haciendo su trabajo.

03:28Está llevando a cabo un scan facial

03:30para determinar si esa persona es real.

03:32Y en segundos tenemos una respuesta.

03:34Aquí podemos ver que ha sido detectado

03:36un swap de cara sospechoso.

03:39Esto alerta al usuario de que,

03:41primero, la persona no es real,

03:43pero, segundo, y crucialmente,

03:45podría estar en riesgo de ser detenido

03:47en algún tipo de fraude o escándalo.

03:49Básicamente, ahora,

03:50tú eres una compañía tecnológica

03:52que lucha contra la tecnología.

03:54Para nosotros,

03:55esto es sobre asegurar la privacidad

03:57y la seguridad de nuestros usuarios.

03:59Creo que todos sabemos que la tecnología

04:01ha estado desarrollándose a un buen ritmo

04:03gracias, en parte, a la AI.

04:05Y, inevitablemente,

04:07a nivel de la industria,

04:08creo que hay un riesgo

04:09en todos los jugadores

04:10para jugar su parte

04:11en el aumento de fraudes

04:13avanzando.

04:15La fraude no es la única preocupación.

04:17Los fraudes son también

04:18los que alimentan

04:19el abuso de imágenes íntimas en línea.

04:21Una víctima cuya identidad real

04:23está protegida por este avatar

04:25fue fraudeada por un amigo anterior.

04:28Me sentí confundido y detenido.

04:30Un documental sobre este tipo

04:32de abuso de fraudes

04:33creó un grupo de campañas.

04:35Ahora demandan

04:36regulaciones más duras

04:38para bloquear los sitios de publicación.

04:40He hablado con más de 30 víctimas de esto

04:43y, en cada caso,

04:46sus vidas han disminuido.

04:48Ha tenido un impacto en su trabajo,

04:50en su carrera,

04:51en su sentido de cuerpo,

04:52en su sentido de identidad.

04:53Los riesgos no podrían ser más altos.

Categoría

Transcripción

Recomendada