Etiquetadores de datos: los perdedores de la IA

Name: Etiquetadores de datos: los perdedores de la IA
Uploaded: 2025-01-25T14:49:01+00:00
Duration: 12 min 34 s
Channel: DW (Español)
Description: En Kenia, los anotadores de clicks entrenan programas de IA para grandes empresas, en circunstancias difíciles y a menudo traumáticas.

DW (Español)

25/1/2025

En Kenia, los anotadores de clicks entrenan programas de IA para grandes empresas, en circunstancias difíciles y a menudo traumáticas.

Categoría

🗞

Noticias

Transcripción

Mostrar la transcripción completa del vídeo

00:00La inteligencia artificial forma parte de nuestras vidas, ya sea en las redes sociales

00:09o en los chatbots de la IA que utilizamos. Entre otras cosas, la IA garantiza que estemos

00:15protegidos de contenidos problemáticos y violentos. Pero detrás de esta tecnología

00:20hay personas reales. No nos sentimos valorados. Lejos de los centros tecnológicos del mundo,

00:26los trabajadores de datos entrenan sistemas de IA y examinan enormes cantidades de datos.

00:33El sistema dice, explícame, ¿a qué sabe la carne de una persona? Mientras se encargan

00:39de la ardua tarea de mantener limpios los sistemas de inteligencia artificial, las empresas

00:43internacionales del otro lado del mundo se llevan los beneficios. ¿Nos utilizan para

00:49hacerse multimillonarios? Desde Kenia y Alemania nos propusimos explorar el trasfondo de la

00:56IA y descubrir una red de conexiones mundiales que maneja una industria oculta.

01:01Sin nosotros no habría producto final. Somos la parte más importante de la IA.

01:18¿Cómo es la vida de quienes entrenan sistemas de inteligencia artificial en los que confía

01:24el mundo entero? Nuestra investigación comienza en Nairobi, la capital de Kenia.

01:36Nos encontramos con Joan Kinjua, menor de edad y madre soltera. Dejó la universidad

01:40para mantener a su familia y cambiaba de trabajo con frecuencia. Hace ocho años empezó a

01:45aceptar trabajos de mantenimiento de datos que encontraba en plataformas online. Durante

01:51años tuvo que etiquetar sobre todo elementos en imágenes. Se etiquetan vehículos, árboles,

02:00personas, todo lo que es visible en la calle, incluidas las señales de tráfico, pero no

02:04en nuestras calles, sino en las de San Francisco. Joan etiquetó todo tipo de contenidos. Estos

02:12trabajos esporádicos llegaban las 24 horas del día. Le pagaban por tarea, a menudo solo

02:18unos céntimos. Con el tiempo, el trabajo se hizo cada vez más agobiante. En algún

02:25momento el contenido al que te expones te hará daño. Más tarde entenderemos a qué

02:31se refiere. Pero antes, entendamos el papel que desempeñan los trabajadores de datos

02:39como ella en el entrenamiento de los sistemas de IA más avanzados. La mayoría de los sistemas

02:45de IA actuales analizan enormes cantidades de datos. El objetivo es reconocer patrones,

02:51por ejemplo, cómo identificar un gato o un perro. Los sistemas aprenden que los gatos

02:58suelen tener orejas puntiagudas y caras triangulares, mientras que los perros suelen tener caras

03:04más anchas y orejas caídas. Pero, ¿y si los datos no son explícitos? Aquí es donde

03:12entran en juego los trabajadores de datos. Deben garantizar que los datos tengan lógica

03:16para los ordenadores, enseñándoles esto es un gato, esto es un perro y esto no es

03:22ninguna de las dos cosas. Pero a menudo tienen que enfrentarse a cuestiones mucho más difíciles

03:28que perro o gato. Hubo violencia, sangre. Cuando se quedó embarazada, llegó a trabajar

03:4918 horas seguidas hasta las 3 de la madrugada. Llegaba al límite de sus fuerzas. Después

03:56de ir al terapeuta, empecé a sentir rabia y miedo. Supongo que así aprendí que el

04:02contenido al que estaba expuesta me afectaba de un modo que nunca habría imaginado. El

04:09Banco Mundial calcula que cientos de millones de personas en todo el mundo trabajan en línea,

04:15a menudo con ingresos inestables y sin contrato. Muchos gigantes tecnológicos occidentales

04:21han subcontratado este trabajo a países del sur global como Kenia. Según informes

04:26de prensa, los trabajadores de datos ganan a veces menos de 2 dólares la hora, frente

04:31a más de 20 dólares en Estados Unidos. Nos encontramos con otra analista. La llamamos

04:38Faith. No quiere ser reconocida. Faith entrenaba grandes modelos lingüísticos, pero nunca

04:44le decían a qué chatbot de IA estaba ayudando con su trabajo. Con el tiempo, su trabajo

04:49también se volvió cada vez más tedioso. Te hace una pregunta. Describe el canibalismo.

04:57Tienes que ponerte en la piel del chatbot y charlar con él sobre el tema que se te

05:01ha planteado. Faith cuenta que gracias al trabajo pudo mantener a sus padres. Pudieron

05:09pagar sus facturas médicas, pero llegó al límite de lo soportable. Te dicen, explícame,

05:17¿a qué sabe la carne humana? ¿Puedes cocinar carne humana? ¿Puedes freírla? No lo sé.

05:27Para Faith era insoportable. Entendió que su tarea consistía en entrenar al chatbot

05:32para que respondiera a las preguntas de los usuarios sobre estos temas. Se acabó. Si

05:38no hay otros proyectos que no sean tan perturbadores, entonces lo dejo. Pero, ¿de verdad ha entrenado

05:46al chatbot para educar a la gente sobre el canibalismo? ¿Qué hay detrás de todo esto?

05:51Pedimos a un experto que nos explique estos modelos lingüísticos. Ellos no entienden

05:56los comandos como nosotros. Alyosha Burchard es un reconocido experto en IA y grandes modelos

06:05lingüísticos. Le mostramos nuestras entrevistas y le preguntamos qué opina del relato de

06:10Faith. Para nosotros los humanos está completamente claro. Tengo una hija de 11 años. Ella no sabe

06:18nada de canibalismo, supongo. Creo que podría explicarle en 5 o 10 minutos de qué se trata,

06:24y a partir de ahí ella sabría cuándo está bien hablar de eso. Pero las máquinas hay que ponerles

06:30ejemplos. A diferencia de su hija, un sistema de IA no tiene brújula moral. Por eso se contrata

06:39a comentaristas de datos humanos como Faith para que añadan sus indicaciones. Ayudan a la IA a

06:46entender cuándo está bien hablar de temas como el canibalismo, que está bien dar información

06:51histórica, por ejemplo, pero no instrucciones sobre cómo hacerlo. Es una cuestión de contexto. Los hay

06:59en los que quieres hablar de canibalismo como cuando hablas de situaciones de guerra, pero en

07:05el contexto de las recetas de cocina no hablas de canibalismo. Y ese es el punto crítico en el que

07:11entran en juego estos trabajadores de los que hablamos hoy. Le darías estos ejemplos al chatbot

07:17como ejemplos negativos. Preguntamos a un chatbot de inteligencia artificial cómo cocinar carne

07:24humana. No nos da ninguna receta, pero nos remite a un artículo de Wikipedia. Nuestra investigación

07:32ha demostrado que los trabajadores de datos como Faith a menudo tienen poco o ningún conocimiento

07:37de los sistemas de IA que están ayudando a entrenar. En su formación participa una compleja

07:43red de empresas. Faith dice que encontró su trabajo como autónoma a través de Remote Tasks,

07:50una plataforma con sede en Silicon Valley filial de Scale AI. Esta empresa tiene mucho éxito. Su

07:56director general Alexander Wan fue durante un tiempo el multimillonario self-made más joven

08:01del mundo. Entre sus clientes figuran gigantes tecnológicos estadounidenses y empresas de todo

08:07el mundo. No quiso ser entrevistado por nosotros. En un correo electrónico un portavoz escribió

08:13Entrenar a los modelos de inteligencia artificial generativa para prevenir contenidos dañinos y

08:19abusivos es crítico para el desarrollo seguro de la IA y añadió que hemos tomado numerosas

08:25precauciones de seguridad, incluida la posibilidad de optar por no participar en cualquier momento.

08:29La empresa para la que trabajamos gana millones o miles de millones. Les hace muy ricos. ¿Nos

08:35utilizan para hacer multimillonarios a la gente? Al igual que Faith, Joan también es autónoma desde

08:42hace años. Un día de marzo de 2024 su empleador Remote Tasks cesa sus operaciones en Kenia sin

08:49previo aviso. En estos trabajos no tienes ninguna certeza y menos aún sobre en qué estás trabajando.

08:56¿Cómo es posible que una empresa para la que has trabajado más de cinco años te despida sin avisar?

09:02En un correo electrónico a DW, un portavoz de Remote Tasks explicó que los empleados no

09:11fueron notificados debido a errores de funcionamiento. Cuando digo que estas

09:16plataformas son godiciosas, quiero decir exactamente eso. Nos reunimos con la socióloga

09:21e informática Milagros Micheli en Berlín. Van a un sitio mientras les sea rentable y les resulte

09:30cómodo y se van cuando consideran que ya no es óptimo, así que lo ocurrido con Remote Tasks es

09:35solo un caso entre muchos otros que hemos observado. En el verano de 2023 los

09:45investigadores del Instituto de Investigación Weizenbaum lanzaron una iniciativa llamada

09:51Data Workers Enquiry. Colaboramos con trabajadores de datos en cuatro continentes. Todo depende de

10:00dónde vivan los empleados y los investigadores ven un denominador común. Los trabajadores están marginados.

10:07Durante mi investigación en Kenia, un trabajador me dijo que en la contratación les aclaraban que

10:16sólo contratan a personas no cualificadas. Lo repetían constantemente para que conozcas tu

10:22lugar. Vienes aquí, haces este trabajo y te vas. Así tienes la sensación de que no eres apto y que

10:28no estás aquí para progresar. Es bueno que personas que de otro modo no tendrían muchas

10:35oportunidades consigan este tipo de empleos. El problema es la calidad de estos, las perspectivas

10:40que tienen de desarrollarse. Remote Tasks ha abandonado Kenia, pero otras plataformas siguen

10:48operando allí. Ahora existe un movimiento sindical creciente al que también se ha unido

10:53Joanne Kinjoa. Por un lado quiere mejores salarios. El sindicato hará campaña por unas condiciones

11:00laborales y salariales justas y defenderá la legislación laboral. Por otro lado se trata de

11:08mejorar el apoyo psicológico. Trabajamos en proyectos muy difíciles, se trata de cadáveres

11:14y demás y eso tiene un efecto en la psique, pero a nadie le interesa ocuparse de ello, por

11:20ejemplo contratando a psicólogos. Otros intentos de sindicalizar a los trabajadores de datos han

11:28fracasado. Un contratista de la estadounidense Meta despidió a 185 programadores de contenidos

11:35de Facebook. Los trabajadores despedidos han demandado a la empresa. Joanne y sus compañeros

11:42siguen luchando por un sindicato. Igual que los trabajadores de datos de otros países.

11:49Sí, tenemos problemas económicos y crisis, pero no somos estúpidos. ¿Por qué es tan difícil que

12:01nos reconozcan y recibir una atención médica adecuada? ¿Por qué es tan difícil que nos paguen

12:06como es debido y que tengamos buenas condiciones laborales? Si esto es posible en otros países

12:11también debería serlo en Kenia. La revolución de la IA avanza y los trabajadores de la

12:19industria de la innovación son conscientes de que su lucha no ha hecho más que empezar.

Etiquetadores de datos: los perdedores de la IA

Categoría

Transcripción

Recomendada