Robots que matan: el lado oscuro de la automatización

LDTecnociencia

23/5/2025

Parece que nos empezamos a configurar como sociedad transhumana, con todo lo que ello conlleva. Analiza con @byAntonioFlores esta tendencia en este vídeo que no tiene desperdicio.

Categoría

🗞

Noticias

Transcripción

Mostrar la transcripción completa del vídeo

00:00Cada día tenemos más robots, más sistemas de inteligencia artificial, más automatización a

00:12nuestro alrededor. Pero, ¿sabías que los robots ya han matado a varios cientos de personas? Pues

00:19soy Antonio Flores y hoy te voy a contar algunas anécdotas sobre muertes vinculadas a robots.

00:25De hecho, la primera muerte tuvo lugar en el año 1979. Era una persona llamada Robert Williams,

00:32muy parecido al cantante, que murió en una fábrica cuando un robot de la propia planta le golpeó por la

00:41espalda tan fuerte que lo mató en el acto. Igual que este incidente, que realmente fue un accidente

00:48laboral, pues los robots pueden fallar. Y hay datos de muertes de robots en distintos campos. El más

00:56frecuente es el sector industrial, obviamente porque es donde más robots hay a día de hoy. Pero también

01:03tenemos casos de muertes de robots vinculadas a robots que operan en quirófanos, robots médicos,

01:10donde se asocia pues que el paciente ha muerto por algún mal funcionamiento del robot que estaba

01:17operando. El médico estaba operando con ayuda del robot y ese paciente pues falleció. También tenemos

01:25otros sectores. El sector donde la muerte está presente es el sector militar. Hay robots que han

01:32matado personas, incluso a posta, porque son robots militares entrenados y diseñados para ello. Y también

01:38hay otro tipo de robots que realmente son entes robóticos, que son los vehículos autónomos, que ya

01:46tenemos algún caso de algún atropello, alguna muerte asociada al coche autónomo, al coche que conduce

01:53solo y que pues atropella a una persona o se sale de la carretera y mata a su ocupante. Frente a esta

01:58cuestión de son los robots peligrosos, provocan muertes, bueno la realidad es que no son realmente

02:07asesinos, no matan porque quieran matar, salvo los robots militares que están entrenados para ello,

02:14sino por fallos. Y muchas veces estos fallos se deben más a cuestiones humanas que al propio robot. Se deben

02:21a un fallo en la programación, a un fallo en la configuración, a la persona que utiliza el robot, a un

02:27fallo por una falta de mantenimiento, del mantenimiento recomendado para el robot. Y bueno, al final pues siempre

02:36puede haber un factor humano que afecte a ese robot. Pero hay otra cuestión muy interesante vinculada

02:44a fallos de los robots y posibles incidentes con resultado de muerte. Es lo que se llama el contagio

02:53del error. El contagio del error se define en la literatura científica como algo muy sencillo, lo vas a entender

02:59perfectamente. Cuando una persona utiliza una máquina y no consigue que la máquina haga lo que quiere que haga,

03:06utiliza un robot pero el robot no funciona como esperaba que funcione, pues tenemos la tendencia

03:11perfectamente humana a apagarla, apagarla y hacerlo nosotros. Entonces esa filosofía que se llama el contagio

03:20del error, se llama así porque la realidad es que el resultado cuando lo hacemos a mano tiene muchos más fallos

03:27que cuando lo hace la máquina. Es una cuestión históricamente estudiada en el campo industrial.

03:33Pero hay otra cuestión que a mí me gustaría poner encima de la mesa, que es lo que yo llamo la supremacía

03:39social de la máquina o la supremacía social del robot. ¿Y qué significa esto? Pues significa que estamos

03:46en un mundo cada vez más automatizado, más robotizado, más dependiente de la máquina, donde las personas cada vez

03:52hacemos tareas de menos responsabilidad. Prácticamente todo lo crítico, todo lo importante, todo lo complejo

03:59lo hace una máquina. Y eso, cuando observamos que la máquina falla y estamos acostumbrados a ver cada vez

04:05más aplicaciones que fallan, pantallazos azules, sistemas caídos, de repente hay un apagón y no funciona nada,

04:13pues eso genera psicológicamente en la persona un fenómeno de si la máquina lo hace mejor que yo y la máquina

04:20falla, yo lo puedo hacer todavía peor. Con lo cual se genera una especie de dejadez o de

04:27irresponsabilidad que tiende a hacernos cada vez menos competentes en una cuestión y más

04:33irresponsables. Si fallamos, pues no pasa nada, porque fíjate, si las máquinas fallan, pues yo tendré que fallar,

04:39tengo permiso para fallar mucho más. Y esto realmente es preocupante. ¿Por qué es preocupante? Porque esto es un

04:44contagio o un fenómeno que se puede contagiar a nivel social a todos los estratos y a todos los

04:50sectores, incluidos las personas que están desarrollando los propios robots y los propios

04:54sistemas de inteligencia artificial. Con lo cual, ahí existe un riesgo latente de que las propias

05:00personas que diseñan los sistemas de inteligencia artificial y diseñan los robots, pues se sientan

05:05irresponsables. Es decir, bueno, pues si lo que hago no está muy bien, pues da igual, porque al final yo puedo

05:10fallar, soy humano. Pero estamos poniendo eso en una máquina que al final va a controlar procesos

05:16críticos. Va a ser quien te opere en el quirófano, quien dirija una operación compleja o quien mantenga,

05:22por cierto, el sistema eléctrico español, que no deja de ser un sistema robótico, un sistema de

05:28inteligencia artificial, que poco se ha hablado sobre eso. Con lo cual, pues cabe preguntarse si

05:34realmente deberíamos dejar como sociedad tanta responsabilidad en las máquinas y deberíamos

05:41seguir en esa deriva de quitarnos como personas cada vez más de la ecuación, dejar que el futuro

05:48sea un futuro 100% tecnológico, 100% robótico y que la persona quede a la deriva de una sociedad

05:57gobernada por la máquina. ¿Te gusta ese futuro? A mí personalmente no.

Recomendada