¿Cómo se debe vivir en esta era de la Inteligencia Artificial?

Canal  Trece

En Código Trece nuestro programa de tecnología conozca ¿Cómo se debe vivir en esta era de la Inteligencia Artificial? Riesgos emergentes, privacidad y hasta contextos educativos.

Transcript

00:00Hola, soy David González, Security Researcher para Hacer Latinoamérica.

00:04El día de hoy vamos a hablar sobre el tema de cómo vivir en la era de la inteligencia artificial.

00:09La transformación de hoy en día con la inteligencia artificial y relacionado al mundo de ciberseguridad

00:14habla de un nuevo paradigma, la forma en cómo proteger la información,

00:18porque sabemos bien que la inteligencia artificial consume de nuestros datos,

00:23nosotros somos la entrada para que pueda producir una salida.

00:26Entonces, aquí es donde entra la importancia de proteger la información,

00:31de dónde se almacena y quiénes son los que desarrollan estas inteligencias artificiales.

00:37No todo es malo, pero también existe esta parte de que los ciberdelincuentes

00:41la empiezan a utilizar para la cuestión de engañar,

00:44ser mucho más eficientes en la forma de estafas hacia las personas.

00:49Los riesgos que hoy implican los agentes de inteligencia artificial,

00:53de nuevo, partiendo de lo que es la propia inteligencia artificial,

00:57sabemos que necesitan aprender de nuestro entorno.

01:00Y la ventaja que tienen estos agentes de inteligencia artificial

01:04es que también pueden tomar decisiones.

01:07Sin embargo, la forma en cómo ellos operan, cómo funcionan,

01:11es de nuevo, obteniendo datos de lo que los rodea.

01:15El problema aquí es qué pasaría si alguien pudiera acceder a esa información,

01:20cómo la utilizarían, incluso existen ejemplos que nos ha dado la historia

01:26que uno muy básico, una aspiradora inteligente.

01:31Puede mapear, en este caso, cómo se encuentra nuestro hogar internamente,

01:36pero qué pasaría si alguien lograra vulnerar nuestra red Wi-Fi,

01:39entrar a través de esta aspiradora inteligente,

01:44ya tendría como un mapa de nuestra forma,

01:47más bien de cómo es nuestra casa.

01:48Entonces, también aquí viene otra parte de cómo proteger esos sistemas.

01:53Entonces, hay que tenerlo en consideración.

01:56Los agentes de IA son importantes, vemos como compañeros,

02:00pero también la cuestión de cómo proteger la información

02:03a través de contraseñas robustas,

02:05de estar cambiando nuestra red de Wi-Fi,

02:07no dejar la contraseña por defecto,

02:09son de las medidas que se están recomendando hoy en día.

02:12Los principios que se deben de manejar en cuanto a ética

02:15y el desarrollo de inteligencia artificial son básicamente,

02:19tienen que ser acompañados no solamente de la cuestión filosófica,

02:23es decir, desde cómo generar datos, inteligencia artificial,

02:27para que no generen discriminaciones,

02:29sino también de una parte legal.

02:31Cómo es que se protege la información,

02:34de dónde proviene, hacia dónde se almacena

02:37y quiénes son los responsables de resguardar esa información.

02:40Entonces, esa es una tarea que no solamente pertenece a los desarrolladores,

02:46a los legisladores, sino también es un conjunto.

02:49Entonces, para eso están también las partes expertas

02:52y debería ser un trabajo unificado.

02:56De los hábitos para poder vivir dentro de la inteligencia artificial,

03:00de la era de la inteligencia artificial,

03:02siempre es estar conscientes, leer bien las letras chiquitas.

03:07Sabemos que es complicado a veces leer tantos términos y condiciones

03:10que es abrumador.

03:13Entonces, aquí también por parte de las empresas

03:16que dan este tipo de servicios de inteligencia artificial,

03:20deberían de ser más claras,

03:21ser más precisas en cómo se trata la información,

03:24hacia dónde va.

03:25También el usuario debe de ser un poco más consciente

03:30de que esos datos pueden,

03:32no solamente se quedan supuestamente en su teléfono,

03:36sino se pueden manejar para todo tipo de cosas,

03:38para una publicidad mucho más personalizada.

03:42Y entonces, aquí también viene la parte

03:43de cómo se aceptan términos y condiciones.

03:46Claro que aquí también las plataformas deben de ser muy claras

03:50con lo que están, cómo tratan la información,

03:53pero también el usuario debe de estar consciente

03:55de que no debe de ingresar datos tan sensibles

03:58dentro de una inteligencia artificial,

04:00porque ya se han dado casos

04:02en donde existen estas filtraciones de datos.

04:05Y entonces, si alguien logra introducir información sensible

04:09a esa inteligencia artificial,

04:11existe el riesgo de que exista otro tipo de vulneración.

04:14Para fomentar una conciencia crítica,

04:17ya sea en un ámbito educativo, en un ámbito familiar,

04:20el uso responsable de la inteligencia artificial

04:23es importante que se verifique

04:26qué es lo que se está introduciendo,

04:28el resultado que da.

04:29Sabemos que existen dentro de las inteligencias artificiales

04:32sesgos, no todo lo que se arroja es real,

04:35incluso tiene este famoso término

04:38que se le da a los resultados

04:40cuando no son correctos

04:41de una alucinación de inteligencia artificial.

04:44Y hay ejemplos muy claros.

04:45Entonces, los padres, los profesores,

04:48deben de estar atentos

04:49a cada uno de los resultados que arroja

04:52y validarlos.

04:53Por eso existe esta parte

04:55de no confiarse en todo lo que da

04:57la inteligencia artificial.

04:58Incluso muchos de ellos vienen con

05:00una parte, una advertencia

05:02de que se valide

05:03lo que está arrojando

05:04la inteligencia artificial.

05:05También, si nos vamos

05:07en el ámbito directamente educativo,

05:09muchos de los estudiantes

05:10lo utilizan para fácilmente

05:13automatizar sus tareas.

05:15Sin embargo, aquí también existe

05:16esta dependencia

05:17con la tecnología.

05:20Ya se está dejando a un lado

05:21la parte del pensamiento crítico

05:23y solamente se está enfocando

05:24en la parte de solamente

05:26preguntar a una inteligencia artificial.

05:28Entonces, debe ir a la mano.

05:30Los profesores también

05:31tienen que estar conscientes

05:32de que no todos deben

05:34de delegarlo a la inteligencia artificial,

05:35sino más bien ser una herramienta.

05:37Lo mismo los padres.

05:38Deben de fomentar

05:39el uso de inteligencia artificial

05:41de una manera educativa,

05:43de una manera...

05:44También puede utilizarse

05:46para el ocio,

05:46pero sobre todo,

05:48ver que no todo lo que arroja

05:49la inteligencia artificial

05:50va a ser color de rosa.

05:52Entonces, sabemos

05:53que existen riesgos,

05:55existen estos sesgos

05:56dentro de las consultas

05:57que se dan

05:58y por lo tanto hay que validar.

06:00Garantizar directamente

06:01la producción de nuestros datos

06:03sobre los agentes

06:04de inteligencia artificial

06:05es primero fundamental

06:06leer las letras chiquitas,

06:08es decir,

06:09cómo se tratan los datos,

06:11hacia dónde van,

06:13pero también de nosotros

06:14depende de qué datos

06:16le ingresamos,

06:17qué tanto tipo de rutinas

06:18estamos generando

06:20en estos agentes

06:21de inteligencia artificial.

06:22Como mencionábamos,

06:24existen muchísimos agentes

06:25que se encargan

06:26de procesar datos

06:27y también tomar decisiones

06:29de manera automática.

06:31Esas decisiones

06:32se pueden utilizar

06:33para cuestiones

06:34totalmente válidas,

06:36cuestiones éticas,

06:37pero también

06:37si alguien logra utilizarlo

06:39para cuestiones nada éticas,

06:41¿qué pasaría?

06:42Un ejemplo muy básico

06:43que se puede poner

06:44es cuando tenemos

06:46un bebé pequeño,

06:48una analogía,

06:49si el bebé crece

06:51en un ambiente hostil,

06:52pasa lo mismo

06:53con la inteligencia artificial.

06:55Aprende que

06:55en ese ambiente hostil

06:56hay cosas que no,

06:58literalmente son algo normales,

07:00lo normaliza.

07:01Caso contrario,

07:02si crees en un ambiente

07:03totalmente armónico,

07:05pues entonces

07:05la inteligencia artificial

07:06lo normaliza.

07:08Entonces hay que tener

07:08también en consideración

07:10esto.

07:11El papel fundamental

07:12hoy en la inteligencia artificial

07:14y sobre todo

07:14en la detección

07:15de amenazas

07:17es algo que se está utilizando

07:18hoy en día

07:19en muchos de los productos,

07:20en muchos de los vendos

07:21de ciberseguridad.

07:23De hecho,

07:23es algo fundamental

07:24porque es una forma

07:25más fácil de detectar

07:26y mitigar

07:28los ciberataques.

07:30Hoy en día

07:30también existen

07:31muchísimas formas

07:32de generar ataques

07:34a través de inteligencia artificial,

07:35pero también existe

07:36el lado del bien

07:37que se está utilizando

07:38para adelantarse,

07:39anticiparse

07:40ante este tipo

07:41de amenazas

07:42y por lo tanto

07:43si se está utilizando

07:44para el bien,

07:45pues hay que aprovechar

07:46este tipo de herramientas.

07:48Gracias Código 13

07:49por la invitación.

07:50Los invitamos a leer

07:51nuestro blog

07:52que se llama

07:52WilliP Security

07:53donde damos buenas prácticas,

07:55recomendaciones

07:56de cómo navegar

07:57de manera segura

07:58en Internet,

07:59también las repercusiones

08:00que tiene

08:01la inteligencia artificial

08:02y nos vemos

08:03en una próxima edición.

08:04¡Suscríbete al canal!

Categoría

Transcripción

Recomendada