Datos personales y privacidad en los sistemas de IA - En Claro

Name: Datos personales y privacidad en los sistemas de IA - En Claro
Uploaded: 2025-07-22T22:45:54+00:00
Duration: 22 min 27 s
Channel: ContraRéplica

ContraRéplica

anteayer

#Derecho #Transparencia #Privacidad #Datospersonales

Contra Réplica MX
Suscríbete en el 55 1140 9052 para recibir las noticias al momento vía WhatsApp

Síguenos también en:
Facebook: Contra Réplica
Twitter: twitter.com/ContraReplicaMX
Instagram: www.instagram.com/contrareplicamx/
TikTok: www.tiktok.com/@contrareplicamx

Créditos / Credits: AFP: https://www.afp.com/es/noticias

Categoría

️👩‍💻️

Cámara web

Transcripción

Mostrar la transcripción completa del vídeo

00:00Hola, ¿cómo están? Bienvenidos a este cuarto capítulo.

00:28En claro, transparencia y derechos. Hoy vamos a analizar uno de los temas centrales del

00:34debate internacional, la inteligencia artificial y cómo justamente ha impactado particularmente

00:41en los temas de transparencia, acceso a la información pública, protección de datos

00:46personales y rendición de cuentas. Y para ello tenemos un gran invitado, un gran amigo,

00:51aliado de estos temas, especialista Alejandro Trejo. Bienvenido.

00:54Muchas gracias, querido comisionado Julio César. Sí, pues vamos a hablar de un tema que ha estado en boga

00:59creo que en todo el mundo, la inteligencia artificial, las regulaciones que hay, Europa que eventualmente

01:05está muy avanzado, los casos como en China, América Latina y por supuesto en México y la ley que

01:11recientemente el instituto propuso en el pleno. Pues sí, a ver, la inteligencia artificial visto

01:16desde un punto técnico es un conjunto de tecnologías que funciona a través de elementos interrelacionados

01:22que generan percepción, cognición, planificación, aprendizaje, comunicación o acción física

01:27similares a las humanas. Sin embargo, es algo muy sencillo como ir a tu teléfono celular,

01:32abrir chat GPT y eso es lo que te está haciendo la inteligencia artificial.

01:36¿Qué opinas, querido comisionado? A ver, este es un gran tema, es una definición

01:40altamente técnica, con la cual se valora mucho, querido amigo. Es cierto, pero el Parlamento

01:46Europeo quizá da un signo mucho más, digamos, digerible para lo que significa la inteligencia

01:53artificial, que no es otra cosa más que la capacidad que hoy tienen las máquinas para

01:59replicar elementos que, se decía, solamente pertenecían a la condición humana como el

02:07razonamiento, el aprendizaje, la capacidad de planeación, etcétera. Y es por ello que

02:13hoy estamos debatiendo estos temas, porque la inteligencia artificial ha avanzado a niveles

02:17que la humanidad naturalmente no tenía ni previsto hace 10 años.

02:22Sí, claro. A ver, hace 5 años, 6 años, este tema todavía estaba, por así decirlo,

02:27coloquialmente en pañales. Sin embargo, ahora ha avanzado a un ritmo impresionante. Y de ahí

02:33la importancia, me parece, de la protección de datos personales y la privacidad, porque

02:37tenemos casos como el de Cambridge Analytica, en el que a través de inteligencia artificial

02:42empezaron a generar mecanismos en los que sabían cómo iba a votar la gente en ciertas

02:48elecciones y con eso podían rastrear sus preferencias electorales para que entonces, si tú ibas a

02:53un distrito en específico, que por decirlo así, a lo mejor tenían una ideología más alineada

02:59al centro, hablabas más del centro. Si era una ideología alineada más hacia la izquierda,

03:03hacia la derecha, podías hablar de estas ideologías. Todo con base en un mecanismo

03:08de inteligencia artificial y esto ha estado probado que gana elecciones.

03:12Es un tema central, Alejandro, porque hoy la inteligencia artificial ocupa prácticamente

03:18todas las actividades que realiza la humanidad. Y ha situado el debate en un tema muy relevante,

03:23de nuestras democracias y cómo es que justamente la inteligencia artificial de alguna manera

03:29se relaciona de manera directa con las redes sociales, con el big data, con el blockchain,

03:34la ciberseguridad, temas que son centrales en el siglo XXI. Y además de los casos que acabas

03:40de señalar, también hay que destacar, si me lo permites, que en el centro, como lo acabas

03:46de puntualizar, está la defensa irrestricta de los datos personales, que se convierten en

03:52democracia, pero también en la cotidianidad, en el activo más valioso del planeta.

03:57Sí, claro. Y cómo cuidar esta privacidad, ¿no? Creo que ahora en la inteligencia artificial

04:02cuando se recaban los datos personales, cuando se recaba, ¿qué tanto acceso va a tener

04:06a la privacidad, no? Yo recuerdo un asunto en Alemania, caso Schufa, en el que un score

04:14crediticio similar como lo hay aquí en México, pero automatizado en el que a través de mecanismos

04:21de inteligencia artificial podían saber, por ejemplo, tú Julio César, ¿cuál es tu

04:24capacidad económica? Y con base en eso te ponen un score. Todo a través de inteligencia

04:29artificial. Y con esto los bancos podían decir, ah, entonces no le voy a dar un crédito

04:33a Julio César, o sí le voy a dar un crédito a Julio César. Y entonces el asunto llegó

04:37hasta el Tribunal de Justicia Europea, en el que el Tribunal de Justicia Europea dijo

04:41que esto vulneraba el aumento de privacidad, de protección de derechos personales en Europa,

04:47porque eran decisiones automatizadas que sí podían infringir en la vida de una persona.

04:53Y creo que aquí se centra el debate de la inteligencia artificial. ¿Hasta dónde podemos

04:57llegar con nuestros datos?

04:57Entonces, son realidades que tenemos que debatir, que la audiencia tiene que conocer,

05:04y que naturalmente a nosotros como autoridad garante en materia de transparencia y protección

05:09de datos personales, nos obliga a actualizarnos en términos de los retos del siglo XXI.

05:14Y así lo hemos hecho, porque, como tú lo sabes, hay una serie de variables y de mecanismos

05:21de controles constitucionales en la capital y en el país para defender nuestros datos

05:26personales. ¿Nos podrías hablar un poco sobre ello?

05:28Sí, claro. A ver, recordemos que aquí en la Ciudad de México tenemos los medios de impugnación,

05:34recursos de revisión, denuncias en materia de protección de datos personales en las que

05:38podemos recurrir para que nosotros protejamos nuestros derechos. Si bien actualmente no existe

05:43una normativa específica en materia de inteligencia artificial, la interpretación constitucional

05:49y normativa sí nos da para poder proteger los datos personales en sistemas de inteligencia

05:54artificial. Claro, necesitamos ir más allá y entonces llegar directo a la inteligencia

05:59artificial.

05:59¿Prevalecen los derechos ARCO, Alejandro?

06:01Yo creo que sí. Yo creo que podríamos empezar por los derechos ARCO y un ejemplo de ello

06:07es lo que les hablé del caso Shufa. Todo empezó por un ejercicio de derechos ARCO. La persona

06:12que llevó el asunto a la sede jurisdiccional empezó ingresando a una solicitud de derechos

06:17ARCO porque quería saber cuál fue el mecanismo que Shufa utilizó para poder llegar a una decisión

06:24que vulneraba su score crediticio.

06:26Recuérdanos, Alejandro, ¿cuáles son los derechos ARCO para nuestra audiencia, por favor?

06:30Derechos de acceso, de rectificación, de cancelación, de oposición y ahora recientemente

06:37de portabilidad que es la PEA al final.

06:39A ver, quiero acentuar este tema porque así como tenemos mecanismos de defensa y garantía

06:44en lo analógico frente al Estado, hoy los tenemos también frente al mundo digital.

06:51Vivimos en un mundo cada vez más hiperconectado, la inteligencia artificial a la vanguardia y necesariamente

06:56necesitamos justamente trasladar todos estos mecanismos de protección y garantía, de control

07:02constitucional, también al desempeño que hoy tienen las denominadas Big Tech.

07:07Entonces, los derechos ARCO, acceso, rectificación, cancelación, oposición y portabilidad.

07:11Pero, a ver, dime una cosa, tú que has estudiado temas a nivel internacional como el alemán

07:17que nos acabas de señalar. A ver, ¿cuál es la diferencia, por ejemplo, entre el derecho

07:22al olvido visualizado en Europa y el derecho de cancelación en México cuando identificamos

07:28que nuestros datos personales están siendo indebidamente utilizados?

07:32Me parece que el derecho, qué gran pregunta, querido comisionado, porque me parece que el

07:36derecho al olvido en México es un concepto que todavía no terminamos de entender, por

07:40así decirlo. ¿Por qué? En Europa, como bien lo dices, el derecho al olvido es un término

07:45que está plenamente acuñado. Es decir, tiene que ver con tu cancelación de derechos en

07:51temas digitales. Un ejemplo en Google, cuando buscan algún nombre y aparece algo relacionado

07:58con tu nombre, pero no está vinculado, puedes solicitar que se cancele directamente en Google.

08:02Y, por ejemplo, en los buscadores de Google en Europa, incluso hasta abajo ya aparece un

08:06formulario para que tú solicites esa cancelación y ese derecho al olvido. En México es un tema

08:11que todavía no tenemos muy acuñado y entonces lo hacemos desde el derecho de cancelación.

08:17Sin embargo, todavía, a ver, un caso muy interesante, ¿no? ¿Cómo empezó el derecho al olvido

08:23en México? Hace algunos años algún empresario que estuvo presuntamente acusado de corrupción,

08:29¿no? Lleva, al final se determina que no tenía que ver nada con actos de corrupción en

08:36sede jurisdiccional y entonces él inicia su procedimiento de protección de datos personales

08:41ante el INAI. ¿Por qué? Porque entonces él buscaba su nombre en Google y aparecían

08:46casos relacionados con corrupción. Él, al intentar iniciar su procedimiento de protección

08:51de datos personales ante el INAI, el asunto llegó hasta la Corte porque él precisamente

08:56lo que quería era que no se le vinculara con estos temas relacionados con corrupción.

09:02Para no extenderme más y no aburrir también un poco a la audiencia en tecnicismos, la Corte

09:07lo regresó al INAI para decir que tenía que llamar a audiencia a todos y aquí juega

09:11un papel central una red que se llama Red por los Derechos Digitales y en ese ínter entre

09:17que el INAI tenía que volver a llamar a todas las partes, Google hizo algo bien interesante.

09:22Legalmente desapareció su oficina en México y entonces ya no se le podía notificar y

09:26actualmente es un tema que me parece, Julio, que sigue sin poder avanzar el derecho al olvido.

09:31En cambio, en Europa ya es un tema que desde un buscador ya lo puedes hacer. Entonces,

09:36creo que ahora actualmente a través del derecho de cancelación lo podemos utilizar para que

09:41entonces se cancele información que no se vincule con nosotros, ¿no? Es decir, pueden ser

09:46desde programas sociales, asuntos que acá ha habido en el Instituto de Transparencia en el que,

09:51como bien saben, un padrón de beneficiario social es público, claro, ¿no? Por la rendición de cuentas.

09:57No obstante a ello, una vez que termina la persona de ser beneficiaria, hay un ciclo de vida

10:04en los archivos. Sin embargo, tiene derecho a que se le cancele y que ya no se le siga

10:08vinculando con estos programas sociales.

10:11A ver, este es otro tema muy interesante porque nuestra audiencia tiene que conocer

10:16cuáles son también los límites a ciertos derechos que en realidad, como lo establece

10:22la doctrina internacional en materia constitucional, ningún derecho humano es absoluto y naturalmente

10:28la interpretación que realizan órganos jurisdiccionales o cuasi jurisdiccionales como es el Info Ciudad

10:35de México, que cotidianamente estamos analizando estos temas de ponderación de derechos y tú

10:42particularmente lo conoces bien porque coordinas una ponencia muy importante dentro del Info

10:48Ciudad de México y que junto con las otras has analizado muchos temas que han impactado

10:54a la capital en diversas materias derivadas de la transparencia, la rendición de cuentas,

10:59el combate a la corrupción y naturalmente la protección de los datos personales.

11:04Pero, ¿cómo se realiza esta ponderación? Porque por un lado tenemos el derecho de acceso

11:09a la información pública consagrado en el sexto constitucional y su principio es el de máxima

11:14publicidad y el otro es el 16 constitucional de la protección de los datos personales

11:19y su principio que es el de la máxima privacidad. Como en tu labor cotidiana, ahora más allá

11:26de lo analógico y los avances democráticos que tenemos en la capital del país, ahora

11:32el reto está justamente cómo hacer frente a un modelo tecnológico que en realidad está

11:38ocupando cada vez más escenarios de carácter público y que en la mayoría de los casos nos

11:44estamos convirtiendo en una sociedad digitalizada y en donde el combustible central es la protección

11:50de los datos personales. ¿Qué garantías tenemos frente a este desarrollo? ¿Qué tenemos que

11:55hacer frente a este modelo? ¿Y cuáles son, digamos, los marcos de referencia internacional

12:00de los cuales podemos abrevar, Alejandro?

12:03Yo creo que es bien interesante porque de entrada ya, como bien dices, todo es digital, ¿no?

12:09Ya muchas veces tenemos nuestra agenda, nuestros documentos en el teléfono y entonces entramos

12:16a las páginas y por ejemplo algo tan sencillo, aceptar el aviso de privacidad, ¿no? Creo que

12:20muchas veces entramos a una página y todos le vamos a aceptar. Me parece que tú hiciste

12:24un ejercicio muy interesante en algún infotoc en el que mucha gente no se dio cuenta que

12:29ojalá después podamos hablar de eso. Pero tenemos que ser muy cuidadosos en cómo cuidar

12:34nuestros derechos en el ámbito digital porque está la, por ejemplo, me gustaría vincularlo

12:40con la portabilidad que hablábamos hace un momento y que tiene que ver con el tema digital.

12:44Esta portabilidad puede ser desde un tema que puede ayudar o beneficiar a muchas personas

12:50como también puede ser un tema que puede dañar mucho, ¿no? ¿Qué quiere decir la portabilidad?

12:55Que si yo ingreso un dato, por ejemplo, trasladémoslo al servicio público, lo entrego a alguna

13:01secretaría que entonces ya esa secretaría pueda aportarlo hacia todas las demás secretarías

13:06sin necesidad de tener que estar haciendo un trámite burocrático en cada una de las secretarías.

13:11Un ejemplo de ello, por ejemplo, en Europa uno de los países más avanzados en estos temas

13:15es Estonia, donde ya incluso tienen una identificación digital y que tú ya no necesitas ir básicamente

13:21a una ventanilla para nada y todo lo puedes hacer desde tu teléfono y...

13:25Bueno, hay modelos importantes de referencia como Estonia, que se ha convertido en una nación

13:30súper digitalizada, hiperconectada, pero tenemos modelos de inteligencia artificial

13:35a nivel global que es muy importante atender.

13:38Por un lado, el europeo, ¿no? Con su reglamento muy fuerte en materia de inteligencia artificial,

13:44lo que está haciendo China o el gigante digital chino y nuestros vecinos del norte que iniciaron

13:49en Silicon Valley y ahora están instalados en Washington y que naturalmente para nuestra región

13:55y para nuestro país y nuestra capital son modelos que significan puntos de partida

14:00sobre los cuales tenemos que identificar qué queremos y cómo vamos a realizar esta normativa

14:07para la capital y el país.

14:09Ya lo hicimos, lo dijiste al inicio de esta conversación, presentamos ya oficialmente una iniciativa de ley

14:15ante el Congreso de la Ciudad de México en materia de inteligencia artificial

14:18cuando en el sector público se traten o administren datos personales bajo cuatro principios elementales,

14:25ética, seguridad, explicabilidad y transparencia.

14:28Incluso estamos proponiendo que se fiscalicen procesos a través de auditorías algorítmicas

14:36que naturalmente serán temas a debate en el futuro porque este tema, Alejandro,

14:41nos llena de muchas variables y de fronteras que seguramente seguiremos explorando.

14:47Por ahora quiero agradecerte mucho tu experiencia, acompañarme en este programa

14:52en donde dimos pincelazos sobre grandes temas vinculados a la inteligencia artificial.

14:59Uno de ellos, central para nosotros, la protección de los datos personales.

15:03No sé si quieras mandar un mensaje de Ciara.

15:05Sí, a ver, me parece que es un reto que tenemos hacia el futuro porque como bien lo dijiste,

15:10Europa tiene muy robusto sido su reglamento de protección de datos personales.

15:14China ya está aprobando una ley en materia de inteligencia artificial.

15:19Pues qué decir de Estados Unidos que lo tiene ya también con los gigantes que estaban en Silicon Valley

15:24y ahora en Washington, pero no tenemos que olvidarnos de la región de Latinoamérica

15:27y particularmente en México donde tenemos que estar ya a la vanguardia

15:31porque aquí la inteligencia artificial la usamos ya para todo.

15:34Seguramente hasta en tus clases te podrás haber dado cuenta que habrá alumnos

15:37quienes utilicen ya inteligencia artificial para sus tareas.

15:41Y que tú lo dijiste, no está mal porque a ver, finalmente es una herramienta más.

15:45Entonces tenemos que estar a la vanguardia para poder regular la inteligencia artificial

15:50y cómo se trata los datos personales en estas herramientas tecnológicas.

15:56Muchas gracias. Hasta pronto.

15:58En la Ciudad de México queremos saber cómo se gastan nuestros impuestos,

16:07cómo se toman las decisiones públicas que nos afectan

16:10o cómo las instituciones públicas protegen nuestros datos personales y acceder a ellos.

16:16Para eso tenemos al Info de la Ciudad de México que defiende, promueve

16:20y ayuda a que ejerzas tus derechos de acceso a la información

16:23y a la protección de datos personales, a través de las resoluciones que aprueba en su pleno,

16:29de la creación de herramientas como Chatbot a TIC,

16:32en la que puedes obtener información pública en solo 9 segundos,

16:37a través de la evaluación a todos los sujetos obligados de la capital

16:40para asegurar que cumplan sus obligaciones de transparencia,

16:44a través del CIBER para verificar que las instituciones públicas de la Ciudad de México

16:49traten y protejan adecuadamente tus datos personales,

16:53a través de capacitación a los sujetos obligados para que garanticen tus derechos

16:58y de las diversas actividades en las que llevamos información sobre tus derechos

17:02a todos los rincones de la ciudad.

17:05Conoce nuestro portal infocdmx.org.mx

17:10e interactúa con nosotros en redes sociales

17:13arroba infocdmx.

17:16El Info de la Ciudad de México defiende tus derechos de acceso a la información

17:21y protección de datos personales.

17:25Pues vamos ahora con la agenda de las actividades que hemos realizado

17:29en el Info Ciudad de México durante estos tiempos

17:32y iniciamos, aquí nos acompaña Diana,

17:35quien además formó parte de este gran proyecto que va a presentar.

17:38En el marco de la ceremonia de entrega de premios 2025

17:42para niñas, niños y adolescentes,

17:45presentamos un video sobre las pláticas de sensibilización

17:48que llevamos en las primarias y secundarias de la Ciudad de México.

17:54Info Ciudad de México,

17:56pláticas de sensibilización 2022 a 2025.

18:01Venustiano Carranza, 6 escuelas.

18:04Benito Juárez, 6 escuelas.

18:07Coyoacán, 6 escuelas.

18:12Tláhuac, 6 escuelas.

18:17Milpa Alta, 6 escuelas.

18:22Xochimilco, 5 escuelas.

18:26Iztapalapa, 6 escuelas.

18:27Iztacalco, 6 escuelas.

18:35Gustavo A. Madero, 6 escuelas.

18:40Cuauhtémoc, 6 escuelas.

18:44La Magdalena Contreras, 7 escuelas.

18:47Tlalpan, 6 escuelas.

18:53Guajimalpa, 6 escuelas.

18:58Álvaro Obregón, 6 escuelas.

19:00Miguel Hidalgo, 6 escuelas.

19:07Azcapotzalco, 7 escuelas.

19:13Dando un gran total de 96 escuelas primarias y secundarias visitadas.

19:18436 grupos escolares atendidos.

19:27200 pláticas de sensibilización impartidas.

19:3212.303 niñas, niños y adolescentes beneficiados.

19:44En el Instituto de Transparencia, acceso a la información pública, protección de datos personales y rendición de cuentas de la Ciudad de México, creemos que la educación es la semilla del cambio.

19:57Nuestra misión es sembrar en niñas, niños y adolescentes la importancia de proteger sus datos personales y de ejercer sus derechos en el entorno digital.

20:07Cada cifra representa una historia, un joven más consciente y un paso firme hacia una cultura de la transparencia y la rendición de cuentas en nuestra ciudad.

20:36Pues bien, ahora también tuvimos un gran evento en una alianza con el Archivo General de la Nación, en un foro maravilloso, Justicia, Memoria y Verdad, donde tuvimos la oportunidad de compartir diversas experiencias, capacidades institucionales, sociales, culturales y jurídicas.

20:56En donde tuve la oportunidad de compartir mesa con diferentes especialistas en esta materia, por lo que resignificamos el valor que tiene en pleno siglo XXI, la transparencia y el acceso a la información pública, la rendición de cuentas en una alianza con los archivos para tener justicia, memoria y verdad.

21:16Bueno, gracias Diana por acompañarnos en este segmento y como sabemos cerramos también esas actividades con una gran conferencia, con un personaje además de mucha influencia en nuestra región en Europa, el doctor Oscar Raúl Puccinelli,

21:34Parucci, que nos habló sobre IA y otras tecnologías emergentes y cómo impacta en nuestras democracias.

21:41Así que acompáñenos porque vamos a seguir teniendo actividades de primer nivel para la conversación en la capital y en el país.

21:49Diana, muchísimas gracias por esta oportunidad.

21:51Gracias, comisionado. Y también recordarles que nos sigan en redes sociales como Info CDMX, Facebook y en LinkedIn Info Ciudad de México.

22:01Muchísimas gracias.

22:02Muchas gracias y hasta pronto. Gracias Diana.

22:05Gracias.

22:06Gracias.

22:07Gracias.

22:08Gracias.

22:09Gracias.

22:10Gracias.