Inteligencia artificial y nuevas fronteras regulatorias para la Ciudad de México

La Silla rota

5/9/2024

La Ciudad de México se prepara para dar un salto de calidad en la protección de los derechos de las personas al presentar una iniciativa pionera para la regulación de la inteligencia artificial. | Julio César Bonilla

Categoría

🗞

Noticias

Transcripción

Mostrar la transcripción completa del vídeo

00:00En una era inmersa en el imparable avance de la tecnología,

00:03la Ciudad de México se prepara para dar un salto de calidad en la protección de

00:08los derechos de las personas al presentar una iniciativa pionera para

00:12la regulación de la inteligencia artificial.

00:18Este proyecto no sólo tiene el potencial de colocar a la capital del país a la

00:23vanguardia de la regulación tecnológica a nivel global, sino que también destaca

00:27por estar impulsado por el Instituto de Transparencia, Acceso a la Información

00:31Pública, Protección a los Personales y Rendición de Cuentas de la Ciudad de

00:35México, InfoCDMX. Organismo garante que siempre ha demostrado un profundo y

00:40proactivo compromiso con su misión de salvaguardar los derechos fundamentales

00:43de acceso a la información y el de la protección de los datos personales.

00:49Así que el InfoCDMX encabeza este esfuerzo, no es casual, como organismo

00:54autónomo y en el marco de su competencia su función es garantizar la

00:58transparencia y proteger los datos personales, además de promover la

01:02rendición de cuentas. Todos ellos en realidad pilares fundamentales en la

01:06gestión ética y responsable de la inteligencia artificial. La participación

01:11de este organismo asegura que el marco jurídico que se propone no sólo esté

01:15alineado con las mejores prácticas internacionales, sino que también esté

01:19profundamente regado en la realidad sociocultural y jurídica de México.

01:24La Ciudad de México, con su rica diversidad, su economía vibrante y su dinámico

01:29entorno social, representa un escenario único donde la inteligencia artificial

01:33puede tener un impacto significativo. Sin embargo, la adopción y uso de estas

01:38tecnologías deben estar acompañadas de una regulación que proteja los derechos

01:43de las personas, especialmente en lo que respecta a la privacidad y el manejo de

01:47datos personales. Aquí es donde el liderazgo del Info CDMX se vuelve

01:51crucial, ya que su experiencia en la protección de datos y la transparencia

01:55permitirá garantizar que la implementación de la IA se realice de

02:00manera responsable y ética. La iniciativa ha sido construida sobre la

02:04base de diversas recomendaciones y normativas internacionales, como las de

02:08la OCDE, la UNESCO y la Unión Europea, adaptándolas a la realidad mexicana.

02:14Este enfoque global-local asegura que la Ciudad de México no solo siga las

02:18mejores prácticas internacionales, sino que también aborde las necesidades y

02:23particularidades de su población. En un contexto donde la tecnología avanza a

02:28una velocidad sin precedentes, es fundamental que las regulaciones se

02:32diseñen de manera flexible, pero rigurosa, permitiendo que la ciudad se

02:36mantenga la vanguardia de la innovación, pero sin comprometer los derechos de

02:41todas y todos los que en ella confluimos. La propuesta prevé un enfoque basado en

02:46riesgos, es decir, en lugar de imponer una regulación rígida que podría sofocar la

02:51innovación y el desarrollo tecnológico, la ley propone un modelo de gestión de

02:55riesgos que permita evaluar y mitigar los impactos potenciales de la

02:59inteligencia artificial. Este enfoque es especialmente relevante en una ciudad tan

03:03dinámica y compleja como la Ciudad de México, donde las aplicaciones de IA

03:08permiten variar enormemente según el sector, el área y la situación que

03:13impactan. Además, la iniciativa busca fomentar la

03:16cooperación entre el sector público, privado y académico, reconociendo que la

03:20innovación en inteligencia artificial no puede lograrse en aislamiento. La

03:25colaboración es esencial para desarrollar modelos de inteligencia

03:28artificial que sean a la vez innovadores y responsables. El Info Ciudad de México

03:33con su red de alianzas y su enfoque en la transparencia está en una posición

03:37única para liderar estos esfuerzos y asegurar que todos los sectores

03:41involucrados contribuyan de manera efectiva a la construcción de un marco

03:46regulatorio robusto. Es preciso decir que el marco jurídico propuesto también

03:50incluye disposiciones clave para la transparencia algorítmica, un aspecto

03:55fundamental en la gobernanza de la IA, al requerir que los datos de

03:59entrenamiento, las herramientas de valor y las evaluaciones sean transparentes y

04:03accesibles. La ley asegura que los sistemas de

04:06inteligencia artificial puedan ser auditados y evaluados de manera justa.

04:10Esto es particularmente importante en un entorno donde los algoritmos pueden

04:14tener un impacto significativo en la vida de las personas, desde las decisiones

04:19gubernamentales hasta los servicios públicos. Además, la iniciativa contempla

04:24la responsabilidad algorítmica y establece procedimientos claros para la

04:28protección de datos personales. Esto incluye el derecho de las personas a

04:33ejercer los derechos ARCOP, acceso, rectificación, cancelación, oposición y

04:37portabilidad, así como la existencia de medios de impugnación en caso de

04:42violaciones. La posibilidad de realizar auditorías algorítmicas y publicar sus

04:46resultados de manera transparente es un paso decisivo hacia una inteligencia

04:51artificial ética responsable y robusta. El vertiginoso avance tecnológico ha

04:56convertido a la protección de los derechos fundamentales en un desafío

05:00cada vez más complejo. Sin embargo, la experiencia acumulada por el InfoCDMX en

05:04la protección de datos y la promoción de la transparencia lo convierten en un

05:08actor crucial para asegurar que la Ciudad de México no sólo se adapte a

05:13las nuevas realidades tecnológicas, sino que lo haga de una manera que priorice

05:17el bienestar de las personas. Finalmente, es esencial destacar que esta

05:22iniciativa no sólo es un hito para la Ciudad de México, sino que también tiene

05:26el potencial de servir como un modelo para otras ciudades y regiones del país.

05:31En un momento en que la inteligencia artificial se ha integrado rápidamente

05:35en todos los aspectos de la vida, contar con un marco jurídico sólido que

05:39proteja los derechos de las personas es más determinante que nunca. La Ciudad de

05:44México, bajo el liderazgo del InfoCDMX, está preparada para asumir este reto y

05:49convertirse en un referente global en la regulación de la inteligencia

05:52artificial. Es importante destacar que esta construcción legislativa es un

05:57trabajo de carácter coordinado con White Box Project Institute y con la

06:02asesoría de la Embajada Británica, que naturalmente nos permitirá abrir un

06:06diálogo, como siempre, directo, democrático, cercano y muy coordinado con la

06:12tercera legislatura del Congreso de la Ciudad de México, de esta, insisto, la

06:17Ciudad de las Libertades, los Derechos, el Desarrollo y la Innovación

06:21Tecnológica. Muchas gracias.

Recomendada