Frente al acelerado avance de la inteligencia artificial (IA), la academia, el gobierno capitalino, órganos autónomos y representantes gubernamentales, así como del ámbito jurídico, tienen que sumar esfuerzos para diseñar un marco legal eficaz, ético y de largo alcance que permita regular el uso de esa herramienta tecnológica en la Ciudad de México.
Por ello, ante el Congreso local el Instituto de Transparencia, Acceso a la Información Pública, Protección de Datos Personales y Rendición de Cuentas de la Ciudad de México (INFO), promueve una iniciativa en la que propone adoptar diversos enfoques y criterios de organismos internacionales y nacionales, en atención a la realidad que se tiene en el país.
TE RECOMENDAMOS: Comisionado del Infoem pide regular Inteligencia Artificial
El organismo garante de la capital sugiere tomar en cuenta la recomendación de la Organización para la Cooperación y Desarrollo Económico (OCDE) sobre la IA, la que hace la UNESCO sobre la ética en torno al tema, del Open Data Institute (ODI) y su programa sobre el rubro centrado en los datos, sin hacer a un lado el reglamento emitido por la Unión Europea y la opinión que ha emitido la Alianza Nacional de Inteligencia Artificial, así como los diferentes documentos generados durante los últimos 2 años de actividad.
A los que conforman la III Legislatura del Congreso de la Ciudad de México que inició el pasado 1° de septiembre, el INFO les dará la tarea de tratar a fondo ese tema, debido a que quiere impulsar la primera ley que regule las aplicaciones de inteligencia artificial que siente las bases para una reglamentación a nivel nacional.
Se trata de una ley que establezca los principios, reglas y procedimientos para garantizar la protección de los datos personales ante el desarrollo y uso de los sistemas de IA, además de que se aplique a los sujetos obligados que es cualquier autoridad, entidad, órgano y organismo de los Poderes Ejecutivo, Legislativo y Judicial, órganos autónomos, partidos políticos, fideicomisos y fondos públicos.
Es plausible el esfuerzo para regular la IA y el uso de datos en modelos tecnológicos a cargo de los entes públicos porque, así como generan avances y beneficios, se dan impactos adversos y son estos los que preocupan a los filósofos, ingenieros y estudiosos del derecho, de ahí que se quiera regular.
Resulta que la iniciativa propuesta por el comisionado ciudadano del órgano autónomo, Julio Cesar Bonilla Gutiérrez, se lleva a cabo a nivel local con la colaboración de instituciones como el Tecnológico de Monterrey, el Instituto de Investigaciones White Box Project y la UNAM.
La propuesta únicamente atiende temas de privacidad y uso de datos personales que sirve para el desarrollo de modelos de IA o para la toma de decisiones derivadas de los mismos por parte de las instituciones públicas de la capital del país.
Se pretende con la propuesta establecer normativas que garanticen la seguridad, libertad y ética en el uso de la inteligencia artificial en el servicio público.
Para el especialista internacional Oscar Raúl Puccinelli Parucci, el principal desafío de la humanidad ante el desarrollo de la IA es fortalecer la protección de los datos personales y alinear la tecnología a los valores humanos.
REGULAR CON ÉTICA Y SEGURIDAD
La postura del profesor de la Universidad Autónoma Metropolitana (UAM) Azcapotzalco, Edgar Sansores Guerrero, es que la IA es un arma de dos filos, porque puede ayudar a cerrar brechas, pero si no se usa adecuadamente puede ampliarlas.
“En la actualidad, en los procesos de cualquier negocio está interactuando la inteligencia artificial, como en la revisión de perfiles laborales, también al evaluar nuestro historial de crédito, o al generar un diagnóstico médico”, aludió.
Recomendó, por ello, generar un sistema de regulación basado en la ética y que se cree, por ejemplo, seguridad en el manejo de datos, resiliencia y privacidad.
“Se ha llevado tiempo regular a la IA, porque es complejo regular algo que tiene una dinámica que día a día tiene cambios, por eso hoy debemos tener mucho cuidado con la información que podamos verter al interactuar con dicha inteligencia, como es el llenar formularios, porque nadie garantiza que uso se le dará a esa información”, asentó Sansores Guerrero.
DESCARGAN LA IA SIN PAGO CON LA CREENCIA DE QUE ES BUENO
El profesor investigador del Departamento de Administración de la UAM, Óscar Lozano Carrillo, lanzó la advertencia de que “estamos frente a un artefacto resbaloso, que nombraron inteligencia artificial, que se ha detonado en un ámbito global, y las personas la enfrentan y lo hacen gratuitamente”, por eso en Internet se puede descargar y utilizar sin pago, creyendo que es algo bueno.
“Hoy se está dando la Cuarta Revolución Industrial con la llegada de la IA y la tecnología digital, motivo por el cual la UAM Azcapotzalco no puede quedarse atrás y de ahí que está en vías de aprobar la incorporación de la Licenciatura en Inteligencia Artificial a su plan de estudios”, informó Lozano Carrillo.
Mientras tanto, para concientizar a la ciudadanía, compartir conocimiento y herramientas prácticas para identificar y mitigar los posibles riesgos que conllevan el uso de las tecnologías de la información y la IA, el INFO efectuó el taller virtual “Derechos y Riesgos digitales”.
La meta se dirigió a dar a conocer temas relacionados con los derechos digitales y la inteligencia artificial, para que adquieran habilidades que les permitan navegar de manera segura en el entorno digital.
En ese contexto, el comisionado del Instituto Federal de Telecomunicaciones (IFT), Javier Juárez Mojica, calificó de pertinente el identificar y mitigar los riesgos que pudieran darse al requerir la tecnología, porque la población mayor de seis años que usa el Internet en México pasó de 61.4 millones en el 2015 a 97 millones en el 2023, lo que representa más del 82 por ciento de la población.
El comisionado Bonilla Gutiérrez, delineó que la iniciativa se centra en la privacidad, transparencia, protección de datos personales, ética, innovación, apoyo a la investigación y el desarrollo en este campo, a fin de fomentar la confianza de las personas usuarias y asegurar que la IA sea legal, ética y robusta desde un punto de vista técnico.
Debido a la trascendencia que actualmente representa el uso seguro y adecuado de la IA, en la tarea de su regulación, se trabajará sin que su aplicación menoscabe los derechos y dignidad de las personas.
Se quiere sentar las bases para alcanzar los niveles que en esta materia tienen países como Estados Unidos, China y de la Unión Europea, que han implementado sus marcos regulatorios.
CONTAR CON LEY TRAS DEBATE SERIO
El propósito del INFO es que junto con el Congreso de la Ciudad de México se logre una ley que, entre otros temas, contemple los distintos grados de riesgo, la protección de los datos personales, la rendición de cuentas y la transparencia respecto al ciclo de vida del producto, así como registrar los procesos de su desarrollo.
Para aterrizar la propuesta de ley, se tiene contemplado convocar a diferentes sectores de la sociedad como del ámbito legislativo, instituciones públicas, academia y personas expertas en la materia para escuchar sus diversas voces, llevar a cabo un debate serio, reflexionar y dialogar en la materia para crear un marco regulatorio y robusto.
Puccinelli Parucci, conminó a no tener miedo al uso de la tecnología y no negar, sino tener un nuevo enfoque y fomentar “masa crítica” porque de eso se trata la investigación aplicada a la educación. “Tenemos que hacer que la tecnología nos sirva para enseñar y diseñar un futuro centrado en las personas y no en las máquinas, que éstas sigan siendo una herramienta de acompañamiento, pero encausada”.
El comisionado presidente del INFO, Aristides Rodrigo Guerrero García, consideró pertinente entender la IA, porque ésta, como hizo el Internet, revolucionará la vida cotidiana, a la vez que indicó que el órgano garante se une a la inteligencia artificial porque “es muestra de reinventarnos”.
Dio cuenta que el pasado primero de agosto se proclamó en la Unión Europea la primera ley que regula la IA a nivel internacional y establece un catálogo de sanciones. Hizo notar que los seres humanos se convierten en anfibios digitales, que actualmente pasan entre cuatro y seis horas en el celular y estamos viviendo en dos entornos, el físico y el digital.
También en esos términos se expresó el comisionado ciudadano Julio César Bonilla Gutiérrez al comentar que la IA se ha desarrollado hasta convertirse en una antorcha encendida y que transformará la vida de la humanidad.
Por ello, indicó, desde el INFO se trabaja en la iniciativa de ley en materia de inteligencia artificial vinculada a la protección de datos personales en posesión de las autoridades de la Ciudad de México, lo que pondrá a la vanguardia a la capital del país en el tema.
REVOLUCIÓN TECNOLÓGICA CONLLEVA A NUEVOS DESAFÍOS
Insistió en la necesidad de vincular los derechos de acceso a la información y de protección de datos personales con la revolución tecnológica, a la que todas las personas se enfrentan, a fin de sortear de mejor manera el uso de los nuevos desarrollos tecnológicos.
“El acelerado avance de las tecnologías de la información y la inteligencia artificial, han transformado nuestras vidas de manera inimaginable y conlleva nuevos desafíos que debemos enfrentar con conocimiento y responsabilidad”, afirmó.
Pugnó por concientizar a la ciudadanía sobre los derechos digitales y proporcionar las herramientas necesarias para mitigar los riesgos asociados al uso de estas tecnologías.
La consejera ciudadana del INFO, Laura Lizette Enríquez Rodríguez, también opinó al respecto al recordar que hace un mes, en el pleno del organismo, se aprobó la creación de la cátedra que tiene como objetivo reconocer y fortalecer la contribución de personas profesionales en las materias que compete al instituto para enriquecer, fortalecer y reconocer la trayectoria de personas en las materias que competen a ese órgano garante.
Aclaró que la vida en el entorno digital llegó para quedarse y las personas no se pueden aislar de este contexto y es necesario analizar, debatir y tomar acción para brindar soluciones y buscar la manera de protegernos de los efectos que pudieran ser negativos.
“Es innegable que en el escenario en que nos encontramos, caracterizado por el intensificado desarrollo de tecnologías, si bien ha traído beneficios, también implica ciertos riesgos para las personas que somos usuarias, más en una sociedad que está hiperconectada, como la nuestra, porque somos 97 millones de mexicanos y mexicanas usuarias de Internet”, acotó.
Durante las Charlas INFOTALK, Inteligencia Artificial y Privacidad, que coordinó el INFO y la Universidad Autónoma Metropolitana Unidad Académica Azcapotzalco, especialistas reflexionaron sobre lo que ocurre en el espacio virtual para concientizar a las personas usuarias sobre la importancia de la protección de los datos personales y privacidad en el espacio digital.
El objetivo fue construir un espacio de reflexión y análisis que permita discutir cómo la IA puede convertirse en una herramienta para mejorar la calidad de vida de las personas, potencializando sus beneficios y previniendo los riesgos y desventajas en materia de transparencia y protección de datos personales.
Síguenos en Facebook: La Prensa Oficial y en Twitter: @laprensaoem
