Urgente legislar la IA: Lourdes Martínez
Resumen:
16 Abraham Pensamiento L a Inteligencia Artificial (IA) llegó para quedarse, por lo que es necesario legislar para su buen uso en todos los ámbitos con principios éticos que eviten la comisión de delitos mediante esa herramienta digital y protejan los datos personales.
Transcripción:
16 Urgente legislar la IA: Lourdes Martínez Abraham Pensamiento L a Inteligencia Artificial (IA) llegó para quedarse, por lo que es necesario legislar para su buen uso en todos los ámbitos con principios éticos que eviten la comisión de delitos mediante esa herramienta digital y protejan los datos personales.
En el terreno del periodismo, la IA más que un obstáculo, es un área de oportunidad para que los comunicadores mejoren su labor informativa en aras de la libertad de expresión y la democracia.
Así lo considera María de Lourdes Martínez Villaseñor, presidenta de la Sociedad Mexicana de Inteligencia Artificial (SMIA). "El desarrollo de la IA, impulsado por las grandes corporaciones transnacionales, irrumpe en el área de la industria, el conocimiento y la comunicación".
¿Qué opina de este vertiginoso desarrollo? - La IA ya tiene muchos años, no es una tecnología nueva. Sin embargo, a raíz de la irrupción de la IA generativa (que crea texto, imágenes, videos, música y audio) se ha hecho más popular y se está democratizando. Es más accesible para las personas, por lo que está transformando todas las industrias.
Esto lo vemos a diario, pues estamos relacionados con la IA aunque no nos demos cuenta, porque en todos lados tenemos sistemas con los que interactuamos.
Creo que la IA puede ayudarnos en muchísimas cosas, pero tenemos que cuidarla para que su uso sea responsable y realmente nos beneficie.
¿Cuáles son las ventajas y desventajas del desarrollo de la IA? - La IA puede ayudarnos a hacer cualquier cosa de manera más eficiente. Nos va a facilitar la manera de hacer casi todas las tareas: obtener conocimiento de los datos y encontrar valor a esos datos; hacer experiencias de usuario más cercanas para recibir productos y servicios más personalizados.
Se puede generar contenido de música, audio, video, imágenes, texto, y se puede generar mucho más fácil a partir de otros contenidos. Cada día hay más generación de datos, que es la materia prima, y tenemos también más capacidad de cómputo. Esas son las ventajas.
¿Cuáles son las desventajas? Como todas las herramientas tecnológicas, la IA tiene áreas de oportunidad y de riesgo. Las áreas de riesgo ya son muy conocidas, en la protección de datos y privacidad, la seguridad, transparencia, justicia, control humano, responsabilidad. En particular, se puede usar para promover o no los valores humanos. Todas las tecnologías traen desafíos.
-El uso de la IA también se puede prestar a plagios, noticias falsas y desinformación. ¿Cómo podemos conciliar las ventajas de la IA con estos problemas? Puede haber consecuencias no deseadas. Todo eso vamos a tener que trabajarlo. Llevo muchos años y seguiré estudiando este tema, ya que es apasionante la ética de la IA. Todo es cuestión de poner reglamentos, Lourdes Martínez también es jefa académica de la Maestría en Ciencia de Datos de la Universidad Panamericana.
ZOCALO Rafael Maya buenas prácticas de uso, leyes inclusive y evaluar los impactos de estos riesgos para prevenirlos.
- Hace unos meses, el periodista Antonio Garci de El Financiero tomó la imagen de una senadora de Morena para violentarla al alterar su imagen con contenido sexual.
- Eso es lo que hay que cuidar y estar atentos. En las redes sociales vemos que se utiliza la IA para manipular la realidad; corporativos como X, Meta y otros tienen el control de nuestros datos e incluso acaban de quitar los métodos de verificación (pero) los malos de la película no son las grandes corporaciones, ni los gobiernos ni las organizaciones. Como usuarios tenemos también una gran responsabilidad, porque es una alberca que todos ensuciamos, pero es necesario mantenerla limpia.
No vas a poder regular las redes sociales. pero sí creo que se tienen que regular los usos de la IA.
No puedes regular la tecnología, pero sí su uso. Desgraciadamente, la ley va mucho más atrás que la tecnología. Creo que sería más efectiva su aplicación si se impusiera una sanción o una multa, ya que, de lo contrario, todo queda en buenos deseos.
-Algunos noticiarios del extranjero y en el Canal 44 de la Universidad de Guadalajara han incorporado en algunos segmentos de sus noticieros a robots para leer noticias, ¿qué le parece? -Los reporteros y periodistas "están sintiendo pasos", están viendo que se transforman sus trabajos, pero todos los empleos se están transformando.
Cualquier tarea que antes hacía un humano se va a poder hacer de manera mucho más fácil y eficiente.
Tenemos que aprovechar esta ayuda para aportar un plus. Nos tenemos que ir transformando, adaptarnos a estas tecnologías para hacer nuestro trabajo de manera diferente.
Está muy bien que los noticiarios sean conducidos por la IA, ya que en el periodismo, donde antes tenías que revisar miles de papeles y te ibas a tardar mil años, ahora con la IA puedes tener resúmenes automáticos con los que puedes hacer un análisis mucho más rápido. El hecho de que también haya un avatar puede facilitar las cosas, y quien nada más era conductor de noticias, pues tendrá que dar un plus que pueda apreciar la gente. Como todo, debemos de tratar de verlo con optimismo.
-En México, el entonces coordinador de Morena en el Senado, Ricardo Monreal, propuso la regulación de las redes sociales, y la diputada de Morena en el Congreso de la CDMX, Leonor Otegui, también planteó la regulación de los creadores de contenido, mientras que el INFOCDMX ha trabajado en la regulación de la IA.
- Es bien importante que para estas leyes se acuda a los expertos. La Alianza Nacional de Inteligencia Artificial (ANIA), que impulsó la senadora Alejandra Lagunes, fue muy exitosa porque hizo propuestas con base en un análisis plurisectorial. Entre más incluyente, más diverso sea el grupo con el cual te apoyes para hacer esta legislación, pues es más fácil que salga mejor. El INFOCDMX también está haciendo este esfuerzo, y ha convocado a varios sectores para opinar al respecto.
-En 2017-2018 ya había algunas voces. Participé en una iniciativa con algunos británicos para recomendar estrategias de cómo se tendría que ir desarrollando la IA. Hay muchas cosas por hacer, como una estrategia digital. La idea es poner las bases para desarrollar la IA para el bien, y también poner sanciones cuando haya alguien que la utilice para el mal.
He trabajado sobre cómo ayudar a empresas y personas a implementar ese diseño ético de la IA, pero todo implica tiempo y dinero. Implica esfuerzo para implementar la ética en el manejo de la IA, ya que es ahí donde están los mayores retos. En los foros que he estado en el mundo eso es lo que se prioriza.
-El dueño de TV Azteca, Ricardo Salinas Pliego, asegura que la regulación de las redes sociales equivale a censura. ¿Cree que el hecho de regular los usos pueda convertirse en Foto: Tecnología Minera ZOCALO censura o es una exageración? - Antes de la aparición de las redes sociales, escribías en el baño, decías cosas de alguien, pero sólo lo veían unas cuantas personas de la escuela. Ahora lo dices en una red social y se 17 20 logby log X X2-4X<0 n (BnC)=22 n(B) n(c) n (BUC) a(bc)=(ab)c a+b=b+a +n (c)-n (Bnc) Ar=39.948 (1002)a+ (0,1) .0.046765 3 OL Foto: México Industry @ Zn,Sby+6H,O~ H2Cle+Ca(OH),->> queda para siempre, lo ven millones. Por eso eran bien importantes los métodos de verificación, porque hay ciertos usos que las mismas redes sociales decían: "eso no se puede, ya está en los estatutos, no se puede promover el odio de un grupo hacia otro, ya sea político o religioso".
- Ahora que Elon Musk hizo un saludo nazi, ¿qué futuro ve para las redes sociales? - Creo que van a crecer mucho más los riesgos. Si no hay filtros, pues desgraciadamente las personas las van a usar como sea, por ejemplo para fomentar el odio; con más razón debemos tener cuidado en este tipo de redes y hacer que, sobre todo, nuestros menores de edad tengan cuidado porque son los más vulnerables. Tenemos que ser más cautos en el sentido de educar a nuestros jóvenes, y educarnos a nosotros mismos para usar las redes de manera adecuada.
-Cómo va la IA en nuestro país? ¿Qué futuro tiene? - Hay mucho talento en México respecto al desarrollo de la IA... Participé en el Índice Latinoamericano de IA y tristemente de varios años para acá hemos bajado, pero sí tenemos una gran fortaleza respecto a investigación. Nos falta la regulación. Una estrategia digital y una estrategia de IA a nivel país, que nos ayuden a generar infraestructura y educación, así como promover factores que nos ayuden a que la IA tenga un mayor desarrollo.
Hay mucho talento que se está fugando, porque a la gente más capacitada se la lleva Google, Meta. Creo que si unimos todas esas voluntades y capacidades, estoy segura de que podríamos ser una gran potencia a nivel mundial al menos a nivel latinoamericano.
La IA está aquí para quedarse, es parte de nuestras vidas y la de nuestros hijos. Hay que aprovecharla y aprender a usarla para el bien. Todos tenemos un granito de arena por aportar.
En el terreno del periodismo, la IA más que un obstáculo, es un área de oportunidad para que los comunicadores mejoren su labor informativa en aras de la libertad de expresión y la democracia.
Así lo considera María de Lourdes Martínez Villaseñor, presidenta de la Sociedad Mexicana de Inteligencia Artificial (SMIA). "El desarrollo de la IA, impulsado por las grandes corporaciones transnacionales, irrumpe en el área de la industria, el conocimiento y la comunicación".
¿Qué opina de este vertiginoso desarrollo? - La IA ya tiene muchos años, no es una tecnología nueva. Sin embargo, a raíz de la irrupción de la IA generativa (que crea texto, imágenes, videos, música y audio) se ha hecho más popular y se está democratizando. Es más accesible para las personas, por lo que está transformando todas las industrias.
Esto lo vemos a diario, pues estamos relacionados con la IA aunque no nos demos cuenta, porque en todos lados tenemos sistemas con los que interactuamos.
Creo que la IA puede ayudarnos en muchísimas cosas, pero tenemos que cuidarla para que su uso sea responsable y realmente nos beneficie.
¿Cuáles son las ventajas y desventajas del desarrollo de la IA? - La IA puede ayudarnos a hacer cualquier cosa de manera más eficiente. Nos va a facilitar la manera de hacer casi todas las tareas: obtener conocimiento de los datos y encontrar valor a esos datos; hacer experiencias de usuario más cercanas para recibir productos y servicios más personalizados.
Se puede generar contenido de música, audio, video, imágenes, texto, y se puede generar mucho más fácil a partir de otros contenidos. Cada día hay más generación de datos, que es la materia prima, y tenemos también más capacidad de cómputo. Esas son las ventajas.
¿Cuáles son las desventajas? Como todas las herramientas tecnológicas, la IA tiene áreas de oportunidad y de riesgo. Las áreas de riesgo ya son muy conocidas, en la protección de datos y privacidad, la seguridad, transparencia, justicia, control humano, responsabilidad. En particular, se puede usar para promover o no los valores humanos. Todas las tecnologías traen desafíos.
-El uso de la IA también se puede prestar a plagios, noticias falsas y desinformación. ¿Cómo podemos conciliar las ventajas de la IA con estos problemas? Puede haber consecuencias no deseadas. Todo eso vamos a tener que trabajarlo. Llevo muchos años y seguiré estudiando este tema, ya que es apasionante la ética de la IA. Todo es cuestión de poner reglamentos, Lourdes Martínez también es jefa académica de la Maestría en Ciencia de Datos de la Universidad Panamericana.
ZOCALO Rafael Maya buenas prácticas de uso, leyes inclusive y evaluar los impactos de estos riesgos para prevenirlos.
- Hace unos meses, el periodista Antonio Garci de El Financiero tomó la imagen de una senadora de Morena para violentarla al alterar su imagen con contenido sexual.
- Eso es lo que hay que cuidar y estar atentos. En las redes sociales vemos que se utiliza la IA para manipular la realidad; corporativos como X, Meta y otros tienen el control de nuestros datos e incluso acaban de quitar los métodos de verificación (pero) los malos de la película no son las grandes corporaciones, ni los gobiernos ni las organizaciones. Como usuarios tenemos también una gran responsabilidad, porque es una alberca que todos ensuciamos, pero es necesario mantenerla limpia.
No vas a poder regular las redes sociales. pero sí creo que se tienen que regular los usos de la IA.
No puedes regular la tecnología, pero sí su uso. Desgraciadamente, la ley va mucho más atrás que la tecnología. Creo que sería más efectiva su aplicación si se impusiera una sanción o una multa, ya que, de lo contrario, todo queda en buenos deseos.
-Algunos noticiarios del extranjero y en el Canal 44 de la Universidad de Guadalajara han incorporado en algunos segmentos de sus noticieros a robots para leer noticias, ¿qué le parece? -Los reporteros y periodistas "están sintiendo pasos", están viendo que se transforman sus trabajos, pero todos los empleos se están transformando.
Cualquier tarea que antes hacía un humano se va a poder hacer de manera mucho más fácil y eficiente.
Tenemos que aprovechar esta ayuda para aportar un plus. Nos tenemos que ir transformando, adaptarnos a estas tecnologías para hacer nuestro trabajo de manera diferente.
Está muy bien que los noticiarios sean conducidos por la IA, ya que en el periodismo, donde antes tenías que revisar miles de papeles y te ibas a tardar mil años, ahora con la IA puedes tener resúmenes automáticos con los que puedes hacer un análisis mucho más rápido. El hecho de que también haya un avatar puede facilitar las cosas, y quien nada más era conductor de noticias, pues tendrá que dar un plus que pueda apreciar la gente. Como todo, debemos de tratar de verlo con optimismo.
-En México, el entonces coordinador de Morena en el Senado, Ricardo Monreal, propuso la regulación de las redes sociales, y la diputada de Morena en el Congreso de la CDMX, Leonor Otegui, también planteó la regulación de los creadores de contenido, mientras que el INFOCDMX ha trabajado en la regulación de la IA.
- Es bien importante que para estas leyes se acuda a los expertos. La Alianza Nacional de Inteligencia Artificial (ANIA), que impulsó la senadora Alejandra Lagunes, fue muy exitosa porque hizo propuestas con base en un análisis plurisectorial. Entre más incluyente, más diverso sea el grupo con el cual te apoyes para hacer esta legislación, pues es más fácil que salga mejor. El INFOCDMX también está haciendo este esfuerzo, y ha convocado a varios sectores para opinar al respecto.
-En 2017-2018 ya había algunas voces. Participé en una iniciativa con algunos británicos para recomendar estrategias de cómo se tendría que ir desarrollando la IA. Hay muchas cosas por hacer, como una estrategia digital. La idea es poner las bases para desarrollar la IA para el bien, y también poner sanciones cuando haya alguien que la utilice para el mal.
He trabajado sobre cómo ayudar a empresas y personas a implementar ese diseño ético de la IA, pero todo implica tiempo y dinero. Implica esfuerzo para implementar la ética en el manejo de la IA, ya que es ahí donde están los mayores retos. En los foros que he estado en el mundo eso es lo que se prioriza.
-El dueño de TV Azteca, Ricardo Salinas Pliego, asegura que la regulación de las redes sociales equivale a censura. ¿Cree que el hecho de regular los usos pueda convertirse en Foto: Tecnología Minera ZOCALO censura o es una exageración? - Antes de la aparición de las redes sociales, escribías en el baño, decías cosas de alguien, pero sólo lo veían unas cuantas personas de la escuela. Ahora lo dices en una red social y se 17 20 logby log X X2-4X<0 n (BnC)=22 n(B) n(c) n (BUC) a(bc)=(ab)c a+b=b+a +n (c)-n (Bnc) Ar=39.948 (1002)a+ (0,1) .0.046765 3 OL Foto: México Industry @ Zn,Sby+6H,O~ H2Cle+Ca(OH),->> queda para siempre, lo ven millones. Por eso eran bien importantes los métodos de verificación, porque hay ciertos usos que las mismas redes sociales decían: "eso no se puede, ya está en los estatutos, no se puede promover el odio de un grupo hacia otro, ya sea político o religioso".
- Ahora que Elon Musk hizo un saludo nazi, ¿qué futuro ve para las redes sociales? - Creo que van a crecer mucho más los riesgos. Si no hay filtros, pues desgraciadamente las personas las van a usar como sea, por ejemplo para fomentar el odio; con más razón debemos tener cuidado en este tipo de redes y hacer que, sobre todo, nuestros menores de edad tengan cuidado porque son los más vulnerables. Tenemos que ser más cautos en el sentido de educar a nuestros jóvenes, y educarnos a nosotros mismos para usar las redes de manera adecuada.
-Cómo va la IA en nuestro país? ¿Qué futuro tiene? - Hay mucho talento en México respecto al desarrollo de la IA... Participé en el Índice Latinoamericano de IA y tristemente de varios años para acá hemos bajado, pero sí tenemos una gran fortaleza respecto a investigación. Nos falta la regulación. Una estrategia digital y una estrategia de IA a nivel país, que nos ayuden a generar infraestructura y educación, así como promover factores que nos ayuden a que la IA tenga un mayor desarrollo.
Hay mucho talento que se está fugando, porque a la gente más capacitada se la lleva Google, Meta. Creo que si unimos todas esas voluntades y capacidades, estoy segura de que podríamos ser una gran potencia a nivel mundial al menos a nivel latinoamericano.
La IA está aquí para quedarse, es parte de nuestras vidas y la de nuestros hijos. Hay que aprovecharla y aprender a usarla para el bien. Todos tenemos un granito de arena por aportar.