La Inteligencia Artificial ha traído tanto desafíos como oportunidades, ¿por qué? Expertos de México, Uruguay y otros países, advierten que Perú debe aplicar su propio marco regulatorio entorno a la IA, obedeciendo a su contexto social y cultural.
De acuerdo con el miembro de la Cámara de Diputados de Uruguay, Rodrigo Goñi, todos los parlamentos de Latinoamérica están abordando la legislación de la Inteligencia Artificial. “Ninguna tecnología puede quedar fuera de la regulación porque implica riesgo en torno a la vulneración de los derechos humanos”, aseguró durante la conferencia de la Cumbre Internacional sobre Inteligencia Artificial.
Además, explicó que el principal desafío en la regulación de la IA es que, en los lugares donde se está experimentando o probando esta tecnología, es necesario hacerlo en ambientes controlados. De este modo, no se detiene la innovación, sino que se regula y se fomenta de manera adecuada.
Es importante señalar que Perú es el primer país de Latinoamérica en tener una ley sobre Inteligencia Artificial. Se trata de la ley n° 318814, que promueve el uso de la IA.
LEA TAMBIÉN: Empresas peruanas crean su propio “ChatGPT”: foco en contact centers
La protección de datos y los asistente virtuales
Martha Tudhon, oficial del Programa de Derechos Digitales en Article 19 de México, indicó que la regulación de la IA puede comenzar con el marco de la protección de los datos personales a nivel nacional para “salvaguardar el derecho a la privacidad”.
Recientemente, en el Congreso se aprobó una ley para incluir la IA como delito informático relacionado a la creación de contenido sexual. Es decir, la creación de “nudes” con IA será sancionada hasta con 15 años de cárcel.
En Perú, la principal aplicación de la IA en las empresas son los asistentes virtuales, sin embargo, existen algunos riesgos relacionados a las alucinaciones o la información imprecisa o inventada que genera el asistente virtual. De acuerdo con un estudio realizado con la startup Vectara, la tasa de alucinación de los chatbots oscila entre un 3% hasta un 27%.
Al respecto, Esteban Ponce, investigador asociado del Laboratorio de Investigación Forense Digital (DFRLab) de Atlantic Council, afirmó que la respuesta está en “cómo las compañías tecnológicas comienzan a abordar este tipo de problemática a través de benchmarking o elementos de evaluación para evitar ese tipo de respuestas (alucinaciones)”, dijo el investigador mexicano asociado para América Latina.
LEA TAMBIÉN: Empresas peruanas invertirán más de US$ 1 millón en proyectos de Inteligencia Artificial
La IA en elecciones: experiencia de otros países
Ponce manifestó que el uso de la IA para fines políticos o electorales ha puesto en riesgo los valores de la democracia en la región, ¿por qué? ha sido un alimento para la desinformación.
“Estamos monitoreando casos, en plena elecciones de Estados Unidos, donde el contenido busca atacar a poblaciones hispanas para tratar de mitigar sus participaciones en el ámbito electoral, a través de narrativas que puedan incluir temas de migración”, afirmó.
En ese sentido, el investigador de DFRLab, sugirió a nuestro país, que está próximo a celebrar las elecciones en 2026, monitorear no solo las cuentas de las redes sociales (YouTube o Facebook), también los modelos de lenguaje que se están creando de manera persona y podría modificar la narrativa a una ideología en específico.
“Dichos modelos pueden estar atados a ideologías que radicalicen un contexto y que eso tenga un efecto negativo en la democracia y la seguridad”, afirmó el experto.
El congresista uruguayo Goñi, indicó que en su país ya se viene impulsando, a puertas de las elecciones nacionales (octubre de 2024), un proyecto de ley “Deepfake” en tiempo de campaña electoral”.
Maite Vizcarra, directora de Goberna Digital y la Fundación Ortega y Gasset en Perú, advirtió que algunos políticos en nuestro país todavía consideran que “la IA no tiene relevancia porque no es ajena a su generación”.
LEA TAMBIÉN: Era de las PCs con IA: estrategia de AMD para superar a Intel y NVIDIA en Perú
La IA para el cierre de brechas
Cerrar brechas para una mayor adopción de la IA. Según el estudio de IDC, en los próximos dos años, las empresas peruanas evalúan invertir más de US$ 1 millón en Inteligencia Artificial, sin embargo, a nivel de adopción comparado con los países de la región aún es muy bajo.
Almudena Fernández, economista Jefe para América Latina y el Caribe del Programa de las Naciones Unidas para el Desarrollo (UNDP, por su siglas en inglés), refirió que en el Perú y en toda la región debemos cerrar brecha para una mayor de IA, en aspectos de conectividad, entre otros. “Es una tarea pendiente a nivel regional cerrar esas brechas para que pueda haber un aprovechamiento de estas tecnologías”, aseguró.
Por su parte, Martha Tudhon, sostuvo que la IA no solo debe ser valorada en cuestiones económicas, sino, también culturales. De hecho, sugirió que nuestro país debe promover perfiles que desarrollen dicha tecnología con un fin social. “En México, hay comunidades indígenas están utilizando la IA como medio de preservación de su cultura y lengua”.
LEA TAMBIÉN: Nuevas modalidades de estafa con IA amenazan retiros de AFP y Gratificaciones
Periodista digital con foco en Educación superior, Inteligencia Artificial, Ciberseguridad e Internacionalización de empresas. Exredactor de Economía en Diario El Gobierno. Desde el 2023 es parte de Gestión.
Comienza a destacar en el mundo empresarial recibiendo las noticias más exclusivas del día en tu bandeja Aquí. Si aún no tienes una cuenta, Regístrate gratis y sé parte de nuestra comunidad.