El avance de la inteligencia artificial en empresas y organizaciones ofrece oportunidades para automatizar procesos y mejorar la toma de decisiones, pero también plantea nuevos riesgos cuando estas herramientas actúan sobre información personal o decisiones que pueden afectar a los ciudadanos.
En este escenario, Marushka Chocobar, consejera en ética de IA de Generativa Latam advierte que se debe evitar que el uso de la inteligencia artificial vulnere los derechos de las personas, especialmente cuando estas herramientas dejan de generar contenido y comienzan a intervenir en procesos de decisión.
La especialista explicó que el nivel de riesgo debe evaluarse según el impacto, el grado de autonomía, la escala y las decisiones que se delegan al algoritmo.
- LEA TAMBIÉN Credicorp: Hay que contrarrestar a quienes usan la IA para hacer daño, ¿qué advierten bancos?
Cuando la IA comienza a tomar decisiones, la responsabilidad cambia, pues surgen interrogantes sobre quién responde si hay errores al filtrar currículums, evaluar créditos, prevenir fraudes o determinar el acceso a beneficios, sostuvo.
Como ejemplo, recordó sistemas utilizados para seleccionar candidatos que descartaban currículums de mujeres debido a sesgos presentes en los datos con los que fueron desarrollados.
También cuestionó el uso de información de clientes para ofrecer productos financieros, cuando esta puede revelar aspectos de su vida privada.
Supervisión
Frente a estos riesgos, señaló que las organizaciones deben establecer una adecuada gobernanza de la IA, identificar dónde utilizan estas herramientas, determinar qué decisiones les están delegando y definir responsables para cada sistema.
Asimismo, destacó la necesidad de contar con supervisión humana y mecanismos para gestionar incidentes.
En el caso peruano, indicó que el reglamento de la Ley de Inteligencia Artificial establece obligaciones como contar con un inventario de los sistemas de IA, evaluar sus riesgos, garantizar transparencia, supervisión y control.
Por ejemplo, explicó que el uso de IA para reclutamiento y selección de personal es considerado de alto riesgo y requiere informar a los postulantes que serán evaluados mediante un algoritmo.
Economista de la Universidad de Piura. Actualmente se desempeña como redactor de Finanzas en Diario Gestión.
