La otra cara de la Inteligencia Artificial, los potenciales riesgos para usuarios y empresas

Y es que, la IA está ganando terreno en diversos rubros de la economía, al punto de definir ciertamente si una persona es elegible para un crédito hipotecario o para ocupar una vacante de empleo. Sin embargo, también se puede utilizar para empoderar a los hackers para crear códigos poderosos para bloquear, robar información o pedir rescate por dinero.

Según Alejandro Morales, abogado especializado en Derecho Digital del estudio TyTL Abogados, es necesario que los usuarios y empresas conozcan de las posibles implicancias legales que se pueden enfrentar producto del mal uso de la IA.

“Hay casos de bancos que empiezan a utilizar el sistema de Inteligencia Artificial para ver si es que una persona es sujeto a crédito o no, con base a sus hábitos financieros. Imagínate que estos sistemas se equivoquen, que tengan lo que se denomina como ‘sesgo algorítmico’. ¿Cómo garantizas que con base en la decisión de una IA, no te quedas sin un crédito hipotecario? (...) O te quedas sin trabajo únicamente por lo que dijo un sistema de inteligencia artificial, lo que significa una infracción bastante grave que va entre 50 a 100 UIT, pues a través de un tratamiento de datos personales, se estaría vulnerando aspectos como el derecho fundamental al trabajo”, señaló en diálogo con Gestion.pe.

LEA TAMBIÉN: La democratización de la Inteligencia Artificial

Protección de la identidad

Durante el último año se popularizó el uso de aplicativos de IA para crear llamativos diseños y avatares con base en la fotografía del usuario, algo que, según el especialista, merece de toda la atención por la cantidad de riesgos y potenciales peligros para la seguridad de la información personal del usuario y sus empresas.

“Hay que tener mucho cuidado y ser muy diligente al momento que se leen los términos y condiciones, porque uno puede estar facultando para que las personas se queden y sean licenciatarios de tu imagen. (...) Es un tema muy delicado porque tu das tu imagen y tienen que procesar tu fotografía y es muy probable que utilicen datos biometricos tuyos y si eso de alguna forma se llega a perder, y cae en manos equivocadas, puede haber un tipo de suplatanción de identidad, en esta época con el tema del Deepfake que ha aumentado muchísimo. La Inteligencia Artificial ayuda a que sea mucho más sencilla”, mencionó.

Por estos motivos, la política de privacidad tiene que ser atendida con detenimiento para saber qué es lo que está pasando con las fotografías personales.

LEA TAMBIÉN: Robos de criptomonedas alcanzan récord de US$ 3,800 millones en 2022

Implicancias legales

En esa línea, hoy más que nunca es relevante ver la manera como se pueden resolver los problemas que vienen surgiendo -y pueden incrementarse- producto del mal uso de la Inteligencia Artificial.

“El primer reto (a nivel regulatorio) es crear normas que sigan con el principio de neutralidad tecnológica, que regulen conductas y no tecnologías. Porque si se hace una mala práctica de como regular y terminas prohibiendo, al final generará un mercado negro, y no va a funcionar”, mencionó el abogado.

Por otro lado, según Morales, para el tema de los aplicativos que realizan diseños con base en fotografías como Lensa, es importante señalar que, “pese a que no existe un marco legal específico, no significa que no exista un marco regulatorio aplicable”.

LEA TAMBIÉN: CEO’s peruanos y su mayor apuesta por fusiones y productividad frente a sus pares en el mundo

“La Ley de Derechos de autor, para estos casos en específico, las obras requieren de un creador y ese creador tiene que ser un humano porque una obra se define como una creación propia del intelecto humano, pero acá no hay un proceso humano, completamente automatizado, propio de la IA, lo que sucedería es que estas obras que se crean son de dominio público. Lo que veo para muchas empresas es regularla a través de los términos y condiciones, todo lo que se genere a partir de la IA, será propiedad de la empresa que ha creado”, destacó.

Lo cual podría ir en contra de las intenciones de peruanos que ven con buenos ojos la Inteligencia Artificial para crear imágenes y retratos como una potencial alternativa de inversión y posterior comercio.

“Muchas veces lo que hace estos sistemas de inteligencia artificial es utilizar estilos. Pero si solo usa una obra y con base en eso la transforma, si podríamos estar ante una infracción de derechos de autor. (...) Algo que también se ha podido ver en el caso de ChatGPT, uno no podría saber por qué de verdad tiene tanta información, pero no sabe si está sacando un extracto de una obra, protegida por derechos de autor, o simplemente la está duplicando”, mencionó.

LEA TAMBIÉN: Artifact, nueva app de los creadores de Instagram, apunta a convertirse en el Tiktok de noticias

Contra las vulnerabilidades

Para aprovechar el potencial de estas herramientas, pese a los riesgos, cada vez son más las entidades bancarias que utilizan la IA como un medio para brindar mejor respaldo y seguridad a los usuarios y empresas.

De acuerdo a Aldo Madruga, gerente corporativo de Gestión de Riesgo Fraude del Banco Pichincha, en el caso de los bancos, se han hecho grandes inversiones en este tipo de herramientas con IA para prevenir otras maneras de hacer ciberfraudes.

“Tecnologías relacionadas con la biometría, contraseñas robustas y para monitorear y detectar cuando hay eventos de fraudes, con base en un patrón del cliente, alguna transacción de gran probabilidad de ser fraudes”, señaló.

En esa línea, la IA es una alternativa para salvaguardar la información, pero si se utiliza de forma irresponsable por parte de los usuarios, terminará siendo contraproducente para las operaciones.

“La inteligencia artificial ayuda a detectar estos comportamientos anómalos, se confirma con cliente, se pueden bloquear tarjetas, entre otras medidas. No obstante, mayoritariamente en un 90% o más, los fraudes que ocurren entran por negligencias y/o descuido de los clientes”, finalizó.

LEA TAMBIÉN: Sony reduce proyección para producción de dispositivo de realidad virtual