Robots que usan datos personales tendrán supervisión humana

Los entes reguladores empiezan a enseñarles a los robots quién manda.

Luego de gastar miles de millones de dólares en sofisticadas tecnologías de inteligencia artificial, los bancos y compañías aseguradoras de Europa enfrentan un análisis más minucioso de las herramientas que utilizan para contribuir a detectar y erradicar estafas, comprobar la solvencia de los deudores y automatizar las decisiones sobre reclamos.

A partir de esta semana, las reglas de la Unión Europea harán hincapié en la supervisión humana y la protección del consumidor, lo que podría afectar a las compañías que tratan de crear las herramientas del futuro.

“Las compañías que desarrollan tecnologías de IA tendrán que considerar e incorporar cuestiones de protección de la información al proceso de diseño”, dijo en una entrevista David Martin, funcionario del área legal de la entidad de defensa del consumidor BEUC, que tiene sede en Bruselas.

Las reglas podrían presentar un obstáculo a los codificadores que buscan diseñar algoritmos cada vez más sofisticados. Eso podría afectar a las firmas de la UE que compiten con rivales de los Estados Unidos y Asia en el desarrollo de nuevas tecnologías, según Nick Wallace, analista de políticas en Bruselas del Centro para la innovación en Datos, un instituto de investigación independiente y sin fines de lucro.

“Para que un modelo algorítmico sea transparente para una persona, hasta una persona con una buena comprensión de los algoritmos, tiene que mantenerse cierto grado de complejidad”, dijo Wallace. “Con más abstracciones, y ni que hablar de con más puntos de datos, resulta más difícil para una persona sentarse, leer todo y analizar la decisión”.

Los entes reguladores de todo el mundo tratan de seguir el ritmo del sector financiero en lo relativo a automatizarlo todo, desde las mesas de operaciones hasta las decisiones sobre préstamos y los centros de atención al cliente.

El sector bancario invertirá US$ 3,300 millones en IA y tecnologías relacionadas este año, lo cual lo convierte en el segundo sector en cuanto a volumen de gasto después del minorista, estima la firma de análisis International Data Corporation.

El gasto total en las tecnologías crecerá a US$ 52,200 millones para el 2021, mientras que es de alrededor de US$ 19,000 millones este año, según IDC.

La Regulación General de Protección de Datos de la UE, que se instrumentará a partir del 25 de mayo exigirá que las firmas tengan el consentimiento de las personas cuando se usen sus datos personales para automatizar determinados tipos de decisiones que tienen efectos importantes, como el otorgamiento de un préstamo.

Los clientes tendrán derecho a exigir que intervenga un empleado humano de la firma y revea una decisión. También podrán tener acceso a detalles sobre un proceso automatizado para protegerse de prácticas discriminatorias.

“Las grandes empresas reconocen que se trata de un desafío y que los derechos de privacidad y protección de la información deben tenerse muy presentes en el diseño y el desarrollo de todo tipo de producto o servicio”, dijo en una entrevista John Bowman, ejecutivo en Londres de la subsidiaria Promontory Financial Group de International Business Machines Corp.