IA inquieta a comité ético de mayor fondo soberano mundial

El avance de la inteligencia artificial está generando dudas en el consejo de ética del fondo soberano de inversión más grande del mundo.

En particular, la amenaza que representan los sistemas de armamentos guiados por IA plantea “objeciones” éticas, según Johan H. Andresen, presidente del Comité de Ética de Noruega.

“No necesariamente se refiere sólo a las armas, sino a muchas otras aplicaciones”, dijo en una entrevista en Oslo. “Es difícil programar empatía -no podemos exigirla- pero todo lo que estamos analizando está bajo el control humano y los seres humanos toman las decisiones. Por ende, son responsables tanto las personas como las compañías”.

El fondo soberano de inversión noruego de US$ 1 billón profundizó últimamente la inspección de su cartera y prohibió toda una serie de empresas, como los productores de armas nucleares y bombas de racimo además de tabacaleras y compañías concentradas en el carbón.

La decisión de excluir a una empresa puede adoptarse directamente en el fondo o sobre la base de una recomendación del consejo de ética.

En lo que se refiere a examinar empresas relacionadas con la IA, el consejo puede individualizar algunos casos iniciales para su observación con el fin de señalar si se trata de un área en la que ve un riesgo ético, dijo Andresen, multimillonario que controla la firma de inversiones Ferd AS.

Reacción
El comité se centró el año pasado en los derechos humanos, las condiciones de trabajo y el desguace de barcos en las playas.

Confeccionó una lista de 11 empresas que debían ser excluidas, pero sólo se abandonó una empresa y cuatro quedaron en observación, según un informe anual dado a conocer este jueves. El fondo decidió luego excluir a otras nueve compañías en 2018 en base a las recomendaciones, lo cual lleva el total a 73.

Participar en compañías de gran envergadura se torna cada vez más difícil, dijo Andresen.

“Las empresas más grandes tienen más recursos y los usan”, agregó Andresen. “Algunas mantienen un diálogo constructivo pero otras tratan de ocultar e incluso contratan abogados. Para nosotros, es más difícil llegar a una decisión y nos lleva más tiempo”.

En este momento, el grupo considera emprender acciones respecto de las condiciones de trabajo de los trabajadores migrantes antes de la Copa Mundial de Fútbol 2022 en Qatar, dado que las prácticas de contratación también violan pautas en materia de derechos humanos.

“Individuos que ya están en condiciones vulnerables pasan a estar en una situación forzada que se ha definido como esclavitud moderna”, dijo Andresen. El consejo comenzó a estudiar las prácticas de contratación en 2016 y este año posiblemente presente una lista de compañías que deben ser excluidas. Hasta el momento, son nueve las empresas que ya investigó y continuará su trabajo en 2018, dijo en el informe anual.

Estas propuestas se sumarán a “un puñado” de compañías presentadas al fondo para su exclusión sobre la base de una reglamentación sobre el clima que el parlamento noruego introdujo en 2016 para reducir las empresas que más gases de efecto invernadero producen.

“Desde afuera, puede parecer que esto lleva tiempo pero, apenas se publican las primeras recomendaciones, tienen peso”, dijo Andresen. Los peores emisores son los productores de energía, acero y cemento, y el consejo, dijo, también está considerando incluir a las compañías navieras dentro del mismo criterio.