El organismo del gobierno de Estados Unidos encargado de evaluar la seguridad de los sistemas de inteligencia artificial (IA) enfrenta cuestionamientos sobre su independencia, luego de que sus funcionarios recibieran una solicitud para informar de manera informal a una oficina de la Casa Blanca, según reveló The Associated Press (AP).
Se trata del Centro para Avanzar la Innovación y los Estándares para la Superinteligencia (CAISSI), una división del Departamento de Comercio que actualmente carece de un director permanente y ha dejado de publicar sus investigaciones sobre la seguridad de determinados sistemas de IA.
De acuerdo con dos exfuncionarios del gobierno estadounidense citados por AP, el nuevo mecanismo de comunicación con la Casa Blanca ha generado preocupación entre especialistas, quienes advierten que las evaluaciones técnicas podrían quedar sujetas a decisiones políticas o a los intereses de la industria tecnológica.
El organismo, que cuenta con un presupuesto anual de US$ 10 millones, también ha enfrentado salidas de personal y cambios constantes en su dirección. En abril contrató a un director que fue despedido pocos días después, mientras que su reemplazo renunció tras permanecer algunos meses en el cargo.
La situación llevó al Congreso estadounidense a solicitar explicaciones en agosto sobre la interrupción de la publicación de sus informes. Incluso OpenAI pidió a las autoridades mayores recursos y respaldo para fortalecer las funciones del centro.
Casa Blanca recibe reportes de expertos en IA y abre debate sobre independencia de evaluaciones. (Foto: AFP)
Trump apuesta por la autorregulación de la inteligencia artificial
El debate ocurre mientras el gobierno de Donald Trump impulsa una política que prioriza el liderazgo estadounidense en inteligencia artificial y promueve que las propias empresas tecnológicas asuman mayores responsabilidades en la evaluación de sus sistemas.
En septiembre, el mandatario solicitó a las principales compañías del sector una mayor autorregulación mediante un acuerdo voluntario de seguridad. Sin embargo, su administración todavía no ha explicado cómo supervisará el cumplimiento de esos compromisos.
La preocupación se ha intensificado ante el desarrollo de agentes de IA capaces de ejecutar tareas de manera autónoma, tomar decisiones y realizar múltiples acciones sin intervención humana constante.
Especialistas advierten que los mecanismos tradicionales de evaluación resultan insuficientes para identificar los riesgos de estos sistemas, debido a que no basta con verificar el resultado final de una tarea, sino que también es necesario examinar los pasos que siguió la inteligencia artificial para completarla.
Por su parte, la Casa Blanca señaló que Trump estableció una nueva Fuerza de Superinteligencia y encargó a su Consejo de Asesores en Ciencia y Tecnología elaborar un informe sobre los riesgos de esta tecnología.
No obstante, expertos consultados por AP consideran que la creciente participación del poder ejecutivo en las decisiones sobre seguridad de la IA podría reducir la transparencia y debilitar los mecanismos independientes de supervisión.
En ese contexto, advierten que permitir que las propias empresas evalúen sus modelos, sin establecer claramente el papel de los organismos gubernamentales, podría limitar la capacidad del Estado para prevenir riesgos relacionados con la ciberseguridad, la privacidad y los derechos de los consumidores.
- LEA TAMBIÉN: Ataques cruzados de Irán y EEUU dejan un muerto
