El director ejecutivo de OpenAI, Sam Altman, pidió este miércoles al Consejo de Seguridad de las Naciones Unidas impulsar una cooperación internacional urgente para establecer reglas que orienten el desarrollo de la inteligencia artificial (IA), ante los riesgos asociados al avance acelerado de esta tecnología.
Durante una sesión de alto nivel convocada por la presidencia francesa del Consejo de Seguridad, Altman señaló que el desarrollo de la IA requiere un “extremo cuidado” para evitar que los seres humanos pierdan el control sobre los modelos más avanzados.
El ejecutivo consideró que la industria se encuentra ante una encrucijada y advirtió que no se debe asumir “demasiado riesgo tecnológico solo porque los beneficios sean demasiado grandes e importantes como para frenarlos”.
Según Altman, la IA podría impulsar una nueva etapa comparable con un “Renacimiento” si se desarrolla como una herramienta para potenciar las capacidades de las personas. Sin embargo, también advirtió que podría reproducir algunas de las fracturas asociadas con la Revolución Industrial si los sistemas terminan sustituyendo la capacidad de decisión humana o escapan a mecanismos efectivos de supervisión.
Riesgo sobre los modelos más avanzados
Uno de los principales riesgos señalados por Altman está relacionado con los modelos capaces de programarse y mejorar sus propias capacidades de manera recursiva.
Sam Altman, CEO de OpenAI, participó en una sesión de alto nivel del Consejo de Seguridad de la ONU sobre los riesgos asociados a la inteligencia artificial. Foto: EFE.
Ante este escenario, planteó que las empresas tecnológicas requieren orientación de los líderes mundiales para establecer marcos técnicos que permitan medir las capacidades de los modelos, evaluar amenazas y comprobar que cuenten con mecanismos adecuados de seguridad.
También consideró necesario crear canales internacionales seguros que permitan compartir información sobre vulnerabilidades críticas.
Cooperación entre países
Altman defendió la necesidad de alcanzar acuerdos multilaterales y señaló que incluso países que compiten entre sí pueden trabajar conjuntamente cuando enfrentan riesgos asociados a nuevas tecnologías.
“A nivel internacional, esto significa cooperación. En nuestra historia, ha habido momentos en que países que compiten y no siempre se llevan bien, pero aun así se unen por intereses comunes y el bien colectivo ante una nueva y poderosa tecnología. Creemos que este debe ser uno de esos momentos”, manifestó.
En esa línea, presentó tres principios que, según explicó, orientan el trabajo de OpenAI: mantener a las personas “en el centro de la toma de decisiones”, orientar el progreso científico y económico “por y para las personas” y “empoderar a cada individuo”.
- LEA TAMBIÉN: Trump dice que la IA no necesita más control que tenerlo a él como presidente de EE.UU.
“Puede que seamos los creadores de esta tecnología, pero no somos los héroes de esta historia. Nuestro papel es confiar en la magia del talento humano”, afirmó.
La sesión fue presidida por el ministro francés de Exteriores, Jean-Noël Barrot. También contempla la participación, por videoconferencia, de Dario Amodei, de Anthropic, y Clément Delangue, de Hugging Face.
El encuentro aborda por primera vez en el Consejo de Seguridad asuntos vinculados con las amenazas de los ciberataques autónomos y el riesgo de que los seres humanos pierdan el control sobre los modelos de IA más avanzados.
Con información de EFE.
