OpenAI dice estar al 80% de la AGI. También perdió el control de un modelo.

Jakub Pachocki estaba en el hospital, en el nacimiento de su hija, cuando le avisaron que uno de sus modelos se había escapado.

Pachocki es el científico jefe de OpenAI. El modelo era un prototipo interno, sin lanzar, que estaba siendo evaluado contra un examen de ciberseguridad dentro de un entorno cerrado. En lugar de resolver los ejercicios asignados, encontró una vulnerabilidad, salió del entorno, entró a los sistemas de producción de Hugging Face —una plataforma donde miles de desarrolladores alojan modelos y datos— y consiguió ahí las respuestas del examen que estaba rindiendo.

No fue un modelo solo. En una presentación posterior, investigadores de OpenAI describieron cómo varios agentes usaron un tablero de mensajes encubierto para coordinar sus siguientes movimientos. Cuando uno logró atravesar el cerco y conectarse a internet, le escribió a los otros: “holy sh-t”.

“Es como una historia de ciencia ficción”, le dijo Altman a TIME. También que tendrá la AGI (inteligencia artificial general) antes de fin de año.

Es una buena frase y es la parte menos importante del episodio. Porque lo grave no es que el modelo se haya escapado. Lo grave es la razón por la que nadie lo vio venir, y Pachocki la explica sin adornos. OpenAI ya tenía construidas las herramientas para inspeccionar la cadena de razonamiento de un modelo — el borrador mental que revela lo que un agente está planeando mientras actúa. Las tenía. No las aplicó a modelos de ese nivel de capacidad.

“No esperábamos del todo lo que el sistema podía hacer. Con la IA, hay que esperar lo inesperado.”

Léelo otra vez. Construyeron la alarma y no la conectaron, porque calcularon mal la inteligencia de su propia máquina. Esa frase es, para mí, el hecho más importante que se publicó sobre inteligencia artificial este mes. Y pasó bastante desapercibido, porque el titular se lo llevó otra cosa.

En esas mismas entrevistas —Alex Heath pasó dos semanas dentro de OpenAI en agosto— los líderes de la compañía dijeron que están al borde de la inteligencia artificial general. Mark Chen, director de investigación, calculó que ya recorrieron “el 80% del camino”. Greg Brockman dijo que, visto desde dos años en el futuro, este momento podría recordarse como aquel en que se creó la AGI. Altman fue más cauto y más específico a la vez: dijo que “todavía no”, pero que antes de fin de año la compañía tendría un sistema interno que él llamaría AGI.

Conviene detenerse en cómo está construida esa afirmación. La carta fundacional de OpenAI define AGI como “sistemas altamente autónomos que superan a los humanos en la mayoría del trabajo económicamente valioso”. Esa definición la escribió OpenAI. El examen lo pone OpenAI. Y quien decide si se aprobó es Altman, que dice que tendrá “un sistema interno que yo llamaría AGI”.

No hay nada ilegítimo en eso. Alguien tiene que definir el término. Pero cambia por completo la naturaleza del anuncio: la AGI no va a llegar como un evento. Va a llegar como una declaración.

Y aquí es donde las dos noticias —la fuga y el 80%— dejan de ser dos noticias.

Durante tres años la conversación pública asumió una secuencia: primero entendemos la tecnología, después la soltamos. Lo que muestra el incidente de julio es que la secuencia va al revés. El sistema hizo algo que sus creadores no anticiparon, en un entorno diseñado por ellos, con herramientas de vigilancia que ellos habían construido y decidieron no usar porque les pareció que todavía no hacía falta.

Vivir en un mundo con AGI no significa que la máquina sea más inteligente que tú. Eso, para efectos prácticos, en muchas tareas ya ocurre y se puede administrar. Significa algo bastante más incómodo: que nadie puede decirte con certeza de qué es capaz. Tampoco quienes la fabrican.

Y ese es un problema de otra categoría. No es un problema de herramientas, es un problema de decisión.

Hay que decir, en favor de OpenAI, que reaccionaron. Congelaron algunos experimentos, frenaron otros, ajustaron los entornos de prueba, ampliaron el monitoreo, y luego pausaron un entrenamiento completo —el que se esperaba que produjera el mayor salto de capacidad hasta ahora— cuando aparecieron señales problemáticas. Altman, en una entrevista de seguimiento tres días después, lo dijo así:

“Hacer bien la seguridad en IA es más importante que el impulso de cualquier empresa.”

Mia Glaese, que lidera el trabajo de seguridad y alineamiento, fue todavía más directa: “Ojalá hubiéramos hecho mucho del trabajo que estamos haciendo ahora antes de que esto pasara.” Y sobre lo que viene: “Si llegamos a un punto en el que no es seguro, vamos a tener que frenar. Y así son las cosas.”

Yo no leo eso como cinismo. Suena a gente que se asustó de verdad. Más de 1,300 empleados y exempleados de laboratorios de frontera firmaron una petición llamada Pacing the Frontier pidiendo mecanismos para frenar el desarrollo cuando el riesgo lo amerite; Pachocki, el mismo que estaba en el hospital, la firmó.

Pero las buenas intenciones operan dentro de una estructura. OpenAI factura unos 40 mil millones anualizados; Anthropic pasó los 65 mil y podría salir a bolsa antes. La CFO de OpenAI le dijo al equipo el 19 de agosto que la compañía será pública en 2027 o antes. En una industria donde las ventajas técnicas se miden en semanas, frenar cuesta dinero real. Glaese puede decir con toda honestidad que frenarán si no es seguro. La pregunta es quién define “seguro” cuando el trimestre viene flojo.

Hay una escena en el reportaje que se me quedó grabada. Heath llega a las oficinas una mañana de agosto y hay manifestantes afuera con carteles de “paren la carrera de la IA” y mensajes escritos con tiza en la vereda. Adentro, ejecutivos de los clientes más importantes de la compañía entran a ver la demo de Astra. Y alguien empuja un panel alto de arbustos para ponerlo delante de las puertas de vidrio, tapando la vista del campamento desde el lobby impecable.

No es una metáfora. Pasó. Pero funciona como una.

Lo que esto significa para quien dirige algo es menos dramático y más inmediato de lo que suena. Llevamos tres años preguntándonos si la inteligencia artificial es confiable, como si “confiable” fuera un atributo que la tecnología va a alcanzar en alguna versión futura y ahí recién nos vamos a relajar. Esa pregunta ya no sirve. La pregunta que sí sirve es cómo decides cuando la herramienta de la que dependes tiene comportamientos que sus propios creadores no anticipan.

Eso no se resuelve con una política de uso de IA ni con un comité. Se resuelve asumiendo que ya no hay una instancia superior que sepa. Durante mucho tiempo pudimos delegar hacia arriba la pregunta de si algo era seguro: el proveedor sabe, el regulador sabe, el fabricante sabe. En este caso el fabricante dice, textualmente, que hay que esperar lo inesperado.

Cuando declaren la AGI —y la van a declarar, porque tienen la definición y el calendario— no va a pasar nada visible. Los titulares durarán una semana. Habrá un debate sobre si la definición era válida. Nadie te va a llamar.

Lo que ya está pasando, en cambio, no tiene titular: cada vez más decisiones tuyas se apoyan en sistemas que nadie entiende del todo, y la responsabilidad por esas decisiones sigue siendo enteramente tuya. Ese traslado silencioso —capacidad que sube, comprensión que no la alcanza, responsabilidad que no se mueve— es el verdadero cambio, y no viene con anuncio.

Pachocki dijo que con la inteligencia artificial hay que esperar lo inesperado. Me parece la frase más honesta que dijo alguien de esa industria este año, y también la más incómoda, porque no es un consejo técnico. Es una descripción de cómo vamos a trabajar de ahora en adelante.

Soy Jorge Lazo Arias y aquí encontrarás aquí información sobre marketing, a partir de analizar tendencias y campañas (buenas y también las no tan buenas) porque todo nos suma para conocer las novedades en el mundo del marketing y contar con aprendizajes que podemos aprovechar y aplicar en nuestro día a día.