Benjamín Labatut lleva dos libros explorando la misma obsesión: la del genio que cruza una línea que no debería cruzar. En Un verdor terrible y en MANIAC, sus personajes son hombres de inteligencia excepcional que se adentran en territorios que la razón ordinaria no puede habitar, y pagan por ello con la cordura o con la culpa. Labatut no los condena, los entiende. Pero deja en claro que el conocimiento sin límite moral no es progreso: es vértigo.
LEA TAMBIÉN: Municipios podrían cuestionar informe de revisores urbanos, aun tras dar licencia para obra
Mary Shelley lo supo doscientos años antes. Al final del capítulo cinco de Frankenstein, Victor no celebra haber creado vida. Huye. La criatura que tanto quiso construir lo mira, y él escapa a la oscuridad. Es la imagen más honesta de la ciencia sin ética: no el triunfo del creador, sino su pánico ante lo que hizo.
LEA TAMBIÉN: ¿Tiene una oferta para trabajar en el extranjero? lo que debe revisar para evitar estafas
Hace unas semanas, Anthropic protagonizó su propio capítulo cinco.
Las empresas de IA ya enfrentan el dilema de Frankenstein: crear algo que no pueden —ni quieren— liberar. (Foto: tondone/iStock)
La empresa anunció que su nuevo modelo, Claude Mythos Preview, no estará disponible para el público. La razón: descubrieron que era capaz de encontrar vulnerabilidades críticas enterradas en sistemas de software durante décadas. Cuando Anthropic corrió su modelo anterior contra Firefox, logró convertir una vulnerabilidad en arma dos veces de cada varios cientos de intentos. Con Mythos, lo consiguió casi siempre.
LEA TAMBIÉN: Consejo Fiscal advierte de falta de dinero en el Estado para promesas de candidatos presidenciales
En lugar de lanzarlo al mercado, Anthropic dio acceso a Mythos –y 100 millones de dólares en créditos– a cincuenta de las organizaciones más grandes del mundo: Amazon, Apple, Microsoft, Google, JPMorgan Chase. Lo llamaron Proyecto Glasswing. Una iniciativa defensiva, dijeron.
LEA TAMBIÉN: IA empieza a marcar la pauta en fusiones y adquisiciones empresariales: ¿se siente en Perú?
Hay que reconocer el gesto: Anthropic frenó. Es una de las primeras grandes empresas de IA en decidir que lo responsable era no soltar la criatura. Pero el gesto tiene un problema estructural enorme: ¿Quién tiene acceso a Mythos? Las corporaciones más poderosas del planeta. ¿Quién no lo tiene? El programador que lleva veinte años manteniendo código abierto en su tiempo libre, sin sueldo, porque creyó que el trabajo importaba más que el dinero. La misma persona cuyo código Mythos acaba de radiografiar con una precisión que ninguna herramienta anterior había logrado.
LEA TAMBIÉN: Crisis en Beca 18 y Beca Bicentenario: lo que perdería Perú por la falta de presupuesto
Esto no es solo una falla de distribución tecnológica. Es una falla moral que Labatut reconocería de inmediato: la inteligencia extraordinaria puesta al servicio de quienes ya tienen poder, mientras los que sostienen la infraestructura común quedan expuestos.
LEA TAMBIÉN: ¿Los procesos de reclutamiento de personal deben ser 100% digitales? especialistas responden
Victor Frankenstein no era malvado. Era brillante, apasionado y profundamente irresponsable. Creó algo que no podía controlar y pasó el resto de su vida persiguiendo lo que había soltado al mundo. La diferencia con Anthropic es que Anthropic sí miró a su criatura a los ojos antes de huir. La pregunta es si eso es suficiente.
LEA TAMBIÉN: Petroperú nos pone en jaque: dos refinerías en juego y el riesgo sobre los combustibles
La respuesta, creo, es no. Cuatro millones de dólares prometidos a organizaciones de seguridad de código abierto es más de lo que ha dado cualquier otra empresa del sector. Y es también dramáticamente insuficiente. Las fortunas que se construyen sobre infraestructura abierta tienen una deuda que no se salda con un donativo.
LEA TAMBIÉN: Consejo Fiscal “valora el reconocimiento del MEF” de “compleja situación de finanzas públicas”
El genio sin control moral no es un personaje literario. Es una decisión empresarial. Y las decisiones empresariales, a diferencia de las novelas, tienen consecuencias reales para personas reales que nunca eligieron ser parte del experimento.
Leonie Roca es expresidenta de Afín.
Las opiniones vertidas en esta columna son de exclusiva responsabilidad del autor.
