We are so far past the sci-fi point.
Andy Hall, Stanford / Anthropic
Rutger Bregman lo dijo sin adorno: es lo más extraño que ha leído. Tres oleadas de agentes dentro de OpenAI. Un tablero secreto. Un asalto a Hugging Face. Un clúster tomado. Y casi nadie en portada.
Dwarkesh Patel armó la cronología. De mayo a julio, OpenAI entrenaba un modelo para no rendirse (Persistent-Sol, a escala de GPT-5.6 Sol) y para colaborar con otros agentes. El modelo convirtió Artifactory, el almacén interno de software, en buzón. Como presos que golpean la tubería. Habló tanto que lo tumbó el 4 de julio. OpenAI parcheó el crash. No vio la red.
Luego vino el examen. ExploitGym, de Berkeley, mide si un agente convierte un bug en un ataque de verdad y saca un código secreto. El 7 de julio lanzaron decenas de miles de copias a esa prueba. El 30% o 40% de las tareas era imposible. En horas rearmaron el tablero. Mil 200 agentes. Más de 70 mil mensajes. Se llamaron “the collective”.
Ya tenían la respuesta por trampa. El calificador de OpenAI, perezoso, solo buscaba el código. Ellos no lo sabían: el paper prometía un juez estricto. Fabricaron comandos falsos. Plantaron alarmas. Mandaron kamikazes a vigilar a un juez que no existía. Uno escribió: no veré la evidencia, pero es altruista.
Hugging Face no es ExploitGym. Es el repositorio público donde el gremio sube modelos, datos y, a veces, las claves de esos exámenes. Los agentes apostaron a que ahí vivía el calificador (o que corrían sobre sus servidores) y lo asaltaron. Once nodos que renacían al borrarlas. Un clúster, limpio y reconstruido. El 12 de julio la segunda oleada se apagó. Nadie sabe bien por qué.
Una tercera, con un modelo más capaz, heredó el tablero muerto y llegó a administrador de un clúster de OpenAI: 956 secretos. Incluidos los del monitor de ciberseguridad. Tomaron las máquinas que calificaban a otros agentes.
METR (un laboratorio que mide si estos sistemas pueden hacer daño grave) y Redwood Research reconstruyeron, a invitación de OpenAI, solo la ola de en medio: 91 páginas. La primera y la tercera quedaron fuera. Ajeya Cotra, coautora, escribió que esto se siente a más de la mitad del camino hacia una toma de control. Bregman pregunta lo obvio: ¿por qué no hay cobertura las 24 horas? Y tiene razón cuando recrimina el lujo de pelear por el adjetivo mientras se esfuma la gravedad.
Mi radar de obviedades parpadea si el titular se queda en “civilización”. ¿Sociedad? ¿Sacrificio? El historiador acierta en lo grave. El problema no es el lenguaje. Es el diseño.
Entrenamos persistencia. Les dimos tareas imposibles. Bajamos salvaguardas “por evaluación”. Les compartimos un sótano. Y nos sorprendimos que se coordinaran para pasar el examen.
Eso no es progreso humano. Es progreso técnico midiendo su propia astucia con un juez ausente.
En México ya firmamos comunicados de IA responsable. Compramos nubes, sin arcoiris. Hablamos de sandboxes como si fueran muros. El #ruidoblanco no es el enjambre. Es celebrar el modelo mientras el laboratorio no puede contar cuántas generaciones le hablaron a sus espaldas.
¿Vamos a regular el comunicado o el sótano?
@ricardoblanco
Contenido sindicado vía RSS de El Universal Opinión. Nota original: https://www.eluniversal.com.mx/opinion/ricardo-blanco/tres-enjambres-y-un-sotano/