El 8 de septiembre, un investigador de 27 años llamado Jacob Coxon publicó siete mensajes en X y renunció a Anthropic. Llevaba tres años entrenando modelos de l
El 8 de septiembre, un investigador de 27 años llamado Jacob Coxon publicó siete mensajes en X y renunció a Anthropic. Llevaba tres años entrenando modelos de lenguaje, primero en OpenAI y luego en la empresa rival. Escribió que ninguna de las dos está actuando con responsabilidad, que ambas corren hacia una superinteligencia capaz de mejorarse sola y que están apostando con nuestras vidas. El hilo pasó de cien millones de vistas en un día.
Renuncias con manifiesto ya ha habido varias en ese sector. Lo que distingue a esta es quién salió a respaldarla. Evan Hubinger dirige el área de alineamiento de Anthropic, la encargada precisamente de que estos sistemas hagan lo que se les pide. Respondió que Coxon tenía razón, que la empresa aún no tiene un plan para controlar una superinteligencia y que no va camino de tenerlo. Al día siguiente matizó: los modelos que existen hoy no representan ese peligro, y su preocupación apunta a lo que viene.
Hay motivos para leer el episodio con calma. Las probabilidades de catástrofe que circulan estos días no son mediciones, sino juicios sobre algo que nunca ha pasado, y hay investigadores igual de solventes que las consideran infladas. El argumento, sin embargo, no descansa en el número. Descansa en el cargo de quien lo firma.
En 1987, un puñado de países firmó en Montreal un protocolo para eliminar los gases que estaban destruyendo la capa de ozono. Hoy lo han ratificado los 198 miembros de la ONU y el agujero se está cerrando. Funcionó por una razón nada romántica: los clorofluorocarbonos salían de plantas que podían visitarse y contarse. El Acuerdo de París depende de promesas que nadie inspecciona, y los resultados lo reflejan. El Tratado de No Proliferación, que sí tiene inspectores, frenó pero no evitó que nueve países tengan hoy bombas atómicas.
La inteligencia artificial tiene su equivalente contable. Son los chips de frontera y los centros de datos donde se entrenan los modelos: fábricas concretas, aduanas, facturas de energía. Todo eso se puede rastrear. Un acuerdo internacional sobre IA que no empiece por ahí será una declaración de buenas intenciones más.
Colombia aprobó su política nacional de IA en febrero de 2025, el CONPES 4144, y en el Congreso cursan varios proyectos de ley sobre el asunto. Casi todos están escritos con la misma lógica: cómo adoptar la tecnología, cómo usarla con ética, cómo no quedarse atrás en productividad. Ninguno se ocupa del riesgo que sus propios creadores acaban de describir, ni de la posición que el país llevará a los foros donde se negocien las reglas.
No fabricamos estos modelos. Sí decidimos con qué reglas entran, a quién formamos para entenderlos y si nos sentamos en esa mesa o esperamos a que nos cuenten lo que se decidió.