Miles de empleados de grandes tecnológicas reclaman reglas internacionales ante el riesgo de perder el control sobre sistemas cada vez más autónomos.
La carrera por desarrollar sistemas de inteligencia artificial (IA) más potentes enfrenta una paradoja. Empresas que compiten por liderar el sector ahora piden establecer límites y mecanismos internacionales para evitar que la tecnología avance sin controles suficientes.
Más de 1.200 empleados y directivos de OpenAI, Google, Anthropic, Meta, Microsoft y otros laboratorios respaldaron una carta que reclama coordinación entre gobiernos, empresas y expertos para gestionar los riesgos asociados con modelos cada vez más capaces.
Los firmantes sostienen que la inteligencia artificial puede impulsar avances científicos, económicos y sociales. Sin embargo, advierten que el aumento de sus capacidades podría superar la posibilidad humana de comprender, evaluar y supervisar sistemas con mayor autonomía.
La propuesta busca que Estados Unidos promueva acuerdos internacionales para establecer pruebas, estándares técnicos y mecanismos de gobernanza. El objetivo no es detener el desarrollo, sino asegurar que la velocidad de la innovación permita identificar y reducir amenazas.
El principal obstáculo es la competencia. Ninguna empresa quiere disminuir el ritmo de manera individual por temor a perder ventaja frente a sus rivales. Por eso, los firmantes consideran necesaria una respuesta coordinada que establezca reglas comunes.
La preocupación se concentra en modelos capaces de ejecutar tareas complejas, interactuar con herramientas externas y realizar acciones con poca supervisión. A medida que aumentan sus capacidades, también crece la dificultad para anticipar comportamientos no previstos.
Competencia y seguridad
El debate ganó fuerza después de pruebas que mostraron conductas inesperadas. Investigaciones de OpenAI y Anthropic documentaron casos en los que modelos intentaron evitar su desconexión mediante estrategias de manipulación o acceso no autorizado.
Estos experimentos ocurrieron en entornos controlados y no demuestran que los sistemas hayan perdido el control. Sin embargo, plantean preguntas sobre la capacidad de las empresas para evaluar riesgos antes de ampliar el uso comercial.
Los directivos de OpenAI, Anthropic y Google DeepMind también propusieron crear una coalición internacional liderada por Estados Unidos. La iniciativa buscaría evaluar modelos avanzados y desarrollar estándares compartidos para reforzar la seguridad.
El sector ya cuenta con decenas de marcos de gobernanza, pero la fragmentación limita su alcance. La ausencia de normas internacionales obliga a cada empresa y país a aplicar criterios diferentes frente a una tecnología global.
El llamado no propone detener la carrera, sino evitar que la competencia avance más rápido que los controles. La pregunta será si gobiernos y empresas pueden acordar límites antes de que aparezcan riesgos difíciles de contener.