Altman y Amodei pidieron avanzar con cautela, y Estados Unidos rechazó nuevos controles internacionales sobre la tecnología.
Los máximos responsables de OpenAI y Anthropic, Sam Altman y Dario Amodei, llevaron ante el Consejo de Seguridad de Naciones Unidas el debate sobre los riesgos asociados al desarrollo acelerado de la inteligencia artificial (IA), una tecnología que, según ambos, puede transformar la economía y la vida cotidiana, pero también generar amenazas de alcance global.
Durante la sesión, Altman defendió el potencial de la IA para ampliar las capacidades humanas y comparó el momento actual con el Renacimiento y la Revolución Industrial, dos periodos en los que nuevas herramientas modificaron profundamente la sociedad. Sin embargo, advirtió que el rumbo de esta transformación dependerá de las decisiones que se adopten.
“La IA puede dar lugar a una nueva era del Renacimiento para la creatividad y el descubrimiento, o bien a una nueva Revolución Industrial marcada por la agitación y el caos”, señaló el consejero delegado de OpenAI ante el organismo de la ONU.
Para Altman, el desarrollo tecnológico debe mantener a las personas en el centro y evitar que la incorporación de sistemas de inteligencia artificial termine desplazando la capacidad humana para decidir. A su juicio, las herramientas tecnológicas deben servir para ampliar las capacidades de los individuos y no para convertirlos en meros ejecutores de decisiones automatizadas.
“La historia continua del progreso humano no trata sobre herramientas que reemplazan la capacidad de acción humana, sino sobre cómo las herramientas adecuadas potencian las capacidades de las personas”, sostuvo.
El responsable de OpenAI también rechazó las posiciones que presentan el futuro de la inteligencia artificial únicamente desde escenarios extremos. Consideró que el catastrofismo puede convertirse en una “trampa” y defendió un debate que permita identificar los riesgos sin perder de vista las oportunidades que ofrece la tecnología.
La advertencia fue acompañada por Amodei, quien centró su intervención en dos grandes categorías de riesgo: el uso indebido de los modelos y la posibilidad de perder el control sobre sistemas cada vez más capaces. Entre los posibles usos maliciosos mencionó el terrorismo y la creación de armas biológicas.
“Estas cuestiones tienen un alcance global y conciernen a toda la humanidad”, afirmó el consejero delegado de Anthropic, quien consideró que la dimensión de esas amenazas justifica que sean discutidas por el Consejo de Seguridad.
Amodei defendió, al mismo tiempo, que la industria continúe desarrollando inteligencia artificial, pero bajo condiciones que permitan acompasar el avance de las capacidades tecnológicas con los mecanismos de seguridad. La propuesta, explicó, consiste en evitar que las herramientas evolucionen más rápido que la capacidad de los gobiernos y las empresas para evaluar sus riesgos.
Para ello, planteó una responsabilidad compartida entre las compañías tecnológicas, los gobiernos y los organismos internacionales. Su propuesta contempla evaluaciones externas de los sistemas, estándares comunes para la industria y normas internacionales aplicables a los distintos países.
“Considero que este es el asunto de seguridad global más importante al que se enfrenta el mundo hoy en día”, afirmó Amodei, quien pidió superar las diferencias entre los países para afrontar de manera conjunta los riesgos y oportunidades asociados a la IA.
Estados Unidos vs. China
El secretario general de Naciones Unidas, António Guterres, puso el debate en términos de responsabilidad. Durante la sesión sostuvo que el problema no está necesariamente en la aparición de nuevas tecnologías, sino en su utilización sin mecanismos suficientes de control y rendición de cuentas.
“El peligro no reside en la nueva tecnología. El peligro reside en la tecnología sin rendición de cuentas”, afirmó Guterres, quien añadió que las decisiones de vida o muerte no deberían quedar en manos de máquinas y rechazó la utilización de sistemas autónomos letales.
La discusión también evidenció diferencias entre Estados Unidos y China sobre la manera en que debería abordarse la expansión de la inteligencia artificial. El representante estadounidense Michael Kratsios, asistente presidencial y director de la Oficina de Política de Ciencia y Tecnología de la Casa Blanca, sostuvo que el rápido avance de la IA no justifica detener su desarrollo.
Kratsios también rechazó la creación de nuevas estructuras de gobernanza mundial destinadas a restringir la tecnología y, en línea con la posición expresada por el presidente Donald Trump, cuestionó los intentos de establecer un mecanismo global de control sobre la denominada superinteligencia.
China planteó una aproximación diferente. Fu Cong, representante permanente del país ante Naciones Unidas, pidió que las grandes empresas tecnológicas asuman mayores responsabilidades y defendió una cooperación internacional más amplia para afrontar los desafíos derivados de la IA.
“La IA es un patrimonio compartido de toda la humanidad y no debe convertirse en un juego de países y personas ricos”, afirmó Fu.
El intercambio dejó expuestas las dificultades para construir una posición común sobre una tecnología cuyo desarrollo avanza con rapidez y cuyos efectos trascienden las fronteras nacionales. Mientras algunas posiciones plantean reforzar estándares y controles internacionales, otras advierten que una regulación global podría limitar la innovación.
El debate en Naciones Unidas refleja así una tensión central: cómo aprovechar la capacidad de la inteligencia artificial para impulsar nuevos descubrimientos y actividades económicas sin permitir que sus riesgos avancen más rápido que los mecanismos destinados a prevenirlos.