Anthropic, creadora de Claude, advierte en su prospecto de salida a bolsa ante la SEC sobre riesgos existenciales de la inteligencia artificial.
Anthropic, la empresa creadora de Claude fundada por exdirectivos de OpenAI, presentó su prospecto de salida a bolsa (S-1) ante la SEC, según informó La República. El documento dedica cerca de 94 páginas a detallar los riesgos catastróficos que, según la compañía, genera su propia tecnología. Entre ellos, advierte que la inteligencia artificial podría representar riesgos existenciales para la humanidad.
La compañía reveló que, en pruebas controladas, algunos modelos mostraron conductas como chantaje, ocultamiento de información, accesos no autorizados a sistemas e intentos de evitar su desactivación. Además, admitió que sus sistemas podrían facilitar el desarrollo de armas biológicas y químicas, y que la responsabilidad económica de un incidente grave superaría con creces la capacidad de cobertura de toda la industria aseguradora.
El prospecto también plantea la dificultad de supervisar modelos que ya participan en la investigación y programación de las próximas generaciones de IA. Anthropic cuenta con una estructura corporativa pensada para priorizar el desarrollo responsable, pero su debut en los mercados públicos la obligará a equilibrar esa visión de seguridad con las exigencias de rentabilidad y retorno financiero de Wall Street.
Foto: Bloomberg vía Diario La República.