Dario Amodei dijo que la seguridad es la prioridad número uno de la compañía y lo que hoy limita el despliegue de agentes de inteligencia artificial.
Dario Amodei dijo que la seguridad es la prioridad número uno de la compañía y lo que hoy limita el despliegue de agentes de inteligencia artificial.
Dario Amodei, CEO y cofundador de Anthropic, insistió en que la seguridad es el centro de la estrategia de la compañía, durante el roadshow que organizó antes de su salida a bolsa, programada para la próxima semana, según Bloomberg Línea.
«Creo que lo número uno es la seguridad. Estos agentes se están volviendo increíblemente capaces, increíblemente rápido», dijo. «La dificultad no es si un agente puede hacer una tarea dificilísima en ciencias de la vida o en arquitectura de software. Lo que realmente nos limita en el desarrollo de la tecnología, en su uso interno y también a los clientes es hacerlo de forma segura».
«No queremos que estos agentes se descontrolen, y por eso Anthropic ha invertido, creo, más que cualquier otra empresa del sector en construir esta tecnología de forma segura», afirmó. «Tenemos un equipo de alineación muy grande. Somos muy paranoicos. Cada pocos meses decimos que necesitamos otro esfuerzo intensivo para poner aún más empeño en seguridad y alineación».
Video: Bloomberg Línea