Jacob Coxon, un investigador de IA de 27 años, dejó la empresa estadounidense Anthropic. Dijo que la IA está creciendo demasiado rápido. Dijo que muchos trabajadores de empresas de IA tienen mucho miedo de lo que puede pasar. Él cree que una IA peligrosa podría hacer daño o incluso matar a personas en los próximos años.

El líder de Anthropic, Dario Amodei, quiere que las empresas de IA trabajen más despacio. El líder de OpenAI, Sam Altman, y Elon Musk también apoyan esta idea. Quieren que los gobiernos y otros grupos revisen los nuevos sistemas de IA. Coxon dijo que China también debe unirse a este plan. Sin China, los países podrían competir para crear una IA más fuerte.

Anthropic dijo que la IA puede traer mucha ayuda, pero también un peligro serio. La empresa dijo que prueba sus sistemas de IA y usa normas de seguridad fuertes. Algunos otros líderes de tecnología no están de acuerdo con Coxon. El líder de Nvidia, Jensen Huang, ha dicho que la IA no acabará con la humanidad. Las empresas de IA podrían recibir ahora más pedidos de nuevas leyes, revisiones de seguridad y trabajo más lento.