Jacob Coxon, en 27-årig AI-forskare, slutade på det amerikanska företaget Anthropic. Han sa att AI växer för snabbt. Han sa att många anställda på AI-företag är mycket rädda för vad som kan hända. Han tror att farlig AI kan skada eller till och med döda människor under de närmaste åren.

Anthropics chef Dario Amodei vill att AI-företag ska arbeta långsammare. OpenAI-chefen Sam Altman och Elon Musk stöder också denna idé. De vill att regeringar och andra grupper ska kontrollera nya AI-system. Coxon sa att Kina också måste vara med i denna plan. Utan Kina kan länder tävla om att bygga starkare AI.

Anthropic sa att AI kan vara till stor hjälp men också innebära allvarlig fara. Företaget sa att det testar sina AI-system och använder strikta säkerhetsregler. Vissa andra ledare inom teknik håller inte med Coxon. Nvidias chef Jensen Huang har sagt att AI inte kommer att göra slut på mänskligheten. AI-företag kan nu få fler krav på nya lagar, säkerhetskontroller och långsammare arbete.