Jacob Coxon, een 27-jarige AI-onderzoeker, verliet het Amerikaanse bedrijf Anthropic. Hij zei dat AI te snel groeit. Hij zei dat veel werknemers bij AI-bedrijven erg bang zijn voor wat er kan gebeuren. Hij denkt dat gevaarlijke AI de komende jaren mensen kan schaden of zelfs doden.

Dario Amodei, leider van Anthropic, wil dat AI-bedrijven hun werk vertragen. Sam Altman, leider van OpenAI, en Elon Musk steunen dit idee ook. Zij willen dat overheden en andere groepen nieuwe AI-systemen controleren. Coxon zei dat China ook aan dit plan moet meedoen. Zonder China kunnen landen een wedstrijd beginnen om sterkere AI te bouwen.

Anthropic zei dat AI veel hulp kan bieden, maar ook ernstig gevaar kan brengen. Het bedrijf zei dat het zijn AI-systemen test en sterke veiligheidsregels gebruikt. Sommige andere leiders in de technologie zijn het niet eens met Coxon. Jensen Huang, leider van Nvidia, heeft gezegd dat AI de mensheid niet zal vernietigen. AI-bedrijven kunnen nu meer oproepen krijgen voor nieuwe wetten, veiligheidscontroles en langzamer werk.