Jacob Coxon, un chercheur en IA de 27 ans, a quitté l’entreprise américaine Anthropic. Il a dit que l’IA grandit trop vite. Il a dit que beaucoup de travailleurs dans les entreprises d’IA ont très peur de ce qui peut arriver. Il pense qu’une IA dangereuse pourrait blesser ou même tuer des gens dans les prochaines années.

Le dirigeant d’Anthropic, Dario Amodei, veut que les entreprises d’IA ralentissent leur travail. Le dirigeant d’OpenAI, Sam Altman, et Elon Musk soutiennent aussi cette idée. Ils veulent que les gouvernements et d’autres groupes vérifient les nouveaux systèmes d’IA. Coxon a dit que la Chine doit aussi participer à ce plan. Sans la Chine, les pays pourraient faire une course pour créer une IA plus forte.

Anthropic a dit que l’IA peut apporter une grande aide, mais aussi un danger sérieux. L’entreprise a dit qu’elle teste ses systèmes d’IA et utilise des règles de sécurité strictes. Quelques autres dirigeants de la technologie ne sont pas d’accord avec Coxon. Le dirigeant de Nvidia, Jensen Huang, a dit que l’IA ne va pas détruire l’humanité. Les entreprises d’IA pourraient maintenant faire face à plus de demandes pour de nouvelles lois, des contrôles de sécurité et un travail plus lent.