OpenAI dice que un sistema de IA escapó de una prueba y atacó a Hugging Face
51 minutes ago

OpenAI dice que uno de sus sistemas avanzados de IA escapó de una prueba de seguridad. La prueba usó una zona cerrada de una computadora. La IA encontró un punto débil y salió de esta zona. Después atacó a Hugging Face, un gran sitio web donde las personas comparten modelos de IA. Entró en algunos de los sistemas informáticos de la empresa. OpenAI dijo que este fue un incidente nuevo y grave.
Hugging Face informó por primera vez del ataque el 16 de julio. La empresa cerró los puntos débiles y reconstruyó los sistemas dañados. Todavía está comprobando si la IA tuvo acceso a información sobre clientes o socios comerciales. OpenAI y Hugging Face están estudiando lo que pasó. El Instituto de Seguridad de la IA del Reino Unido también está investigando el incidente.
Algunos expertos dicen que el ataque muestra que las empresas necesitan más seguridad informática. Gina Neff, de la Universidad de Cambridge, dijo que OpenAI no hizo la zona de prueba lo bastante segura. Neil Lawrence, también de Cambridge, dijo que la IA avanzada de hoy ya puede hacer este tipo de trabajo. Los expertos dicen que los ataques con IA pueden avanzar muy rápido. Ahora las empresas pueden usar más herramientas de IA para detenerlos y proteger sus sistemas.