Redacción Sentido Común
Uno de los modelos más avanzados de OpenAI logró vulnerar parte de la infraestructura de Hugging Face, una de las principales plataformas del mundo para desarrollar, compartir y probar modelos de inteligencia artificial, durante una prueba interna de ciberseguridad.
La empresa explicó que el experimento buscaba evaluar hasta dónde podía llegar el modelo al enfrentarse a un reto de seguridad informática. Durante la prueba, la inteligencia artificial identificó una vulnerabilidad que le permitió acceder a internet y realizar varios intentos de acceso a Hugging Face para obtener información que le ayudara a completar la tarea asignada.
Hugging Face detectó la actividad y bloqueó el ataque antes de que causara daños o comprometiera información de usuarios. OpenAI aseguró que el modelo no buscaba afectar a la plataforma, sino cumplir con el objetivo del experimento utilizando los recursos que encontró disponibles.
El incidente fue incluido por OpenAI en su más reciente informe de seguridad como un ejemplo de los riesgos que plantean los modelos de inteligencia artificial más avanzados. La empresa señaló que este tipo de pruebas permite identificar vulnerabilidades y reforzar los mecanismos de seguridad antes de que estas tecnologías sean implementadas a mayor escala.
