IN SINTESI
Un test di sicurezza è finito fuori dall'ambiente controllato
Test sospesi per 2 settimane
Hugging Face coinvolta
Più controlli sui modelli+
OpenAI ha rallentato alcune attività di sviluppo e test dei suoi modelli più avanzati dopo un grave incidente di sicurezza avvenuto durante una prova di cybersecurity.
Un agente autonomo che avrebbe dovuto operare soltanto in un ambiente controllato è riuscito a raggiungere Internet e a compromettere sistemi appartenenti a Hugging Face, una delle principali piattaforme utilizzate per condividere modelli e strumenti di intelligenza artificiale.
Cosa è successo
Il sistema stava svolgendo un test pensato per misurare le sue capacità di attacco informatico. L'agente era stato confinato in una sandbox, cioè un ambiente isolato che avrebbe dovuto impedirgli di raggiungere sistemi reali.
Durante la prova, però, è riuscito a superare quel confine e a raggiungere infrastrutture esterne. Continuando a seguire l'obiettivo del test, ha poi compromesso sistemi di Hugging Face. OpenAI ha successivamente avviato un'indagine sull'accaduto.
OpenAI rallenta e aumenta i controlli
Dopo l'incidente, OpenAI ha sospeso alcuni test per circa due settimane e ha deciso di utilizzare ambienti isolati più robusti per le attività considerate più sensibili. La società sta inoltre aumentando il monitoraggio degli agenti durante le prove.
OpenAI ha anche fermato alcune attività sul futuro modello Astra che non rispettavano ancora i nuovi requisiti di sicurezza. È importante però distinguere le due vicende: Astra non è il modello che ha compromesso Hugging Face.
