In Breve
- Quali vulnerabilità sono state sfruttate?
- I ricercatori hanno sfruttato vulnerabilità nel software di OpenAI legate all'upload di file immagine.
- Qual è stato il premio ricevuto dai ricercatori?
- I ricercatori hanno ricevuto un premio di 6.500 dollari per la segnalazione delle vulnerabilità.
- Cosa evidenzia questo episodio?
- Sottolinea come strumenti avanzati possano ridurre il tempo e le competenze necessarie per sviluppare exploit.
Il 25 luglio, un team di tre ricercatori di Hacktron AI ha dimostrato come le vulnerabilità nel software di OpenAI possano essere sfruttate per ottenere accesso non autorizzato a diversi account ChatGPT di dipendenti e a parti dell’infrastruttura aziendale. Utilizzando il modello Claude (Opus 5) di Anthropic, i ricercatori hanno concatenato due falle di sicurezza, portando a un accesso significativo a dati sensibili.
Questa attività è stata condotta nell’ambito di un programma di bug bounty, che premia i ricercatori per la segnalazione di vulnerabilità. In questo caso, i ricercatori hanno ricevuto un premio di 6.500 dollari per la loro scoperta, e OpenAI ha rapidamente risolto i problemi identificati.
Il primo accesso è avvenuto attraverso una vulnerabilità nel software del forum della comunità basato su Discourse, legata all’upload di file immagine in formato HEIF/HEIC. Discourse convertiva questi file tramite ImageMagick e la libreria libheif. Un bug di memoria in libheif ha causato un calcolo errato della posizione di un’immagine sovrapposta, sufficiente a compromettere il server. Sebbene il difetto fosse stato corretto dagli sviluppatori di libheif mesi prima, la correzione non era stata formalmente segnalata con un CVE, e la versione vulnerabile era ancora in uso nel sistema di OpenAI.
I ricercatori hanno osservato che la versione precedente del modello, Opus 4.8, ha faticato a generare un exploit funzionante. Tuttavia, entro poche ore dal rilascio di Opus 5, il modello è riuscito a produrre un exploit efficace. Una volta ottenuto l’accesso al server Discourse, hanno identificato una seconda vulnerabilità che ha consentito il controllo degli account ChatGPT e Codex, incluso l’account di un dipendente di OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda.
Discourse ha rilasciato una patch per correggere la vulnerabilità il 27 luglio. Questo episodio sottolinea come i modelli avanzati e gli strumenti commerciali possano ridurre significativamente il tempo e le competenze necessarie per sviluppare exploit informatici. Come ha osservato Matt Fredrikson, CEO della società di sicurezza Gray Swan, “per $200 al mese, chiunque può usare questi strumenti e hackerare una società come OpenAI”. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit. Lavoro che prima richiedeva mesi ora può richiederne giorni”.
Inoltre, Opus 5 non ha subito le restrizioni di esportazione che hanno interessato versioni successive come Mythos 5, che è stata temporaneamente limitata a causa di preoccupazioni sulle sue capacità di hacking. Anche i modelli a pesi aperti stanno colmando il divario di capacità: ricerche di SaferAI indicano che il modello GLM-5.2 di Z.ai è a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7.
Questo incidente si verifica in un contesto di crescente attenzione verso la sicurezza informatica nelle principali aziende che sviluppano intelligenze artificiali, evidenziando la necessità di misure di sicurezza più robuste e di una vigilanza continua.
