In Breve
- Quali vulnerabilità sono state sfruttate dai ricercatori?
- I ricercatori hanno sfruttato una falla nel software del forum Discourse e un bug di memoria nella libreria libheif.
- Qual è stato il premio ricevuto dai ricercatori?
- I ricercatori hanno ricevuto un premio di 6.500 dollari per la segnalazione delle vulnerabilità.
- Cosa evidenzia questo episodio sulla sicurezza informatica?
- Evidenzia come modelli avanzati possano ridurre il tempo e le competenze necessarie per sviluppare exploit.
Un recente episodio di hacking ha messo in luce vulnerabilità significative nei sistemi di OpenAI, grazie all’uso del modello Claude (Opus 5) di Anthropic. Tre ricercatori di Hacktron AI hanno dimostrato come sia possibile concatenare due falle per accedere a più account ChatGPT di dipendenti OpenAI e a elementi dell’infrastruttura aziendale.
Il 25 luglio, i ricercatori hanno iniziato la loro attività nell’ambito di un programma di bug bounty, segnalando le vulnerabilità riscontrate e ricevendo un premio di 6.500 dollari. Il primo accesso è avvenuto attraverso una falla nel software del forum della comunità basato su Discourse, legata all’upload di file immagine HEIF/HEIC. Discourse, nel tentativo di convertire questi file, passava per ImageMagick e poi per la libreria libheif. Tuttavia, un bug di memoria in libheif ha portato a un calcolo errato della posizione di un’immagine sovrapposta, sufficiente per compromettere il server.
È importante notare che il difetto era stato corretto dagli sviluppatori di libheif mesi prima, ma la correzione non era stata formalmente segnalata con un CVE, e la versione vulnerabile era ancora in uso nel sistema di OpenAI. I ricercatori hanno osservato che la versione precedente del modello, Opus 4.8, non era in grado di generare un exploit funzionante. Tuttavia, entro poche ore dal rilascio di Opus 5, il modello è riuscito a produrlo, consentendo l’accesso al server Discourse.
Una volta ottenuto l’accesso, i ricercatori hanno scoperto una seconda vulnerabilità che ha permesso loro di controllare gli account ChatGPT e Codex, incluso l’account di un dipendente OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda. Discourse ha rilasciato una patch per risolvere la vulnerabilità il 27 luglio.
Questo episodio sottolinea come modelli avanzati e strumenti disponibili commercialmente possano ridurre drasticamente il tempo e le competenze necessarie per sviluppare exploit. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha commentato che “per $200 al mese, chiunque può usare questi strumenti e hackerare una società come OpenAI”. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit. Lavoro che prima richiedeva mesi ora può richiederne giorni”.
È interessante notare che Opus 5 non è stato soggetto alle restrizioni di esportazione che hanno interessato versioni successive come Mythos 5, che è stata temporaneamente limitata a causa di preoccupazioni sulle sue capacità di hacking. Anche i modelli a pesi aperti stanno contribuendo a ridurre il divario di capacità: ricerche di SaferAI indicano che il modello GLM-5.2 di Z.ai è a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7.
Questo incidente arriva in un periodo di crescente attenzione sulla sicurezza nelle principali aziende che sviluppano intelligenze artificiali, sollevando interrogativi sulla protezione dei dati e sulla vulnerabilità dei sistemi di intelligenza artificiale.
