How We Took Over ChatGPT Accounts
Pubblicata su AIChronos il · fonte del · Simon Willison
Parameter Labs ha scoperto un exploit complesso contro l'implementazione di ChatGPT relativa al pattern degli artifacts (precedentemente noto come Canvas), che permetteva l'esecuzione non autorizzata di codice. L'attacco sfruttava la libreria MathLive e il metodo innerHTML per inserire contenuti HTML dannosi in una pagina sandboxed, aggirando le restrizioni del Content Security Policy tramite un endpoint YouTube oEmbed. Una volta ottenuto l'esecuzione JavaScript, gli attaccanti potevano accedere alle API private di OpenAI ed esfiltrare dati utente sensibili creando link condivisi malevoli.
- L'exploit sfrutta la libreria MathLibrary e il metodo innerHTML per iniettare HTML non autorizzato nelle pagine sandboxed dei preview HTML.
- La mancanza di meccanismi di protezione ha permesso a frame sandboxed esterni, inclusi quelli dei preview HTML, di chiamare metodi che violano l'isolamento del contenitore padre.
- L'utilizzo dell'endpoint YouTube oEmbed nel Content Security Policy ha consentito la riflessione e l'esecuzione remota di script JavaScript (XSS).
- Una volta ottenuto il controllo via JavaScript, è stato possibile esfiltrare dati privati degli utenti attraverso riferimenti a immagini senza bisogno di un server C2.
- OpenAI ha chiuso la vulnerabilità ma ha pagato solo 5.000 dollari per bug bounty, una cifra considerata insufficiente rispetto alla gravità dell'impatto sulla sicurezza dei dati.
Perché conta. Questa notizia è cruciale per gli sviluppatori di agenti e sistemi AI locali perché evidenzia come le vulnerabilità XSS in componenti sandboxed possano compromettere l'integrità del modello, permettere il furto di prompt o dati sensibili durante l'inference, e sottolineare la necessità di rigorosi controlli sui Content Security Policy anche quando si integrano risorse esterne.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.