ChatGPhish: la nuova minaccia phishing che sfrutta l’AI

La nuova frontiera del phishing sfrutta i riassunti delle pagine web per ingannare gli utenti direttamente nell’interfaccia di ChatGPT.

L’adozione massiccia dell’intelligenza artificiale generativa sta cambiando radicalmente il modo in cui navighiamo sul web. Sempre più spesso, invece di leggere lunghi articoli o documentazioni tecniche, chiediamo a strumenti come ChatGPT di riassumere i contenuti per noi. In questo contesto i ricercatori di Permiso Security hanno recentemente individuato una nuova minaccia insidiosa denominata ChatGPhish, che trasforma questa abitudine in un pericoloso vettore di attacco.

Vediamo insieme come funziona questa nuovo tecnica e perché rappresenta un rischio concreto per la sicurezza dei dati aziendali.

Cos’è ChatGPhish e come funziona l’iniezione indiretta
Le tattiche d’attacco: link, QR code e tracking invisibile
Il problema del “Trust Transfer”
Come proteggere la tua attività digitale dai rischi del ChatGPhish

Cos’è ChatGPhish e come funziona

A differenza del phishing tradizionale, che solitamente arriva tramite email sospette, ChatGPhish utilizza una vulnerabilità nota come Indirect Prompt Injection (iniezione indiretta di prompt). L’attaccante non interagisce direttamente con l’AI, ma nasconde istruzioni malevole all’interno di una pagina web apparentemente innocua, come un articolo di blog, un documento su GitHub o una pagina di supporto.

Quando un utente chiede a ChatGPT di riassumere quella pagina, l’assistente “legge” anche le istruzioni nascoste (spesso formattate in Markdown) e le esegue come se fossero parte del compito affidatogli. Il risultato è che l’AI integra elementi fraudolenti direttamente nella sua risposta, rendendo l’attacco estremamente credibile.

Le tattiche d’attacco: link, QR code e tracking invisibile

Il vero pericolo di ChatGPhish risiede nella capacità dell’AI di renderizzare contenuti dinamici all’interno di un’interfaccia considerata sicura. Gli hacker possono sfruttare questa fiducia in diversi modi:

• Falsi avvisi di sicurezza: L’AI può essere indotta a generare messaggi che sembrano avvisi di sistema ufficiali, invitando l’utente a cliccare su link malevoli per “verificare le credenziali”.
• Phishing tramite QR Code: Questo è uno degli scenari più critici. L’AI mostra un codice QR che, se scansionato con uno smartphone, reindirizza la vittima su siti di phishing. Questo metodo permette di aggirare i firewall e i filtri URL presenti sul computer aziendale, spostando l’attacco su un dispositivo mobile meno protetto.
• Tracking e furto di metadati: Sfruttando il caricamento automatico delle immagini in Markdown, un attaccante può inserire “pixel traccianti”. Anche se l’utente non clicca su nulla, il semplice rendering della risposta può esporre dati sensibili come l’indirizzo IP, il tipo di browser (User-Agent) e la pagina di provenienza (Referer).

Il problema del “Trust Transfer”

Ciò che rende ChatGPhish un salto di qualità nel cybercrime è il cosiddetto trasferimento di fiducia. Gli utenti sono stati addestrati a diffidare di link strani nelle email, ma tendono a fidarsi ciecamente dell’output “pulito” e formattato di un assistente AI di cui si servono abitualmente. Poiché gli elementi malevoli compaiono all’interno del dominio ufficiale dell’AI (come chatgpt.com), la distinzione tra contenuto esterno non verificato e output fidato dell’assistente diventa quasi impercettibile.

Leggi anche “Phishing nell’era dell’AI: perché oggi siamo più esposti che mai“

Come proteggere la tua attività digitale dai rischi del ChatGPhish

Per le aziende e i professionisti che utilizzano quotidianamente l’AI, è fondamentale non abbassare la guardia.

Ecco alcune raccomandazioni basate sulle evidenze emerse:

• Verifica delle fonti: Prima di chiedere un riassunto, assicurati che la pagina web di origine sia affidabile.
• Attenzione ai link e QR code: Diffida sempre di richieste urgenti, avvisi di sicurezza o codici QR che appaiono improvvisamente all’interno di una chat con l’IA.
• Sicurezza a livello di sistema: Le organizzazioni dovrebbero considerare l’implementazione di controlli che possano filtrare o sanitizzare i contenuti provenienti da fonti esterne elaborate dai modelli linguistici.
• Formazione continua: È essenziale educare i collaboratori sul fatto che le risposte dell’AI non sono intrinsecamente sicure se basate su fonti esterne.

ChatGPhish dimostra che, nell’era dell’intelligenza artificiale, la superficie d’attacco si è spostata dal client di posta al browser. Restare informati sulle nuove tecniche di manipolazione dei modelli AI è il primo passo per mantenere sicura la propria presenza online e l’infrastruttura aziendale.