Nel panorama in continua evoluzione della sicurezza digitale, le superfici di attacco informatico continuano ad aumentare, questa volta il protagonista è Grok, l'assistente basato su AI integrato nella piattaforma X, che viene manipolato per diffondere link malevoli su larga scala, eludendo i controlli del social network.
La tecnica, scoperta di recente da Nati Tal ricercatore per GuardioSecurity, sfrutta una vulnerabilità nel modo in cui X gestisce i metadati dei contenuti pubblicitari. I malintenzionati pubblicano annunci video, spesso utilizzando esche a contenuto per adulti per attirare l'attenzione, ma omettono di inserire un link cliccabile nel corpo principale del post, una pratica che verrebbe immediatamente bloccata dai sistemi di sicurezza della piattaforma. Il collegamento dannoso viene invece nascosto in un campo di metadati secondario, apparentemente non monitorato da X.
A questo punto entra in gioco l'ingegneria sociale applicata all'intelligenza artificiale. Gli stessi aggressori, o account a loro collegati, rispondono al proprio annuncio ponendo a Grok una domanda diretta, come "da dove viene questo video?" o "qual è il link?". L'AI, programmata per essere utile, analizza tutte le informazioni associate al post, incluso il campo nascosto, ed estrae il link malevolo, pubblicandolo in una risposta visibile a tutti.
L'effetto è duplice e particolarmente insidioso. In primo luogo, poiché Grok è un account di sistema verificato e considerato attendibile sulla piattaforma, la sua risposta conferisce al link una credibilità e una legittimità che altrimenti non avrebbe. In secondo luogo, questa interazione amplifica notevolmente la portata del contenuto, migliorandone la visibilità e il posizionamento SEO all'interno di X. Di conseguenza, un collegamento che dovrebbe essere bloccato viene di fatto promosso a un vasto pubblico.
Questa metodologia, soprannominata "Grokking", si sta dimostrando estremamente efficace, con alcuni annunci malevoli che hanno raggiunto milioni di visualizzazioni. Gli utenti che cliccano su questi link vengono reindirizzati attraverso reti pubblicitarie sospette verso una serie di truffe, come falsi test CAPTCHA progettati per raccogliere dati, o vengono indotti a scaricare malware e software per il furto di informazioni.
La scoperta di questa vulnerabilità è stata segnalata ai team di ingegneri di Grok. Tra le soluzioni proposte vi sono la scansione di tutti i campi dei post alla ricerca di link, il blocco dei collegamenti nascosti e, soprattutto, l'implementazione di un sistema di "sanitizzazione" del contesto per l'AI. Questo farebbe sì che Grok non si limiti a riproporre ciecamente le informazioni trovate, ma le filtri e le verifichi preventivamente tramite blacklist di sicurezza. Al momento, la questione rimane aperta, evidenziando come l'integrazione dell'AI nelle piattaforme social apra nuove, complesse sfide per la sicurezza informatica.