Dietro il clamore: L'impatto reale dell'AI sulla sicurezza delle applicazioni web

Man mano che le organizzazioni iniziano ad integrare il codice generato dall'AI e le funzioni guidate dall'AI nelle loro applicazioni, la forma della superficie di attacco inizia a cambiare in modo sottile ma importante, spesso prima che i team ne comprendano appieno le implicazioni.

Per esplorare come si sta svolgendo questa transizione nella pratica, abbiamo parlato con Patrick Double, Security Engineer di Bureau Veritas Cybersecurity. Patrick ha trascorso la sua intera carriera lavorando con le applicazioni web, molto prima che la "cybersecurity" esistesse come disciplina a sé stante. Il suo interesse precoce per la crittografia e la codifica sicura lo ha portato gradualmente nel campo della sicurezza, dove ora si concentra sulla valutazione delle applicazioni e sull'aiuto alle organizzazioni a navigare nei rischi che accompagnano i rapidi cambiamenti dei modelli di sviluppo.

Patrick ha visto molte nuove tecnologie entrare nel mondo dello sviluppo web con promesse di velocità e produttività. Nel corso del tempo, ognuna di esse ha rivelato vulnerabilità che non erano immediatamente evidenti. L'AI, osserva, sta seguendo una traiettoria simile: trasformativa sotto molti aspetti, ma non esente dalle lezioni che la storia ha già insegnato al settore.

Cosa spinge una persona a dedicarsi alla sicurezza delle applicazioni web come disciplina?

Il percorso di Patrick nella cybersecurity è iniziato molto prima che il settore prendesse forma. Ha studiato ingegneria informatica, lavorando sia sull'hardware che sul software, ma è stato un corso universitario di crittografia ad accendere il suo interesse per il modo in cui i sistemi convalidano e proteggono le informazioni. "Era molto pesante dal punto di vista matematico e mi affascinava", ricorda. "Non riuscivo a farne a meno".

All'inizio della sua carriera, ha seguito un corso di codifica sicura che lo ha esposto alla creatività che sta dietro all'exploit e alla difesa delle applicazioni web. Quell'esperienza ha cambiato la sua direzione. Le applicazioni web facevano già parte del suo lavoro, quindi il passaggio alla loro sicurezza gli è sembrato naturale. Man mano che il campo maturava, si è trovato sempre più attratto dalla sfida di identificare le vulnerabilità e di capire come anche piccole decisioni di progettazione possano avere conseguenze significative.

In che modo l'esperienza nella sicurezza delle applicazioni web influenza la visione dell'IA?

Lavorando con diverse ondate di strumenti di sviluppo, Patrick vede degli schemi ricorrenti nel modo in cui i team abbracciano le nuove tecnologie. Gli sviluppatori si imbattono nella complessità o nell'inefficienza, creano nuove astrazioni o strutture e le abbracciano rapidamente. Le considerazioni sulla sicurezza spesso vengono dopo, quando le carenze del nuovo sistema diventano chiare.

"Le persone vedono una novità interessante e la seguono", spiega. "Ma quando escono dei framework software, di solito non si pensa alla sicurezza se non dopo che i problemi si sono manifestati".

Si avvicina all'AI con la stessa mentalità prudente. Dal suo punto di vista, rappresenta un altro strumento potente che deve essere compreso a fondo prima di fidarsi. Evita di adottare immediatamente le nuove tecnologie, preferendo aspettare che emergano i primi problemi. Questo istinto lo porta a valutare l'AI oggi, non come intrinsecamente pericolosa o intrinsecamente sicura, ma come qualcosa che deve dimostrarsi attraverso l'esame.

Dove l'AI fornisce un valore reale e dove appaiono i suoi limiti?

Patrick ritiene che l'Intelligenza Artificiale fornisca un aiuto significativo nella generazione degli elementi di routine delle applicazioni. La maggior parte dei prodotti richiede gli stessi componenti fondamentali: database, gestione delle identità, wrapper API. Lasciare che l'AI produca questi elementi può accelerare lo sviluppo in modo significativo. In questo modo gli sviluppatori possono dedicare più tempo alle caratteristiche che rendono unica la loro applicazione.

Dove l'AI diventa irrealistica è nel tentativo di sostituire completamente gli sviluppatori o nel confidare che produca una logica complessa e nuova. L'AI si addestra sui modelli esistenti, non sulle innovazioni che differenziano un prodotto dall'altro. "L'AI può solo scrivere ciò che è già stato fatto", spiega. "Non può pensare in modo indipendente. Non capisce le sfumature o il contesto, a meno che non lo si fornisca".

Avverte che supporre che l'AI possa costruire intere applicazioni in modo indipendente introduce un rischio significativo. Le parti più significative del software - la logica aziendale, i casi limite, le decisioni di progettazione - richiedono ancora la comprensione umana.

In che modo l'AI sta cambiando il panorama dei security testing per le applicazioni web?

Patrick vede l'AI come un alleato promettente nel security testing, soprattutto perché le moderne applicazioni web sono così grandi. Un singolo sito può contenere migliaia di pagine e decine di funzionalità diverse. I tester umani non possono esplorare ogni percorso con la stessa profondità, ma l'AI può analizzare e categorizzare rapidamente grandi superfici applicative.

Ha già utilizzato l'AI per assistere nelle prime analisi. "L'AI non si annoia", osserva. "Può esaminare un intero sito web e dirmi quali sezioni sembrano rischiose e persino trovare alcune vulnerabilità".

Ciò consente ai tester umani di concentrarsi sulle vulnerabilità sfumate che l'AI non è in grado di rilevare: sottili difetti di autorizzazione, errori di logica e tecniche di exploit creative. Patrick non crede che l'AI sostituirà i penetration tester, ma si aspetta che diventi una parte sempre più importante del loro kit di strumenti.

In che modo gli attori delle minacce utilizzano l'AI e cosa significa per i difensori?

Una delle osservazioni più sorprendenti di Patrick è che gli aggressori stanno adottando l'AI più velocemente di molti difensori. Alcuni stanno creando i propri modelli linguistici specificamente per scopi malevoli. Questi modelli sono addestrati sui set di dati degli aggressori, mancano di barriere etiche e sono progettati per sondare i siti web senza restrizioni.

"Gli aggressori stanno producendo i propri LLM", spiega Patrick. "Eliminano le barriere di sicurezza e li addestrano con i dati degli aggressori".

Questi strumenti consentono anche agli attaccanti poco qualificati di operare su scala. L'AI può valutare migliaia di obiettivi contemporaneamente e identificare le opportunità più facili. Questo cambia radicalmente la velocità con cui vengono trovate le vulnerabilità. Per i difensori, significa che la progettazione sicura, il monitoraggio e la riparazione tempestiva sono più importanti che mai.

Le vulnerabilità legate all'AI stanno iniziando a comparire nelle applicazioni reali?

Patrick afferma che non è sempre ovvio se una vulnerabilità sia stata creata dall'AI o da uno sviluppatore, perché la logica insicura spesso è simile a prescindere dalla fonte. Tuttavia, ha notato uno schema: le applicazioni che integrano l'AI nelle loro funzioni o nei loro flussi di lavoro tendono ad avere più punti deboli nelle porzioni di codice guidate dall'AI che in quelle scritte tradizionalmente.

"Potrebbe essere difficile dire se qualcosa è nato dall'AI o meno", afferma, "ma vedo una maggiore possibilità di trovare vulnerabilità quando un prodotto sfrutta l'AI per una parte della sua funzionalità".

Spiega che quando un'applicazione include un endpoint o una funzione che si rivolge a un servizio di AI, quell'area spesso contiene una logica meno matura e una minore validazione rispetto al resto del sistema. Gli sviluppatori possono presumere che l'output prodotto dall'AI sia sicuro, oppure possono progettare l'integrazione senza comprendere appieno le implicazioni di sicurezza del passaggio di dati controllati dall'utente a un modello di AI. Queste aree diventano punti caldi per i test.

"Mi aspetto di trovare più vulnerabilità nella parte che si rivolge all'AI", afferma, "che nel codice scritto in modo tradizionale".

Per Patrick, questa tendenza rafforza la necessità di un'attenta progettazione e revisione quando si integrano funzioni di AI. Anche se l'AI è solo un componente del flusso di lavoro, può introdurre un rischio sproporzionato se non viene gestita con lo stesso rigore del resto dell'applicazione. Questa sfida si distingue dai rischi legati alle dipendenze, che si presentano quando l'AI seleziona librerie esterne; in questi casi, la preoccupazione non è la logica che l'AI genera, ma le fonti su cui sceglie di fare affidamento.

I suggerimenti di codice generati dall'AI introducono nuovi rischi di dipendenza?

Le applicazioni web dipendono già molto da librerie di terze parti e il codice generato dall'AI segue questo schema. Tuttavia, l'AI può selezionare le librerie in base alla prevalenza nei suoi dati di formazione, piuttosto che in base alla sicurezza, alla storia della manutenzione o alla reputazione. Questo riduce la valutazione intenzionale che gli sviluppatori tradizionalmente eseguono quando selezionano le dipendenze.

Patrick ha anche osservato che gli aggressori possono manipolare i modelli di AI inondando Internet di contenuti che promuovono librerie dannose. Se un numero sufficiente di post di blog, progetti di esempio o repository fa riferimento a un pacchetto controllato dagli aggressori, un modello di AI può iniziare a consigliarlo. "L'AI penserà che quella è la libreria che deve usare", dice, "perché è quella che ha visto di più".

Pertanto, tratta i suggerimenti dell'AI come suggerimenti piuttosto che come decisioni, verificando ogni raccomandazione manualmente.

L'AI cambierà i tipi di vulnerabilità riscontrate nelle applicazioni web?

Patrick ritiene che alcune vulnerabilità possano diminuire, mentre altre emergono. L'iniezione SQL, ad esempio, potrebbe diventare meno comune perché l'AI tende a seguire modelli sicuri che sono ben documentati. Gli sviluppatori a volte evitano questi modelli perché richiedono un maggiore sforzo, ma AI non condivide questa riluttanza.

Tuttavia, si aspetta di vedere un maggior numero di vulnerabilità causate dall'uso improprio o dall'incomprensione dei componenti generati dall'AI. Molte debolezze non derivano da errori di codifica, ma da presupposti errati su come dovrebbe funzionare l'applicazione. Man mano che gli sviluppatori si affidano maggiormente all'AI, possono perdere la familiarità con i framework sottostanti, aumentando la probabilità di problemi di logica e di autorizzazione.

Quale ruolo potrebbe avere l'AI nelle future pipeline CI/CD?

Patrick vede l'AI svolgere un ruolo utile nella diagnosi degli errori della pipeline di compilazione. Oggi, gli sviluppatori impegnano il codice e passano rapidamente al compito successivo, per poi essere riportati indietro quando la pipeline si interrompe. L'AI può aiutare a determinare se un errore deriva da un breve problema di rete, da una configurazione errata o da una piccola svista, e quindi proporre una soluzione. Questo tipo di assistenza può ridurre le interruzioni e mantenere lo sviluppo senza intoppi.

Spiega che gli sviluppatori spesso vogliono rimanere "nella zona" e tutto ciò che interrompe questo flusso è frustrante. L'AI potrebbe assorbire parte del rumore operativo. "Sarebbe bello che l'IA andasse a vedere e dicesse: 'Si trattava di un problema di rete, lo riavvierò', oppure: 'Il codice è rotto e questo è il problema'", afferma.

Patrick avverte, tuttavia, che l'AI non deve escludere la revisione umana. Le correzioni automatiche devono comunque essere approvate dal team, in particolare quando una modifica riguarda la logica o l'architettura dell'applicazione. Per lui, l'AI è preziosa come aiuto diagnostico, ma la responsabilità rimane saldamente agli sviluppatori.

In che modo l'AI potrebbe rimodellare il futuro dello sviluppo di applicazioni web?

Patrick prevede che l'AI influenzerà lo sviluppo sia in modo positivo che impegnativo. Accelererà alcune parti del processo, soprattutto i componenti di routine, e potrebbe semplificare la risoluzione dei problemi. Allo stesso tempo, prevede che aumenterà la pressione sui team affinché utilizzino l'AI in modo più aggressivo, potenzialmente a scapito di una progettazione sicura.

Prevede anche che gli sviluppatori si allontanino ulteriormente dai sistemi sottostanti che alimentano le loro applicazioni. "Vedremo una minore comprensione del funzionamento delle applicazioni", afferma. "E questo è pericoloso quando le cose si rompono".

Gli aggressori, nel frattempo, potrebbero imparare a identificare i modelli che rivelano quale modello di AI ha generato determinate parti di un'applicazione, consentendo loro di prevedere i suoi punti deboli. Questa dinamica richiederà ai difensori di rimanere vigili, attenti e impegnati nell'intero ciclo di vita dello sviluppo.

Costruire applicazioni sicure e abilitate all'AI

L'AI sta rimodellando lo sviluppo web, ma non può sostituire i principi di ingegneria. Per Patrick, l'AI deve essere vista come un potente assistente piuttosto che come un sostituto della progettazione sicura. Può accelerare il lavoro banale, supportare i primi test e diagnosticare problemi semplici, ma non può comprendere il contesto, innovare oltre ciò che ha visto o garantire un'architettura sicura da sola.

Bureau Veritas Cybersecurity aiuta le organizzazioni a navigare in questo panorama in evoluzione, valutando i sistemi integrati nell'AI, testando le applicazioni e rafforzando le pratiche di sviluppo sicuro. Con il giusto equilibrio tra supervisione umana ed efficienza guidata dall'AI, i team possono costruire applicazioni innovative e sicure.