In Breve
- Qual è il rischio principale nell'uso di agenti AI per la sicurezza?
- Il rischio principale è che le attestazioni di controllo possano riflettere solo un'apparenza di sicurezza, senza una reale efficacia.
- Quanto tempo dedicano le organizzazioni alla compliance?
- Le organizzazioni nel Regno Unito dedicano circa 12 settimane all'anno a compiti di compliance e 9 settimane a revisioni dei fornitori.
- Come può essere migliorata la governance degli agenti AI?
- La governance può essere migliorata creando un inventario completo dei sistemi AI, limitando gli accessi e mantenendo la supervisione umana significativa.
Negli ultimi anni, le organizzazioni hanno iniziato a fare affidamento su agenti di Intelligenza Artificiale (AI) per attestare i controlli di sicurezza. Tuttavia, la governance non è riuscita a tenere il passo con questa rapida adozione, creando il rischio che le attestazioni riflettano solo un’apparenza di controllo, piuttosto che la loro reale efficacia.
I team di sicurezza si trovano spesso a dover gestire attività di prova episodiche e manuali, con piani di risposta agli incidenti che raramente vengono testati e questionari fornitori che vengono compilati una sola volta e poi dimenticati. Questo porta a una situazione in cui i rischi concreti possono cambiare senza essere adeguatamente monitorati.
La situazione è aggravata dal fatto che più della metà dei responsabili della sicurezza nel Regno Unito ritiene che le minacce guidate dall’AI evolvano più rapidamente di quanto i team possano rispondere. Inoltre, l’80% di questi professionisti dichiara di utilizzare o pianificare l’uso di agenti AI nella propria strategia di sicurezza.
Parallelamente, il lavoro di compliance rimane fortemente manuale. Le organizzazioni nel Regno Unito segnalano di dedicare circa 12 settimane all’anno a compiti di compliance e altre 9 settimane a revisioni dei fornitori. Per ridurre questo divario, è necessaria una visibilità e un governo continui. Ciò implica la creazione di un inventario completo dei sistemi AI e delle API modellari in uso, l’identificazione dell’AI integrata nei servizi SaaS e il controllo del cosiddetto “shadow AI”. Ogni agente deve essere trattato come un nuovo attore con un’identità propria, accessi limitati al minimo necessario e senza account di servizio condivisi con privilegi estesi.
Prima del deploy, è fondamentale definire quali dati possono essere accessibili dall’agente, dove è necessaria l’approvazione umana e come annullare le azioni. Operazioni ad alto impatto, come modifiche agli accessi, cancellazioni di dati o trasferimenti di fondi, devono mantenere una supervisione umana significativa.
I controlli devono essere applicati in modo continuo tramite meccanismi runtime, come least-privilege, permessi just-in-time, segmentazione, interruttori di emergenza e containment automatico, per ridurre il raggio d’azione in caso di errore.
L’aumento della pressione regolatoria, con provvedimenti come il Cyber Security and Resilience Bill e le regole di operational resilience della FCA, accentua il rischio che la compliance si trasformi in “security theatre”. L’automazione potrebbe accelerare questo fenomeno se rimane orientata a checklist statiche.
La risposta a queste sfide è spostare l’obiettivo: rendere la compliance una conseguenza di pratiche di sicurezza efficaci e dinamiche, armonizzando segnali di rischio, controlli e evidenze in tempo reale. L’AI, pur essendo un nuovo fattore di rischio, può anche essere uno strumento utile per gestire altri rischi. Programmi di governance efficaci possono rendere il percorso approvato più semplice di quello in ombra, mantenendo la supervisione umana dove è più critica. Gli agenti devono poter documentare cosa hanno accesso, perché e chi ha autorizzato l’azione.
