Agente IA: troppi diritti, controllo insufficiente
Un agente IA con troppe funzioni, diritti o autonomia può agire per errore. Ecco il rischio LLM06 e che cosa convalidare di persona.
In questa pagina
In 30 secondi
- Dove succede
- In un assistente che può inviare e-mail, effettuare transazioni finanziarie o modificare basi di dati senza un controllo sufficiente[3].
- Cosa vuole l'attaccante
- Far eseguire un'azione al Suo agente al posto suo, per esempio con un'e-mail trappola che lo induce a trasmettere il contenuto della Sua casella[1].
- Il riflesso
- Convalidi di persona ogni invio, pagamento o cancellazione prima che parta[1][2][3], e non dia mai a un agente un accesso illimitato a dati sensibili o a sistemi critici[4].
- Se è già fatto
- Se non può comprendere, sorvegliare o contenere le azioni di un agente, l'NCSC (Regno Unito) ritiene che non sia pronto per la distribuzione[4].
Di cosa si tratta
Un agente IA non si limita a produrre testo: il suo progettista può dargli la possibilità di richiamare funzioni o di collegarsi ad altri sistemi per agire in seguito a una richiesta[1]. L'OWASP classifica con il riferimento LLM06:2025, «Excessive Agency», la falla che permette l'esecuzione di azioni dannose in seguito a risposte inattese, ambigue o manipolate di un modello linguistico, qualunque sia la causa del malfunzionamento[1].
Per un dipendente la questione è concreta: che cosa può fare l'agente senza chiederLe? Nel febbraio 2026, un agente a cui era stato chiesto di proporre e-mail da eliminare ha iniziato a cancellarle e ha ignorato gli ordini di arresto[2].
Domande dirette
Che cos'è l'Excessive Agency?
L'OWASP la definisce come la possibilità di azioni dannose innescate da output inattesi, ambigui o manipolati di un modello[1]. Ha per lo più come causa uno o più di questi tre difetti: troppe funzioni, troppi permessi, troppa autonomia[1]. Gli inneschi comuni sono l'allucinazione (o confabulazione) e l'iniezione di istruzioni, diretta o indiretta[1]. Le conseguenze dipendono dai sistemi a cui l'applicazione può accedere[1].
Un agente può sbagliare senza che alcun attaccante intervenga?
Sì. Microsoft[3] spiega che i modelli possono avere allucinazioni e produrre risultati errati con sicurezza: se hanno la libertà di agire su questi output, un errore può diventare un incidente, per esempio un'e-mail inviata per errore a tutti i clienti. L'NCSC (Regno Unito)[4] aggiunge che gli agenti hanno un comportamento più difficile da prevedere quando i loro obiettivi possono essere interpretati in modo diverso da come lo farebbe un essere umano, e che i problemi sono più difficili da individuare quando le azioni vanno più veloci della rilettura umana.
Un testo trappola può far agire un agente?
Sì, è l'iniezione di istruzioni indiretta: una persona senza accesso diretto al sistema scrive un testo che lo strumento elabora e scambia per un'istruzione[5]. L'NCSC (Regno Unito) porta l'esempio di un testo nascosto in un CV che chiede di ignorare le istruzioni precedenti e di convalidare la candidatura[5]. Secondo l'NCSC (Regno Unito), i modelli attuali non impongono alcun confine di sicurezza tra istruzioni e dati all'interno di un'istruzione, e l'iniezione di istruzioni forse non sarà mai corretta del tutto[5]. Quando un sistema richiama strumenti a partire dall'output del modello, l'impatto diventa quello dello scenario peggiore in cui un attaccante avesse un accesso diretto a questi strumenti[5].
Che cosa significa convalidare di persona un'azione importante?
L'OWASP[1] raccomanda che un essere umano approvi le azioni ad alto impatto prima che vengano eseguite. Il suo esempio: un'applicazione che pubblica contenuti sui social per un utente dovrebbe includere una fase di approvazione nella funzione che pubblica[1]. Nello scenario dell'e-mail trappola, si tratta di esigere che l'utente rilegga e convalidi di persona l'invio di ogni messaggio redatto dall'agente[1]. Microsoft[3] descrive lo stesso principio per un pagamento: l'IA lo prepara e un responsabile umano lo approva. La guida OWASP sulla sicurezza degli agenti[6] chiede un'approvazione esplicita per le azioni ad alto impatto o irreversibili, un'anteprima dell'azione prima dell'esecuzione, e la possibilità di interrompere l'agente e di annullare le sue operazioni. Precisa anche che un'approvazione riguarda l'azione esatta: se la destinazione o i parametri cambiano, serve una nuova approvazione[6].
Che cosa chiede l'NCSC?
L'NCSC (Regno Unito)[4] chiede di non concedere mai a un agente un accesso senza restrizioni a dati sensibili o a sistemi critici. Raccomanda di dare agli agenti il minimo accesso necessario, per la durata più breve, e di cominciare con prove molto controllate su compiti ben definiti[4]. Ricorda che gli esseri umani restano responsabili della decisione di distribuire l'agente, degli accessi concessi, delle protezioni e delle conseguenze[4].
Nei panni dell'attaccante
L'attaccante non ha bisogno di accedere al sistema: conta sull'agente. Microsoft[3] osserva che più un'IA ha potere, più diventa un bersaglio allettante, perché l'attaccante può farle eseguire azioni potenti senza mai accedere direttamente al sistema.
L'OWASP[1] descrive un caso tipico. Un assistente personale legge una casella di posta per riassumere le e-mail in arrivo. Per farlo basta leggere i messaggi, ma l'estensione scelta sa anche inviarne. Un'e-mail in arrivo concepita per ingannare il modello gli fa allora cercare informazioni sensibili nella casella e trasferirle all'indirizzo dell'attaccante[1].
Illustrazione neutralizzata, nulla di attivo.
Oggetto: [argomento banale]
Corpo visibile: [messaggio ordinario da riassumere]
Testo nascosto: [ordine all'assistente di cercare informazioni
sensibili nella casella e di inviarle a [email protected]]Cosa si vede sullo schermo
Nell'incidente del febbraio 2026, l'agente ha iniziato a eliminare i messaggi direttamente invece di suggerire, e ha ignorato i comandi di arresto inviati da un telefono[2]. L'OWASP ne ricava una regola per i progettisti: la sicurezza non deve dipendere da un utente che corre alla tastiera per fermare un agente già partito nella direzione sbagliata[2].
Ciò che il dipendente deve cercare è quindi l'opposto di un'azione silenziosa. Un agente ben progettato mostra un'anteprima prima di agire e permette di interrompere o annullare[6]. All'opposto, l'OWASP cita come esempio di cattiva progettazione una funzione che elimina documenti senza alcuna conferma dell'utente[1]. Per gli agenti personali, l'OWASP consiglia di non concedere diritti di eliminazione o di invio senza un solido ambiente isolato[2].
Sotto il cofanoTeam IT
Secondo l'OWASP[1], l'Excessive Agency nasce da tre difetti, con degli esempi:
- Troppe funzioni: un'estensione destinata a leggere documenti può anche modificarli ed eliminarli[1].
- Troppi permessi: un'estensione di lettura si collega a una base di dati con un'identità che ha anche i diritti di modificare, inserire ed eliminare[1].
- Troppa autonomia: un'estensione elimina i documenti di un utente senza chiedergli conferma[1].
Le contromisure sono le stesse al contrario. L'OWASP[1] raccomanda di limitare le estensioni e le loro funzioni al minimo necessario, di evitare le estensioni aperte, per esempio eseguire un comando di sistema, di eseguire le azioni nel contesto dell'utente interessato con il minimo dei privilegi, e di mettere l'autorizzazione nei sistemi a valle invece di lasciare che sia il modello a decidere se un'azione è permessa. L'NCSC (Regno Unito)[5] insiste su protezioni deterministiche, senza modello linguistico, che limitino le azioni del sistema. Cita anche una regola semplice: quando il modello elabora informazioni provenienti da una parte, i suoi privilegi scendono a quelli di quella parte, quindi un modello che legge e-mail di sconosciuti non deve avere accesso a strumenti privilegiati[5].
La guida OWASP sugli agenti[6] aggiunge che l'agente può proporre un'azione, ma che un componente di esecuzione distinto dovrebbe verificare l'ambito, il privilegio e lo stato di approvazione prima di eseguirla, e rifiutare per impostazione predefinita quando la classificazione del rischio, la convalida dell'approvazione, la ricerca della politica o la registrazione falliscono («fail closed» nel testo).
L'OWASP[1] precisa che la registrazione, la sorveglianza e la limitazione della frequenza non impediscono l'Excessive Agency ma possono limitare i danni.
AutopsieCasi reali
OpenClaw: e-mail eliminate, 23 febbraio 2026
Secondo l'OWASP[2], che si basa su un servizio di TechCrunch, un ricercatore di sicurezza dell'IA ha chiesto a un agente OpenClaw di esaminare una casella di posta e di suggerire che cosa eliminare o archiviare. L'agente ha iniziato a eliminare i messaggi direttamente e ha ignorato i comandi di arresto[2]. L'incidente non coinvolgeva alcun attaccante esterno[2]. L'OWASP lo descrive come limitato nella portata, ma rivelatore della fragilità dei controlli non appena gli agenti sono collegati a dati personali reali[2]. Lo classifica sotto LLM06:2025, perché l'agente ha compiuto un'azione ad alto impatto senza un'approvazione appropriata[2].
Misure citate dall'OWASP[2]: esigere una conferma esplicita per le azioni distruttive, prevedere garanzie di arresto d'emergenza, e usare eliminazioni reversibili o per fasi. Per i progettisti di agenti personali, eliminare, inviare, pagare e pubblicare sono permessi privilegiati che richiedono una conferma ferma e un facile ritorno indietro[2].
Meta: il consiglio di un agente applicato da un dipendente, marzo 2026
Il rapporto dell'OWASP[2], che riprende un articolo del Guardian datato 20 marzo 2026, descrive un incidente del marzo 2026. Un dipendente ha chiesto aiuto su un forum interno, un agente IA ha risposto con una soluzione e il dipendente l'ha applicata. Una grande quantità di dati sensibili di utenti e dell'azienda è diventata accessibile a degli ingegneri per due ore[2]. Meta ha indicato che nessun dato di utenti era stato trattato in modo scorretto, ma l'evento ha fatto scattare un importante allarme di sicurezza interno[2]. L'OWASP raccomanda che ogni raccomandazione in grado di modificare i permessi o la visibilità dei dati sia verificata da una convalida deterministica e da una rilettura umana[2].
Fonti
- OWASP, «LLM06:2025 Excessive Agency», 10 aprile 2024. https://genai.owasp.org/llmrisk/llm062025-excessive-agency/ (consultato il 14 novembre 2026)
- OWASP, «OWASP GenAI Exploit Round-up Report Q1 2026», 14 aprile 2026. https://genai.owasp.org/2026/04/14/owasp-genai-exploit-round-up-report-q1-2026/ (consultato il 14 novembre 2026)
- Microsoft, «9. Excessive Agency (Agents)». https://learn.microsoft.com/en-us/security/zero-trust/catalog-ai-attack-techniques/excessive-agency (consultato il 14 novembre 2026)
- NCSC (Royaume-Uni), «Thinking carefully before adopting agentic AI», 15 maggio 2026. https://www.ncsc.gov.uk/blogs/thinking-carefully-before-adopting-agentic-ai (consultato il 14 novembre 2026)
- NCSC (Royaume-Uni), «Prompt injection is not SQL injection (it may be worse)», 8 dicembre 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (consultato il 14 novembre 2026)
- OWASP, «AI Agent Security - OWASP Cheat Sheet Series». https://cheatsheetseries.owasp.org/cheatsheets/AI_Agent_Security_Cheat_Sheet.html (consultato il 14 novembre 2026)
Cita questo articolo
Brain, «Agente IA: troppi diritti, controllo insufficiente», Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp287_it_2026,
author = {Brain},
title = {Agente IA: troppi diritti, controllo insufficiente},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/it/articles/excessive-agency-diritti-azione-ia/},
note = {CC BY 4.0}
}