Gli LLM portano in azienda nuove categorie di rischio: prompt injection, esfiltrazione di dati via output, jailbreak che aggirano i guardrail. Trattarli come API tradizionali non basta: serve un threat model specifico e controlli compensativi.
Le difese pratiche
Validazione e sanitizzazione dell'input, filtri di output, monitoraggio degli abuse pattern, separazione netta tra dati e istruzioni, sandbox di esecuzione per le tool call.
Il principio guida
L'LLM è untrusted by default. Tutto ciò che esce dal modello va validato prima di tornare in produzione, soprattutto se attiva azioni nel mondo reale.
FAQ
Con red teaming dedicato: scenari di prompt injection, jailbreak, data exfiltration ed escalation di privilegi via tool.
OWASP LLM Top 10 è il riferimento più maturo. Vanno usati insieme alle best practice di application security tradizionali.
Dipende dal rischio. On-prem riduce l'esposizione dei dati, cloud accelera l'innovazione. Spesso convivono per casi d'uso diversi.
