La crescita degli agenti di intelligenza artificiale sta cambiando profondamente il modo in cui le aziende devono affrontare governance, sicurezza e resilienza. Secondo Dave Russell, Senior Vice President e Head of Strategy di Veeam Software, definire policy e autorizzazioni non basta più: per governare realmente l’AI bisogna sapere dove opera, quali dati utilizza, quali azioni esegue e quali conseguenze produce nei sistemi aziendali.
Il dato più significativo riguarda il divario tra adozione e capacità di monitoraggio. L’88% delle organizzazioni utilizza già agenti AI oppure ne sta sperimentando l’adozione, ma soltanto il 28% dichiara di riuscire a identificare con certezza sistemi AI che operano fuori dai parametri autorizzati. Un divario destinato a diventare più importante man mano che questi strumenti acquisiscono maggiore autonomia.
La differenza rispetto alle precedenti generazioni di strumenti intelligenti è nella capacità di agire direttamente. Gli agenti possono accedere ai dati, interagire con applicazioni, modificare sistemi e prendere decisioni con una supervisione umana sempre più ridotta. Una persona può autorizzarne l’introduzione, ma questo non significa essere automaticamente in grado di seguirne ogni comportamento una volta che il sistema entra in produzione.