AI Governance

L’IA che non si vede non si può governare

Di Xavier Franco, CEO de Elternativa · Grupo Zemsania
· 6 min di lettura

Redatto con l’aiuto dell’IA e rivisto da Xavier Franco

Ombre di diverse persone che guardano il cellulare, proiettate su una parete bianca, senza che si veda nessuno.
In questo articolo

C’è una domanda che in un’azienda quasi mai ha una risposta rapida: quanti agenti di IA ci sono oggi nella sua? Non quelli che avete approvato, ma tutti. Quelli del CRM, quelli dell’ERP, quelli che qualcuno ha messo in piedi con uno strumento low-code, quelli che usa ogni fornitore e quelli che ogni persona si porta da casa. Questa si chiama shadow AI, ed è il vero punto di partenza del governo dell’IA.

I suoi team usano già l’IA, e spesso la propria

Non serve supporlo. Il Work Trend Index 2024 di Microsoft e LinkedIn, con un sondaggio su 31.000 persone in 31 paesi, ha rilevato che il 75 % dei lavoratori della conoscenza usa già l’IA al lavoro. E che il 78 % di chi la usa porta con sé i propri strumenti.

Lo stesso rapporto riporta un’altra cifra che mi sembra ancora più rivelatrice: il 79 % dei dirigenti ritiene che adottare l’IA sia fondamentale per restare competitivi, ma il 60 % dichiara che la propria azienda non ha una visione né un piano per introdurla.

In altre parole: l’IA è già entrata, dalla porta di servizio, mentre l’azienda decide da dove vuole che entri.

In pratica: chieda a tre team diversi quali strumenti di IA usano ogni giorno. Confronti la risposta con l’elenco degli strumenti approvati.

Perché vietare non funziona

La prima reazione è di solito vietare. Lo capisco, ma non funziona: se lo strumento aiuta le persone a lavorare meglio, continueranno a usarlo, solo senza dirlo. E allora perde proprio ciò che le serve: la visibilità.

La shadow AI non è solo il dipendente con il suo chatbot. In un’azienda media convivono oggi agenti di fornitori diversi, ciascuno nel proprio sistema, senza un punto in comune:

  • gli assistenti che arrivano dentro il CRM, l’ERP o la piattaforma di assistenza;
  • i flussi che qualcuno ha costruito con uno strumento low-code;
  • l’IA che usa ogni fornitore di sviluppo, ciascuno a modo suo;
  • e ciò che ogni persona usa per conto proprio.

Ciò che fa ciascuno resta, nel migliore dei casi, in log che solo uno specialista capisce.

In pratica: non cominci con una politica di divieto. Cominci con una domanda: quale IA tocca i nostri dati e chi l’ha messa lì?

I tre rischi che contano davvero

Quando l’IA non si vede, si accumulano tre rischi che alla fine paga la direzione:

  • Dati. Informazioni sensibili che escono verso strumenti che nessuno ha esaminato.
  • Costo. Il consumo di modelli cresce senza controllo, senza sapere quale agente né quale caso d’uso lo scateni. La fattura dell’IA è ormai una nuova voce di budget, e nessuno sa che cosa abbia prodotto.
  • Conformità. Senza tracce né evidenze, dimostrare di rispettare il Regolamento europeo sull’intelligenza artificiale è impraticabile.

Nessuno dei tre si risolve con una circolare. Si risolvono con inventario, regole ed evidenza.

Dall’ombra all’inventario: come lo farei

La mia proposta è passare dal vietare a vedere, controllare e dimostrare, in quest’ordine:

  1. Inventario vivo. Un elenco di tutti i suoi sistemi di IA, con i loro agenti, le basi di conoscenza che usano e le integrazioni che toccano. Vivo, perché cambia ogni settimana.
  2. Identità per agente. Ogni agente con la propria chiave, per sapere chi fa che cosa ed evitare che uno si spacci per un altro.
  3. Regole che si applicano da sole. Soglie di costo, di latenza e di dati sensibili, con un criterio semplice: prima avvisare e, se serve, bloccare.
  4. Evidenza. Ogni operazione di ogni agente viene registrata, per poter spiegare che cosa è successo e dimostrarlo a chi lo chieda.
  5. Una vista per la direzione. Costo, rischio e uso in un unico cruscotto, per decidere con i dati.

E una cosa importante: le regole devono essere deterministiche. Se il controllo dell’IA lo fa un’altra IA, non ha controllo: ha un’altra opinione.

In pratica: scelga l’area dove si usa più IA (assistenza clienti, vendite o sviluppo) e cominci da lì l’inventario. Con un’area vista bene si impara più che con una politica per tutta l’azienda.

Che cosa c’entra tutto questo con l’AI Act

Molto più di quanto sembri. Il Regolamento europeo sull’intelligenza artificiale è già in marcia: secondo il calendario ufficiale della Commissione europea, i divieti e l’obbligo di alfabetizzazione in materia di IA si applicano dal 2 febbraio 2025, e l’applicazione generale è arrivata il 2 agosto 2026.

L’alfabetizzazione in materia di IA è proprio ciò che la shadow AI mette alla prova. La Commissione chiarisce nelle sue domande e risposte che non richiede un certificato, ma sì una formazione adeguata al ruolo di ciascuno, e che conviene documentare ciò che si fa. Rimandare alle istruzioni del fabbricante non basta.

E come formerà le persone sull’IA che usano, se non sa quale IA usano? L’inventario è il primo passo della conformità, non un extra. Senza sapere quali sistemi ha, non può classificarne il rischio, né formare chi li usa, né dimostrare nulla se glielo chiedono.

In pratica: incroci il suo primo inventario di IA con le persone che usano ogni strumento. Quell’elenco è la base del suo piano di alfabetizzazione.

Da dove cominciare

  1. Chieda e ascolti: quale IA si usa, in quali team e per che cosa.
  2. Faccia il primo inventario di agenti e integrazioni, anche se incompleto.
  3. Definisca tre regole non negoziabili: quali dati non escono, quale costo fa scattare un avviso e quale agente ha bisogno di approvazione.
  4. Colleghi la telemetria degli agenti che ha già, senza cambiare fornitore.
  5. Riveda ogni mese inventario, costo e avvisi con la direzione.

Non serve avere tutto il primo giorno. Serve smettere di non vederlo.

Come La aiutiamo

In AI Governance La aiutiamo a vedere e governare l’IA della sua azienda: inventario vivo di agenti, basi di conoscenza e integrazioni, regole di costo, latenza e dati sensibili, e l’evidenza che richiede il Regolamento europeo sull’intelligenza artificiale a partire da dati reali.

Lo facciamo con Regentic.AI, di cui siamo distributori esclusivi in Europa. Si collega con standard aperti come OpenTelemetry, funziona su qualsiasi framework e modello, applica le regole con un motore deterministico ed emette report di evidenza sigillati.

Questo articolo ha carattere informativo e non sostituisce la consulenza legale della sua organizzazione.

Domande frequenti

Che cos’è la shadow AI?

È l’uso di strumenti e agenti di IA all’interno di un’azienda senza che l’organizzazione lo sappia o lo abbia approvato, dall’assistente personale di un dipendente agli agenti che arrivano dentro altre applicazioni.

Perché la shadow AI è un rischio?

Perché può far uscire dati sensibili fuori controllo, far lievitare il costo dell’IA senza sapere perché e rendere impossibile dimostrare la conformità normativa.

Bisogna vietare l’IA per evitare la shadow AI?

Di solito non funziona. È più efficace dare visibilità: inventariare ciò che si usa, porre regole chiare e offrire alternative approvate.

Che cos’è un inventario dei sistemi di IA?

Un elenco vivo degli agenti e dei sistemi di IA dell’azienda, con ciò che usano e ciò che toccano, che serve da base per il controllo e la conformità.

Continui a leggere