La IA que no veus no la pots governar
Per Xavier Franco, CEO de Elternativa · Grupo Zemsania
· 6 min de lectura
Redactat amb ajuda d’IA i revisat per Xavier Franco

En aquest article
Hi ha una pregunta que gairebé mai no té resposta ràpida en una empresa: quants agents d’IA hi ha avui a la teva? No els que vau aprovar, sinó tots. Els del CRM, els de l’ERP, els que algú va muntar amb una eina low-code, els que fa servir cada proveïdor i els que cada persona s’emporta de casa. A això se li diu shadow AI, i és el punt de partida real del govern de la IA.
Els teus equips ja fan servir IA, i moltes vegades la seva
No cal suposar-ho. El Work Trend Index 2024 de Microsoft i LinkedIn, amb una enquesta a 31.000 persones de 31 països, va trobar que el 75 % dels treballadors del coneixement ja fa servir IA a la feina. I que el 78 % dels qui la fan servir s’emporta les seves pròpies eines.
El mateix informe deixa una altra xifra que em sembla encara més reveladora: el 79 % dels directius creu que adoptar la IA és crític per continuar sent competitius, però el 60 % diu que la seva empresa no té una visió ni un pla per implantar-la.
És a dir: la IA ja ha entrat, per la porta del darrere, mentre l’empresa decideix per on vol que entri.
A la pràctica: pregunta a tres equips diferents quines eines d’IA fan servir en el dia a dia. Compara la resposta amb la llista d’eines aprovades.
Per què prohibir no funciona
La primera reacció sol ser prohibir. Ho entenc, però no funciona: si l’eina ajuda la gent a treballar millor, continuaran fent-la servir, només que sense dir-ho. I llavors perds just el que necessites: visibilitat.
El shadow AI no és només l’empleat amb el seu xatbot. En una empresa mitjana conviuen avui agents de proveïdors diferents, cadascun al seu sistema, sense un punt comú:
- els assistents que vénen dins del CRM, l’ERP o la plataforma de servei;
- els fluxos que algú va muntar amb una eina low-code;
- la IA que fa servir cada proveïdor de desenvolupament, cadascun a la seva manera;
- i el que cada persona fa servir pel seu compte.
El que fa cadascun queda, en el millor dels casos, en registres que només entén un especialista.
A la pràctica: no comencis per una política de prohibició. Comença per una pregunta: quina IA toca les nostres dades i qui l’hi ha posat?
Els tres riscos que de debò importen
Quan la IA no es veu, s’acumulen tres riscos que direcció acaba pagant:
- Dades. Informació sensible que surt cap a eines que ningú no ha revisat.
- Cost. El consum de models creix sense control, sense saber quin agent ni quin cas d’ús el dispara. La factura de la IA ja és una partida nova del pressupost, i ningú no sap què ha lliurat.
- Compliment. Sense traces ni evidències, demostrar que compleixes el Reglament europeu d’intel·ligència artificial és inviable.
Cap dels tres es resol amb una circular. Es resolen amb inventari, regles i evidència.
De l’ombra a l’inventari: com ho faria
La meva proposta és passar de prohibir a veure, controlar i demostrar, en aquest ordre:
- Inventari viu. Una llista de tots els teus sistemes d’IA, amb els seus agents, les bases de coneixement que fan servir i les integracions que toquen. Viva, perquè canvia cada setmana.
- Identitat per agent. Cada agent amb la seva pròpia clau, per saber qui fa què i evitar que un es faci passar per un altre.
- Regles que s’apliquen soles. Llindars de cost, de latència i de dades sensibles, amb un criteri senzill: primer avisar i, si cal, bloquejar.
- Evidència. Cada operació de cada agent queda registrada, per poder explicar què va passar i demostrar-ho davant de qui ho demani.
- Una vista per a direcció. Cost, risc i ús en un mateix quadre de comandament, per decidir amb dades.
I una cosa important: les regles han de ser deterministes. Si el control de la IA el fa una altra IA, no tens control: tens una altra opinió.
A la pràctica: tria l’àrea on es fa servir més IA (atenció al client, vendes o desenvolupament) i comença l’inventari per allà. Amb una àrea ben vista n’aprens més que amb una política per a tota l’empresa.
Què té a veure tot això amb l’AI Act
Molt més del que sembla. El Reglament europeu d’intel·ligència artificial ja està en marxa: segons el calendari oficial de la Comissió Europea, les prohibicions i l’obligació d’alfabetització en IA s’apliquen des del 2 de febrer de 2025, i l’aplicació general va arribar el 2 d’agost de 2026.
L’alfabetització en IA és just el que el shadow AI posa a prova. La Comissió aclareix en les seves preguntes i respostes que no exigeix un certificat, però sí una formació adaptada al paper de cada persona, i que convé documentar el que es fa. Remetre a les instruccions del fabricant no n’hi ha prou.
I com formaràs la gent en la IA que fa servir si no saps quina IA fa servir? L’inventari és el primer pas del compliment, no un extra. Sense saber quins sistemes tens, no pots classificar-ne el risc, ni formar qui els fa servir, ni demostrar res si t’ho demanen.
A la pràctica: creua el teu primer inventari d’IA amb les persones que fan servir cada eina. Aquesta llista és la base del teu pla d’alfabetització.
Per on començar
- Pregunta i escolta: quina IA es fa servir, en quins equips i per a què.
- Fes el primer inventari d’agents i integracions, encara que sigui incomplet.
- Defineix tres regles que no es negocien: quines dades no surten, quin cost dispara un avís i quin agent necessita aprovació.
- Connecta la telemetria dels agents que ja tens, sense canviar de proveïdor.
- Revisa cada mes l’inventari, el cost i els avisos amb direcció.
No cal que ho tinguis tot el primer dia. Cal que deixis de no veure-ho.
Com t’ajudem
A AI Governance t’ajudem a veure i governar la IA de la teva empresa: inventari viu d’agents, bases de coneixement i integracions, regles de cost, latència i dades sensibles, i l’evidència que demana el Reglament europeu d’intel·ligència artificial a partir de dades reals.
Ho fem amb Regentic.AI, del qual som distribuïdors exclusius a Europa. Es connecta amb estàndards oberts com OpenTelemetry, funciona sobre qualsevol framework i model, aplica les regles amb un motor determinista i emet informes d’evidència segellats.
Aquest article és informatiu i no substitueix l’assessorament jurídic de la teva organització.
Quants agents d’IA hi ha avui a la teva empresa?
T’ensenyem en una demo com Regentic.AI inventaria els teus agents, aplica regles de cost i de dades sensibles i deixa evidència del que fan.

