AI Governance

Die KI, die Sie nicht sehen, können Sie nicht steuern

Von Xavier Franco, CEO de Elternativa · Grupo Zemsania
· 6 Min. Lesezeit

Mit Unterstützung von KI verfasst und von Xavier Franco geprüft

Schatten mehrerer Personen, die auf ihr Handy schauen, an eine weiße Wand geworfen, ohne dass jemand zu sehen ist.
In diesem Artikel

Es gibt eine Frage, auf die man in einem Unternehmen fast nie schnell eine Antwort hat: Wie viele KI-Agenten gibt es heute in Ihrem? Nicht die, die Sie genehmigt haben, sondern alle. Die im CRM, die im ERP, die, die jemand mit einem Low-Code-Werkzeug gebaut hat, die, die jeder Lieferant einsetzt, und die, die jede Person von zu Hause mitbringt. Das nennt man Schatten-KI, und sie ist der eigentliche Ausgangspunkt der KI-Governance.

Ihre Teams nutzen schon KI, und oft ihre eigene

Man muss nicht raten. Der Work Trend Index 2024 von Microsoft und LinkedIn, auf Grundlage einer Umfrage unter 31.000 Menschen in 31 Ländern, ergab, dass 75 % der Wissensarbeiter bereits KI bei der Arbeit nutzen. Und dass 78 % derjenigen, die sie nutzen, ihre eigenen Werkzeuge mitbringen.

Derselbe Bericht enthält eine weitere Zahl, die ich noch aufschlussreicher finde: 79 % der Führungskräfte halten die Einführung von KI für entscheidend, um wettbewerbsfähig zu bleiben, aber 60 % sagen, dass ihr Unternehmen weder eine Vision noch einen Plan dafür hat.

Mit anderen Worten: Die KI ist längst durch die Hintertür hereingekommen, während das Unternehmen noch entscheidet, wo sie hereinkommen soll.

In der Praxis: Fragen Sie drei verschiedene Teams, welche KI-Werkzeuge sie im Alltag nutzen. Vergleichen Sie die Antwort mit der Liste der genehmigten Werkzeuge.

Warum Verbieten nicht funktioniert

Die erste Reaktion ist meist ein Verbot. Ich verstehe das, aber es funktioniert nicht: Wenn das Werkzeug den Leuten hilft, besser zu arbeiten, nutzen sie es weiter, nur ohne es zu sagen. Und dann verlieren Sie genau das, was Sie brauchen: Transparenz.

Schatten-KI ist nicht nur der Mitarbeiter mit seinem Chatbot. In einem durchschnittlichen Unternehmen leben heute Agenten verschiedener Anbieter nebeneinander, jeder in seinem eigenen System, ohne gemeinsamen Punkt:

  • die Assistenten, die in CRM, ERP oder der Service-Plattform stecken;
  • die Abläufe, die jemand mit einem Low-Code-Werkzeug gebaut hat;
  • die KI, die jeder Entwicklungsanbieter einsetzt, jeder auf seine Weise;
  • und das, was jede Person auf eigene Faust nutzt.

Was jeder davon tut, landet im besten Fall in Protokollen, die nur ein Spezialist versteht.

In der Praxis: Beginnen Sie nicht mit einer Verbotsrichtlinie. Beginnen Sie mit einer Frage: Welche KI berührt unsere Daten, und wer hat sie dorthin gebracht?

Die drei Risiken, die wirklich zählen

Wenn man die KI nicht sieht, häufen sich drei Risiken an, die am Ende die Geschäftsleitung bezahlt:

  • Daten. Sensible Informationen, die in Werkzeuge abfließen, die niemand geprüft hat.
  • Kosten. Der Verbrauch an Modellen wächst unkontrolliert, ohne zu wissen, welcher Agent oder welcher Anwendungsfall ihn auslöst. Die KI-Rechnung ist längst ein neuer Posten im Budget, und niemand weiß, was sie geliefert hat.
  • Regelkonformität. Ohne Spuren und Nachweise ist es nicht möglich, die Einhaltung der KI-Verordnung der EU zu belegen.

Keines der drei löst man mit einem Rundschreiben. Man löst sie mit Inventar, Regeln und Nachweisen.

Vom Schatten zum Inventar: Wie ich es angehen würde

Mein Vorschlag ist, vom Verbieten zum Sehen, Kontrollieren und Nachweisen überzugehen, in dieser Reihenfolge:

  1. Lebendiges Inventar. Eine Liste aller Ihrer KI-Systeme, mit ihren Agenten, den genutzten Wissensdatenbanken und den berührten Integrationen. Lebendig, weil sie sich jede Woche ändert.
  2. Identität pro Agent. Jeder Agent mit seinem eigenen Schlüssel, um zu wissen, wer was tut, und zu verhindern, dass sich einer als ein anderer ausgibt.
  3. Regeln, die sich von selbst anwenden. Schwellenwerte für Kosten, Latenz und sensible Daten, mit einem einfachen Prinzip: erst warnen und, wenn nötig, blockieren.
  4. Nachweise. Jede Operation jedes Agenten wird aufgezeichnet, damit man erklären kann, was passiert ist, und es gegenüber jedem belegen kann, der danach fragt.
  5. Eine Sicht für die Geschäftsleitung. Kosten, Risiko und Nutzung in einem Dashboard, um datenbasiert zu entscheiden.

Und etwas Wichtiges: Die Regeln müssen deterministisch sein. Wenn die Kontrolle der KI von einer anderen KI übernommen wird, haben Sie keine Kontrolle: Sie haben eine weitere Meinung.

In der Praxis: Wählen Sie den Bereich, in dem am meisten KI genutzt wird (Kundenservice, Vertrieb oder Entwicklung), und beginnen Sie dort mit dem Inventar. Mit einem gut durchleuchteten Bereich lernen Sie mehr als mit einer Richtlinie für das ganze Unternehmen.

Was das alles mit dem AI Act zu tun hat

Viel mehr, als es scheint. Die KI-Verordnung der EU ist bereits in Kraft: Laut dem offiziellen Zeitplan der Europäischen Kommission gelten die Verbote und die Pflicht zur KI-Kompetenz seit dem 2. Februar 2025, und die allgemeine Anwendung begann am 2. August 2026.

KI-Kompetenz ist genau das, was die Schatten-KI auf die Probe stellt. Die Kommission stellt in ihren Fragen und Antworten klar, dass sie kein Zertifikat verlangt, wohl aber eine Schulung, die auf die Rolle jeder Person zugeschnitten ist, und dass es ratsam ist, das Getane zu dokumentieren. Der Verweis auf die Anleitung des Herstellers genügt nicht.

Und wie wollen Sie Menschen in der KI schulen, die sie nutzen, wenn Sie nicht wissen, welche KI sie nutzen? Das Inventar ist der erste Schritt der Regelkonformität, kein Extra. Ohne zu wissen, welche Systeme Sie haben, können Sie weder ihr Risiko einstufen noch die Nutzer schulen noch etwas belegen, wenn man Sie danach fragt.

In der Praxis: Gleichen Sie Ihr erstes KI-Inventar mit den Personen ab, die jedes Werkzeug nutzen. Diese Liste ist die Grundlage Ihres Plans zur KI-Kompetenz.

Wo Sie anfangen

  1. Fragen und zuhören: welche KI genutzt wird, in welchen Teams und wofür.
  2. Das erste Inventar erstellen von Agenten und Integrationen, auch wenn es unvollständig ist.
  3. Drei Regeln festlegen, die nicht verhandelbar sind: welche Daten nicht abfließen, welche Kosten eine Warnung auslösen und welcher Agent eine Genehmigung braucht.
  4. Die Telemetrie anbinden der Agenten, die Sie schon haben, ohne den Anbieter zu wechseln.
  5. Jeden Monat prüfen: Inventar, Kosten und Warnungen mit der Geschäftsleitung.

Sie müssen nicht am ersten Tag alles haben. Sie müssen aufhören, es nicht zu sehen.

Wie wir Ihnen helfen

Bei AI Governance helfen wir Ihnen, die KI Ihres Unternehmens zu sehen und zu steuern: lebendiges Inventar von Agenten, Wissensdatenbanken und Integrationen, Regeln für Kosten, Latenz und sensible Daten sowie die Nachweise, die die KI-Verordnung der EU verlangt, auf Grundlage realer Daten.

Wir tun das mit Regentic.AI, dessen exklusive Distributoren in Europa wir sind. Es verbindet sich über offene Standards wie OpenTelemetry, läuft auf jedem Framework und Modell, wendet die Regeln mit einer deterministischen Engine an und erstellt versiegelte Nachweisberichte.

Dieser Artikel dient der Information und ersetzt nicht die Rechtsberatung Ihrer Organisation.

Häufige Fragen

Was ist Schatten-KI?

Es ist die Nutzung von KI-Werkzeugen und -Agenten in einem Unternehmen, ohne dass die Organisation davon weiß oder sie genehmigt hat, vom persönlichen Assistenten eines Mitarbeiters bis zu Agenten, die in anderen Anwendungen stecken.

Warum ist Schatten-KI ein Risiko?

Weil sie sensible Daten unkontrolliert abfließen lassen, die KI-Kosten ohne erkennbaren Grund in die Höhe treiben und den Nachweis der Regelkonformität unmöglich machen kann.

Muss man KI verbieten, um Schatten-KI zu vermeiden?

Das funktioniert meist nicht. Wirksamer ist es, Transparenz zu schaffen: erfassen, was genutzt wird, klare Regeln aufstellen und genehmigte Alternativen anbieten.

Was ist ein Inventar von KI-Systemen?

Eine lebendige Liste der KI-Agenten und -Systeme des Unternehmens, mit dem, was sie nutzen und was sie berühren, und die Grundlage für Kontrolle und Regelkonformität.

Weiterlesen