Der AI Act im Unternehmen: Was er verlangt und was zu tun ist

Seit dem 2. August 2026 gilt die europäische Verordnung über künstliche Intelligenz (AI Act), und die Behörden können sie bereits überwachen. Viele Unternehmen warten noch auf 2027, weil sie gelesen haben, sie sei „verschoben“ worden. Verschoben wurde nur ein Teil. Dieser Artikel erklärt, was heute gilt, was danach kommt und was eine Organisation tun muss, die KI nutzt oder entwickelt.

Was gilt und was verschoben wurde

Der AI Act (Verordnung (EU) 2024/1689) gilt stufenweise. Im Juli 2026 trat der sogenannte Digitale Omnibus zur KI (Verordnung (EU) 2026/1744) in Kraft, der die Pflichten für Hochrisiko-Systeme verschoben hat. Der übrige Zeitplan blieb unverändert:

• Seit dem 2. Februar 2025: verbotene Praktiken und Pflicht zur KI-Kompetenz.
• Seit dem 2. August 2025: Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, wie sie hinter GPT, Claude oder Gemini stehen, und Governance-Struktur.
• Seit dem 2. August 2026: allgemeine Anwendung, Aufsicht der Behörden und Transparenzpflichten.
• 2. Dezember 2026: eine neue verbotene Praktik (Erzeugung nicht einvernehmlicher sexueller Inhalte oder von Material über sexuellen Kindesmissbrauch) und Ende der Frist, KI-generierte Inhalte in bereits auf dem Markt befindlichen Systemen zu kennzeichnen.
• 2. Dezember 2027: Hochrisiko-Pflichten für die Anwendungen nach Anhang III, etwa Beschäftigung, Kredit, Lebens- und Krankenversicherung, Bildung oder kritische Infrastrukturen.
• 2. August 2028: Hochrisiko für KI, die in regulierte Produkte eingebettet ist (Anhang I).

Was den Alltag eines Unternehmens am meisten betrifft, ist bereits verpflichtend: was verboten ist, wer KI nutzt, zu schulen und Personen mitzuteilen, wenn sie mit einer KI sprechen.

Die erste Frage: Nutzen Sie die KI anderer oder nehmen Sie Ihre eigene in Betrieb?

Die Verordnung verteilt die Pflichten nach der Rolle, die die Organisation bei jedem System hat, und fast jedes Unternehmen hat beide:

• Sie sind Betreiber, wenn Sie in eigener Verantwortung ein KI-System eines Dritten nutzen: den Unternehmensassistenten, den Agenten, der mit Ihrem CRM kommt, das Werkzeug, das Lebensläufe vorsortiert.
• Sie sind Anbieter, wenn Sie ein System oder einen Agenten entwickeln oder entwickeln lassen und unter Ihrem Namen in Betrieb nehmen: den Kundenservice-Chatbot, den Ihr Team gebaut hat, oder einen internen Agenten auf Ihren Daten.

Es gibt eine wichtige Nuance (Artikel 25): Wenn Sie Ihren Namen oder Ihre Marke auf ein Hochrisiko-System eines anderen setzen, es wesentlich verändern oder seine Zweckbestimmung so ändern, dass es zum Hochrisiko-System wird, übernehmen Sie die Pflichten des Anbieters. Und einen Agenten auf einem Modell mit allgemeinem Verwendungszweck zu bauen, macht Sie nicht zum Anbieter des Modells, wohl aber des Systems, das Sie in Betrieb nehmen.

Was Sie bereits erfüllen müssen

Verbotene Praktiken

Seit Februar 2025 sind unter anderem verboten: Systeme, die Menschen schädlich manipulieren, Social Scoring, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (außer aus medizinischen oder Sicherheitsgründen) und biometrische Kategorisierung zur Ableitung sensibler Daten. Das ist der Verstoß mit den höchsten Bußgeldern.

In der Praxis: Prüfen Sie, dass keine Anwendung, eigene oder die eines Anbieters, in diese Kategorien fällt.

KI-Kompetenz

Artikel 4 verpflichtet Anbieter und Betreiber, Maßnahmen zu ergreifen, damit ihr Personal und alle, die in ihrem Namen KI nutzen, über ein ausreichendes Maß an Kenntnissen verfügen. Die Kommission hat klargestellt, dass weder ein Zertifikat noch ein bestimmtes Niveau nötig ist. Nötig ist eine Schulung, die auf die Rolle jeder Person und das Risiko der genutzten Systeme abgestimmt ist, und es empfiehlt sich, das Getane zu dokumentieren. Das Personal auf die Gebrauchsanweisung zu verweisen, genügt in der Regel nicht.

In der Praxis: ein Schulungsprogramm nach Profilen (wer einen Assistenten nutzt, wer mit Hilfe eines Systems entscheidet, wer es baut) und ein Nachweis, wer es erhalten hat. Wenn ein Anbieter für Sie KI einsetzt, nehmen Sie es in seinen Vertrag auf.

Transparenz

Seit dem 2. August 2026 verlangt Artikel 50:

• dass, wer mit einem Chatbot oder Agenten spricht, weiß, dass es eine KI ist, es sei denn, es ist offensichtlich;
• dass Anbieter generativer KI die von ihnen erzeugten Inhalte so kennzeichnen, dass sie erkennbar sind;
• dass, wer Deepfakes veröffentlicht, angibt, dass der Inhalt künstlich ist, und dass, wer KI-generierte Texte zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht, dies ebenfalls angibt, es sei denn, eine Person hat sie geprüft und übernimmt die redaktionelle Verantwortung.

Im Juni 2026 veröffentlichte die Kommission einen freiwilligen Verhaltenskodex dazu, wie KI-generierte Inhalte zu kennzeichnen sind, mit einem gemeinsamen europäischen Symbol.

In der Praxis: Prüfen Sie Ihre kundennahen Chatbots und Agenten, Ihre Kampagnen und die mit KI erzeugten Inhalte, die Sie veröffentlichen.

Wenn eines Ihrer Systeme Hochrisiko ist

Das Hochrisiko nach Anhang III kommt am 2. Dezember 2027, und das ist nicht viel Zeit: Man muss wissen, welche Systeme es sind, die Aufsichtspersonen vorbereiten und die Protokolle in Ordnung haben. In einem Unternehmen sind die häufigsten Fälle die Auswahl und Bewertung von Personen, die Kreditvergabe und die Preisfestsetzung bei Lebens- und Krankenversicherungen. Im Mai 2026 veröffentlichte die Kommission einen Entwurf von Leitlinien mit Beispielen dafür, was Hochrisiko ist und was nicht.

Wenn Sie ein Hochrisiko-System eines Dritten nutzen, verlangt Artikel 26 von Ihnen:

• es gemäß der Anleitung des Anbieters zu verwenden;
• die menschliche Aufsicht Personen zu übertragen, die Kompetenz, Schulung und Befugnis haben, es zu stoppen;
• wenn Sie die Eingabedaten kontrollieren, dass sie relevant und repräsentativ sind;
• seinen Betrieb zu überwachen, den Anbieter über Risiken und schwerwiegende Vorfälle zu informieren und die Nutzung bei Risiko auszusetzen;
• die von ihm erzeugten Protokolle mindestens sechs Monate aufzubewahren;
• die Beschäftigten und ihre Vertreter zu informieren, bevor es am Arbeitsplatz eingesetzt wird, sowie die Personen, über die es entscheidet oder bei deren Entscheidung es hilft.

Öffentliche Stellen, Unternehmen, die öffentliche Dienste erbringen, und wer KI zur Bewertung der Kreditwürdigkeit oder zur Preisfestsetzung bei Lebens- und Krankenversicherungen einsetzt, müssen vor der Nutzung außerdem eine Grundrechte-Folgenabschätzung durchführen (Artikel 27).

Wenn Sie Anbieter eines Hochrisiko-Systems sind, kommen Risikomanagement, Datenqualität, technische Dokumentation, automatische Ereignisprotokollierung, Transparenz gegenüber den Nutzern, Gestaltung für menschliche Aufsicht, Genauigkeit und Robustheit (Artikel 9 bis 15), ein Qualitätsmanagementsystem und die Konformitätsbewertung hinzu.

Was auf dem Spiel steht

Die Höchstbußgelder betragen:

• 35 Millionen Euro oder 7 % des weltweiten Umsatzes bei verbotenen Praktiken;
• 15 Millionen oder 3 % bei Verstößen gegen die übrigen Pflichten, einschließlich der Transparenzpflichten und der des Betreibers;
• 7,5 Millionen oder 1 % für falsche Angaben gegenüber den Behörden.

Es gilt der höhere Betrag, außer für KMU und kleine Unternehmen mit mittlerer Marktkapitalisierung, für die der niedrigere gilt. In Spanien übt die Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) die Aufsicht aus, und der Entwurf des Organgesetzes für den guten Gebrauch und die Governance der KI, der die Sanktionsregelung konkretisiert, ist in den Cortes in Beratung.

Wo beginnen: ein Plan in sechs Schritten

1. Erstellen Sie das Inventar. Listen Sie alle KI-Systeme und Agenten der Organisation auf: die eigenen, die von Anbietern und die, die in den Werkzeugen stecken, die Sie bereits nutzen (CRM, Office, Kundenservice). Für jedes: wofür es dient, wer verantwortlich ist, welche Daten es nutzt und wer der Anbieter ist. Ohne Inventar lässt sich nichts einstufen.
2. Stufen Sie jedes System nach Risiko und Rolle ein, mit Ihrer Rechtsberatung, und halten Sie die Begründung schriftlich fest.
3. Beseitigen Sie, was verboten ist. Es ist bereits sanktionierbar.
4. Schulen Sie die Personen entsprechend ihrer Rolle und führen Sie den Nachweis.
5. Erfüllen Sie die Transparenz bei Chatbots, Agenten und generierten Inhalten.
6. Bereiten Sie das Hochrisiko vor: benennen Sie, wer jedes System beaufsichtigt, stellen Sie sicher, dass die Protokolle aufbewahrt werden, und legen Sie fest, wie Vorfälle erkannt und gemeldet werden.

Der AI Act ist nicht nur eine Sache der IT: Er betrifft die Geschäftsleitung, Recht oder Datenschutz, IT und Personalwesen.

Das eigentliche Problem: es nachweisen zu können

Erfüllen heißt nicht nur tun: Es heißt, es nachweisen zu können, wenn eine Behörde, ein Kunde oder ein Prüfer danach fragt. Und hier liegt die Schwierigkeit. Unternehmen haben nicht mehr ein KI-System: Sie haben Dutzende von Agenten verschiedener Anbieter, jeder mit eigenen Protokollen. Mit einem Inventar in einer Tabelle und von Hand erstellten Dokumenten veraltet das Inventar, die Protokolle sind verstreut und die menschliche Aufsicht ist nicht nachvollziehbar.

Der nachhaltige Weg ist, den Nachweis aus dem zu gewinnen, was die Systeme ohnehin tun: welcher Agent gehandelt hat, mit welchen Daten, mit welchem Modell, was es gekostet hat und wer es genehmigt hat.

Wie wir helfen

Wir tun es mit unserem Service AI Governance, auf Regentic.AI, der Plattform für Observability und Governance von KI-Agenten, deren exklusiver Distributor in Europa Zemsania ist:

• Lebendes Inventar von Agenten, Wissensbasen und Integrationen, eigenen und fremden, verbunden ohne sie umzuschreiben über OpenTelemetry, MCP, REST oder A2A.
• Deterministische Regeln für Kosten, Latenz, Fehler und sensible Daten: erst warnen, dann blockieren.
• Richtlinien und Freigaben, wo eine Person entscheiden muss, mit nachvollziehbarer Aufsicht.
• AI-Act-Nachweise aus den realen Daten, mit versiegelten Berichten, in natürlicher Sprache erklärt für die Geschäftsleitung und die Datenschutzbeauftragte.

Wir beginnen mit einer Bestandsaufnahme Ihrer Agenten, verbinden und beobachten sie und steuern danach. Die Plattform liefert den Nachweis; die Risikoeinstufung erklärt Ihre Organisation.

Dieser Artikel dient der Information und ersetzt nicht die Rechtsberatung Ihrer Organisation.