KI-Verordnung: Was Unternehmen als Betreiber von KI jetzt tun müssen

Kurz gesagt: Wer im Unternehmen KI nutzt, ist „Betreiber“. Für Betreiber gilt seit dem 2. Februar 2025 die Pflicht, für KI-Kompetenz der Beschäftigten zu sorgen, und das Verbot bestimmter Praktiken. Seit dem 2. August 2026 kommen Transparenzpflichten dazu. Strenge Pflichten für Hochrisiko-KI, etwa bei der Bewerberauswahl, gelten erst ab dem 2. Dezember 2027. Die DSGVO gilt zusätzlich.

Die KI-Verordnung ist die Verordnung (EU) 2024/1689 vom 13. Juni 2024, auf Englisch „AI Act“. Als EU-Verordnung gilt sie in allen Mitgliedstaaten unmittelbar, ohne dass Deutschland sie in ein eigenes Gesetz übertragen muss. Sie ordnet KI-Systeme nach ihrem Risiko: Je größer die Gefahr für Gesundheit, Sicherheit und Grundrechte, desto strenger die Regeln.

Die meisten Pflichten treffen die Anbieter, also die Firmen, die KI-Systeme entwickeln und auf den Markt bringen. Unternehmen, die KI nur einsetzen, sind Betreiber und haben weniger, aber durchaus konkrete Pflichten. Um die geht es auf dieser Seite.

Im Juli 2026 hat die EU die Verordnung zum ersten Mal geändert: Die Verordnung (EU) 2026/1744, der sogenannte Digital Omnibus zur KI, ist seit dem 27. Juli 2026 in Kraft. Sie verschiebt die Hochrisiko-Regeln und formuliert die Schulungspflicht neu. Viele Texte im Netz sind deshalb nicht mehr aktuell.

Die KI-Verordnung ist am 1. August 2024 in Kraft getreten, ihre Pflichten gelten gestaffelt (Art. 113, geändert durch die Verordnung (EU) 2026/1744). Die Termine im Überblick:

1. 1. August 2024
   Inkrafttreten

   Die KI-Verordnung tritt 20 Tage nach der Veröffentlichung im Amtsblatt in Kraft (Art. 113). Anwendbar sind ihre Pflichten erst schrittweise.

2. 2. Februar 2025
   Verbote und KI-Kompetenz

   Die verbotenen Praktiken nach Art. 5 und die Pflicht zur KI-Kompetenz nach Art. 4 gelten, auch für Betreiber.

3. 2. August 2025
   KI-Modelle mit allgemeinem Verwendungszweck, Behörden, Sanktionen

   Pflichten für Anbieter von Modellen wie denen hinter ChatGPT oder Gemini (Kapitel V), Aufbau der Aufsicht und die Bußgeldvorschriften (Art. 99).

4. 27. Juli 2026
   Digital Omnibus in Kraft

   Die Änderungsverordnung (EU) 2026/1744 verschiebt die Hochrisiko-Regeln und fasst Art. 4 neu.

5. 29. Juli 2026
   Deutsches Durchführungsgesetz

   Das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) tritt in Kraft, die Bundesnetzagentur wird zentrale Aufsicht.

6. 2. August 2026
   Allgemeiner Geltungsbeginn

   Die Transparenzpflichten nach Art. 50 gelten. Nationale Behörden setzen die KI-Kompetenz laut EU-Kommission ab jetzt durch.

7. 2. Dezember 2026
   Neue Verbote, Ende der Übergangsfrist

   Laut EU-Kommission greifen die zwei neuen Verbote aus dem Omnibus (siehe Abschnitt 07). Für KI-Systeme, die schon vor dem 2. August 2026 im Verkehr waren, endet die viermonatige Frist zur maschinenlesbaren Kennzeichnung nach Art. 50 Abs. 2.

8. 2. August 2027
   Altbestand bei KI-Modellen

   KI-Modelle mit allgemeinem Verwendungszweck, die vor dem 2. August 2025 auf dem Markt waren, müssen die Pflichten erfüllen (Art. 111 Abs. 3).

9. 2. Dezember 2027
   Hochrisiko-KI nach Anhang III

   Zum Beispiel Bewerberauswahl, Beförderung, Kreditwürdigkeit, Bildung. Ursprünglich war der 2. August 2026 vorgesehen.

10. 2. August 2028
    Hochrisiko-KI in Produkten nach Anhang I

    KI als Sicherheitsbauteil in Produkten wie Aufzügen, Spielzeug oder Medizinprodukten. Ursprünglich 2. August 2027.

Die Verschiebung betrifft nur die Hochrisiko-Regeln. KI-Kompetenz, Verbote und Transparenzpflichten gelten unverändert. Ob Hochrisiko-Pflichten bei Ihnen überhaupt eine Rolle spielen, lesen Sie in Abschnitt 07.

Die Verordnung selbst gilt direkt. Wer sie in Deutschland überwacht, regelt das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG), das am 29. Juli 2026 in Kraft getreten ist.

• Die Bundesnetzagentur ist zentrale Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle, soweit keine Fachbehörde zuständig ist.
• Die BaFin ist für KI-Systeme zuständig, die in direktem Zusammenhang mit regulierten Finanztätigkeiten stehen.
• Für Fragen der Umsetzung bietet die Bundesnetzagentur einen KI-Service Desk mit Informationen und Online-Hilfen zur Risikoeinstufung an.

Für den Datenschutz bleiben die Datenschutzaufsichtsbehörden der Länder und der Bundesbeauftragte zuständig. Sie haben es als Unternehmen also mit zwei Regelwerken und zwei Arten von Aufsicht zu tun.

Die Verordnung spricht nicht wörtlich von „Risikoklassen“, ordnet KI aber in vier Stufen, die auch die EU-Kommission so beschreibt:

Getrennt davon regelt die Verordnung KI-Modelle mit allgemeinem Verwendungszweck (Art. 51 ff.), also die großen Sprachmodelle. Diese Pflichten treffen deren Anbieter, nicht Sie als Nutzer. Für die meisten Werkzeuge im Büroalltag gilt: minimales Risiko oder Transparenzrisiko. Die Einstufung hängt aber vom Einsatzzweck ab, nicht vom Werkzeug. Derselbe Chatbot, der E-Mails formuliert, kann hochriskant eingesetzt werden, wenn er Bewerbungen vorsortiert.

Betreiber ist nach Art. 3 Nr. 4 jede natürliche oder juristische Person, Behörde oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, außer bei rein persönlicher, nicht beruflicher Nutzung. Die Verordnung gilt für Betreiber, die in der EU niedergelassen sind oder sich dort befinden (Art. 2 Abs. 1 Buchst. b).

• Die Kanzlei, deren Mitarbeitende Schriftsätze mit einem KI-Assistenten vorformulieren, ist Betreiber.
• Die Praxis, die Arztbriefe mit KI-Spracherkennung diktiert, ist Betreiber.
• Der Handwerksbetrieb, der Angebote mit ChatGPT schreibt, ist Betreiber, auch mit einem kostenlosen Konto, sobald es beruflich genutzt wird.

Vorsicht bei eigenen Anpassungen: Wer ein Hochrisiko-System unter eigenem Namen vertreibt, es wesentlich verändert oder den Zweck eines gewöhnlichen KI-Systems so ändert, dass es hochriskant wird, gilt nach Art. 25 Abs. 1 selbst als Anbieter, mit allen Pflichten. Ein Beispiel ist ein allgemeiner Chatbot, den ein Betrieb gezielt zur Vorauswahl von Bewerbungen einsetzt.

Art. 4 ist die Pflicht, die fast jedes Unternehmen betrifft, denn sie gilt für alle Betreiber, unabhängig vom Risiko des Systems. Seit der Änderung durch den Omnibus lautet sie: Anbieter und Betreiber „ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind“. Zu berücksichtigen sind Vorkenntnisse, Ausbildung und der Einsatzkontext.

Vorher verlangte Art. 4, ein „ausreichendes Maß“ an KI-Kompetenz sicherzustellen. Heute ist es eine Pflicht zum Handeln, kein garantiertes Ergebnis. Abgeschafft ist sie nicht. Was die EU-Kommission in ihren Fragen und Antworten dazu sagt:

• Ein Zertifikat ist nicht nötig. Eine interne Aufzeichnung der Schulungen und Anleitungen genügt.
• Es gibt kein festes Format. Das Programm soll zur Rolle, zu den genutzten Systemen und zum Wissensstand der Beschäftigten passen.
• Die Pflicht gilt auch, wenn Mitarbeitende nur ChatGPT oder ähnliche Werkzeuge nutzen. Sie sollen die Risiken kennen, etwa erfundene Antworten (Halluzinationen).
• Durchgesetzt wird sie von den nationalen Marktüberwachungsbehörden, laut Kommission ab dem 2. August 2026.

Ein eigener Bußgeldrahmen für Art. 4 steht nicht in Art. 99. Das heißt nicht, dass die Pflicht folgenlos ist: Behörden können sie durchsetzen, und wer nie geschult hat, steht bei jedem Fehler mit KI schlechter da. Eine sinnvolle Schulung für ein Büro deckt ab: was KI kann und nicht kann, welche Werkzeuge erlaubt sind, welche Daten nicht hineingehören, wie Ergebnisse geprüft werden und wer bei Fragen hilft.

Transparenz nach Art. 50 (seit 2. August 2026)

Einige Transparenzpflichten treffen Anbieter: Chatbots müssen als KI erkennbar sein (Abs. 1), generierte Inhalte maschinenlesbar markiert (Abs. 2). Betreiber müssen selbst handeln, wenn sie:

• ein System zur Emotionserkennung oder biometrischen Kategorisierung einsetzen: Die betroffenen Personen sind zu informieren (Abs. 3).
• Deepfakes erzeugen, also täuschend echte Bilder, Videos oder Tonaufnahmen von Personen, Orten oder Ereignissen: Sie müssen offenlegen, dass der Inhalt künstlich erzeugt ist (Abs. 4).
• mit KI erzeugte Texte veröffentlichen, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren: Auch das ist offenzulegen, außer ein Mensch hat den Text geprüft und trägt die redaktionelle Verantwortung (Abs. 4).

Die Information muss spätestens bei der ersten Interaktion klar erkennbar sein (Abs. 5). Eine E-Mail, die Sie mit KI formuliert und selbst gelesen haben, müssen Sie nicht kennzeichnen.

Hochrisiko-KI: Pflichten nach Art. 26 (ab 2. Dezember 2027)

Setzen Sie ein Hochrisiko-System ein, etwa Software, die Bewerbungen filtert oder Beschäftigte bewertet, müssen Sie unter anderem:

• das System nach der Betriebsanleitung des Anbieters verwenden (Abs. 1),
• die menschliche Aufsicht Personen mit der nötigen Kompetenz, Schulung und Befugnis übertragen (Abs. 2),
• soweit Sie die Eingabedaten kontrollieren, dafür sorgen, dass sie zum Zweck passen (Abs. 4),
• den Betrieb überwachen und Risiken oder schwerwiegende Vorfälle dem Anbieter melden (Abs. 5),
• automatisch erzeugte Protokolle mindestens sechs Monate aufbewahren (Abs. 6),
• vor dem Einsatz am Arbeitsplatz die Arbeitnehmervertretung und die betroffenen Beschäftigten informieren (Abs. 7),
• Personen informieren, über die das System Entscheidungen trifft oder dabei unterstützt (Abs. 11).

Behörden und bestimmte Unternehmen, etwa bei Kreditwürdigkeit und bei Lebens- und Krankenversicherungen, müssen zusätzlich eine Grundrechte-Folgenabschätzung machen (Art. 27).

Verbotene Praktiken nach Art. 5 (seit 2. Februar 2025)

Verboten sind unter anderem KI-Systeme, die Menschen unterschwellig manipulieren oder Schwächen wegen Alter, Behinderung oder sozialer Lage ausnutzen, Social Scoring, das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras für Gesichtsdatenbanken und die biometrische Kategorisierung nach Merkmalen wie Religion oder sexueller Orientierung.

Für Arbeitgeber besonders wichtig ist Art. 5 Abs. 1 Buchst. f: Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ist verboten, außer aus medizinischen oder Sicherheitsgründen. Software, die aus Stimme oder Gesicht die Stimmung von Beschäftigten im Kundengespräch auswertet, fällt darunter. Mit dem Omnibus kommen zwei Verbote dazu: KI, die ohne Einwilligung realistische intime Darstellungen von Personen erzeugt, und KI, die Darstellungen sexuellen Kindesmissbrauchs erzeugt.

Die Verordnung gibt Höchstbeträge vor, die Mitgliedstaaten legen die Einzelheiten fest. Die Bußgeldvorschriften gelten seit dem 2. August 2025.

Für kleine und mittlere Unternehmen einschließlich Start-ups gilt jeweils der niedrigere der beiden Werte (Art. 99 Abs. 6). Bei der Höhe berücksichtigen Behörden unter anderem Art, Schwere und Dauer des Verstoßes, Vorsatz oder Fahrlässigkeit und die Größe des Unternehmens. Bußgelder nach der DSGVO kommen gegebenenfalls unabhängig davon hinzu.

Die KI-Verordnung ersetzt den Datenschutz nicht. Art. 2 Abs. 7 stellt klar, dass die DSGVO unberührt bleibt. Sobald personenbezogene Daten in ein KI-Werkzeug gehen, brauchen Sie wie bisher:

• eine Rechtsgrundlage nach Art. 6 DSGVO, bei Gesundheitsdaten zusätzlich nach Art. 9,
• einen Vertrag zur Auftragsverarbeitung nach Art. 28, wenn ein Anbieter die Daten verarbeitet,
• eine Prüfung der Übermittlung in Drittländer wie die USA (Kapitel V),
• gegebenenfalls eine Datenschutz-Folgenabschätzung nach Art. 35. Für Hochrisiko-KI verweist Art. 26 Abs. 9 der KI-Verordnung ausdrücklich darauf.

Die Datenschutzkonferenz hat dazu eine Orientierungshilfe veröffentlicht. Praktisch heißt das: Die KI-Verordnung fragt, ob und wie ein KI-System eingesetzt werden darf, die DSGVO, was mit den Daten darin geschieht. Wie Sie ein einzelnes Werkzeug datenschutzrechtlich prüfen, steht im Ratgeber KI datenschutzkonform nutzen, was bei ChatGPT gilt, im Ratgeber ChatGPT und Datenschutz.

In kleinen Unternehmen scheitert die Umsetzung selten am Gesetzestext, sondern am Alltag:

• Schatten-KI: Mitarbeitende nutzen private Konten bei Chatbots, Übersetzern oder Transkriptionsdiensten, ohne dass jemand davon weiß. Was niemand kennt, kann niemand schulen, einstufen oder datenschutzrechtlich prüfen.
• Keine Übersicht: Niemand kann sagen, welche Werkzeuge im Einsatz sind, welche davon KI enthalten und wofür sie genutzt werden. Ohne diese Liste lässt sich weder schulen noch einstufen.
• Anbieter ändern Modelle und Bedingungen: Cloud-Dienste tauschen Modelle aus, ergänzen Funktionen und passen Nutzungsbedingungen und Datenschutzhinweise an. Eine Prüfung von vor einem Jahr passt dann womöglich nicht mehr.
• Kundendaten im Chatbot: Eine Mail eines Mandanten wird schnell kopiert, um eine Antwort formulieren zu lassen. Damit landen personenbezogene Daten, oft auch Berufsgeheimnisse nach § 203 StGB, bei einem externen Anbieter.

Diese Schritte decken die Pflichten ab, die für die meisten Büros heute gelten:

1. KI-Werkzeuge erfassen: Liste aller Programme und Dienste mit KI, wer sie nutzt und wofür. Auch kostenlose Konten und Browser-Erweiterungen.
2. Einstufen: Für jeden Einsatz prüfen, ob er verboten ist (Art. 5), hochriskant (Anhang III, etwa Personalentscheidungen) oder unter Art. 50 fällt.
3. Verbotenes abstellen: Zum Beispiel Emotionserkennung in Gesprächen mit Beschäftigten.
4. Regeln festlegen: Eine kurze KI-Richtlinie: erlaubte Werkzeuge, verbotene Daten, Prüfung der Ergebnisse, Kennzeichnung nach Art. 50.
5. Schulen und dokumentieren: KI-Kompetenz nach Art. 4 passend zur Rolle vermitteln und festhalten, wer wann was gelernt hat.
6. Datenschutz prüfen: Rechtsgrundlage, Auftragsverarbeitung, Drittlandübermittlung, gegebenenfalls Datenschutz-Folgenabschätzung.
7. Hochrisiko vorbereiten: Falls betroffen, die Pflichten nach Art. 26 bis zum 2. Dezember 2027 umsetzen, Betriebsrat früh einbinden.
8. Regelmäßig nachsehen: Neue Werkzeuge, geänderte Anbieterbedingungen und weitere Leitlinien der Kommission und der Bundesnetzagentur im Blick behalten.

SpeechToWork ist ein KI-Assistent, der unter Windows komplett auf dem eigenen Rechner läuft: Spracherkennung und Sprachmodell rechnen dort, Diktate, E-Mails, Dokumente und Aufnahmen gehen an keinen Anbieter. Das vereinfacht vor allem die DSGVO-Seite: Für die Inhalte gibt es keinen Auftragsverarbeiter, keine Übermittlung in die USA und kein Training mit Ihren Daten. Das Modell ändert sich nicht über Nacht, weil es als Datei auf Ihrem Rechner liegt. Mehr dazu im Ratgeber DSGVO-konforme KI.

Ehrlich gesagt: Die KI-Verordnung nimmt Ihnen ein lokales Programm nicht ab. Auch wer SpeechToWork nutzt, ist Betreiber eines KI-Systems. Die Pflicht zur KI-Kompetenz nach Art. 4 gilt genauso, das Programm gehört in Ihre Werkzeugliste, und wenn Sie es für eine Hochrisiko-Aufgabe einsetzen würden, zählt dieser Zweck. Für die üblichen Büroarbeiten wie Diktieren, Formulieren, Zusammenfassen und Protokollieren fallen keine weiteren Pflichten an. Was ein lokales Modell kann und wo es kleiner ist als die großen Cloud-Modelle, steht im Ratgeber Lokale KI.

Alle Angaben wurden im September 2026 an diesen Quellen geprüft:

• Verordnung (EU) 2024/1689 (KI-Verordnung), EUR-Lex
• Verordnung (EU) 2026/1744 (Digital Omnibus zur KI), EUR-Lex
• EU-Kommission: KI-Gesetz, Zeitplan und Risikostufen
• EU-Kommission: AI Literacy, Questions & Answers (Englisch)
• Bundesnetzagentur: Pressemitteilung vom 29. Juli 2026 zur KI-Verordnung
• KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG)
• Verordnung (EU) 2016/679 (DSGVO), EUR-Lex
• Datenschutzkonferenz: Orientierungshilfe Künstliche Intelligenz und Datenschutz (Mai 2024)

Stand: September 2026. Dieser Ratgeber ist keine Rechtsberatung. Weitere Leitlinien der EU-Kommission und die Praxis der Bundesnetzagentur können die Auslegung noch verändern.