KI datenschutzkonform nutzen: die Prüfliste für jedes KI-Werkzeug im Unternehmen

Gehen Sie die Liste für jedes KI-Werkzeug einzeln durch, auch für Funktionen, die in bekannte Programme eingebaut sind, etwa KI in der Bürosoftware, im CRM oder im Messenger. Ein Werkzeug gilt erst dann als geprüft, wenn alle Punkte beantwortet und das Ergebnis dokumentiert ist. Die Haken dienen nur beim Durchgehen und werden nicht gespeichert.

Grundlage ist die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ der Konferenz der unabhängigen Datenschutzaufsichtsbehörden (DSK) vom 6. Mai 2024. Die Zahlen in Klammern verweisen auf ihre Abschnitte. Sie richtet sich vor allem an Unternehmen und Behörden, die KI einsetzen, nicht an Entwickler.

Abgrenzung: Diese Seite ist die neutrale Prüfliste für jedes Werkzeug. Warum wir für Büroarbeit einen lokalen Assistenten empfehlen, steht ausführlich auf der Seite DSGVO-konforme KI.

• Zweck und Einsatzfeld sind schriftlich festgelegt.Wofür genau wird das Werkzeug genutzt, etwa Entwürfe für Kundenmails oder Zusammenfassungen von Protokollen? Ohne festgelegten Zweck lässt sich nicht prüfen, welche Daten nötig sind (DSK-Orientierungshilfe, 1.1).
• Klar ist, ob personenbezogene Daten hineingelangen.Namen, Mails, Sprachaufnahmen, Belege, auch Anmeldedaten der Beschäftigten. Personenbezug entsteht schneller als gedacht, etwa über Vorgangsnummern oder Details eines Falls (1.3).
• Für jeden Verarbeitungsschritt gibt es eine Rechtsgrundlage.Meist Art. 6 Abs. 1 DSGVO, bei Beschäftigtendaten zusätzlich das Beschäftigtendatenschutzrecht. Gesundheitsdaten und andere besondere Kategorien brauchen eine Ausnahme nach Art. 9 DSGVO (1.5).
• Der Anbieter trainiert nicht mit Ihren Eingaben, oder Sie haben es abgeschaltet.Welche Einstellung gilt im gebuchten Tarif standardmäßig? Wer kann sie ändern, der Nutzer oder nur die Administration? Die DSK hält Anwendungen für vorzugswürdig, die Ein- und Ausgaben nicht zum Training verwenden (1.9).
• Sie wissen, ob es ein geschlossenes oder offenes System ist.Bleiben Eingaben in Ihrer Umgebung, oder fließen sie in einen Dienst, der auch anderen dient? Laut DSK sind „technisch geschlossene Systeme“ aus datenschutzrechtlicher Sicht „vorzugswürdig“ (1.7).
• Keine automatisierte Letztentscheidung über Menschen.Bewerbungen, Kündigungen, Kreditentscheidungen: Ein Mensch entscheidet und prüft das Ergebnis tatsächlich, nicht nur formal (Art. 22 DSGVO, 1.6).

• Ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO liegt vor.Bei Cloud-KI meist das Data Processing Addendum des Anbieters. Es gilt in der Regel nur für Business- oder Enterprise-Tarife, nicht für kostenlose oder private Konten.
• Unterauftragsverarbeiter und Serverstandorte sind bekannt.Welche weiteren Firmen verarbeiten die Eingaben, und wo? Achten Sie auf Ausnahmen, etwa einzelne Modelle oder Lastspitzen, bei denen Daten eine zugesagte EU-Grenze verlassen dürfen.
• Die Drittlandübermittlung ist abgesichert und bewertet.Für die USA: Ist der Anbieter unter dem EU-US Data Privacy Framework zertifiziert, oder gelten Standardvertragsklauseln mit Transfer Impact Assessment? Das Framework hat das EuG am 03.09.2025 bestätigt, das Rechtsmittel beim EuGH ist nach unserem Stand anhängig.
• Speicherdauer und Löschung sind geklärt.Wie lange speichert der Anbieter Eingaben, Verlauf und Nutzungsdaten? Lässt sich das verkürzen? Was passiert mit Daten, die wegen Missbrauchsverdachts länger aufbewahrt werden?

• Eine Datenschutz-Folgenabschätzung ist geprüft und, wo nötig, gemacht.Bei neuen Technologien mit voraussichtlich hohem Risiko ist sie Pflicht (Art. 35 DSGVO). Mindestens die Prüfung, ob sie nötig ist, gehört dokumentiert (DSK, 2.3).
• Technische und organisatorische Maßnahmen sind festgelegt.Zugriffsrechte, Anmeldung mit zwei Faktoren, Protokollierung, Umgang mit Ausgaben. Bei KI mit Zugriff auf Dateien und Mails: Berechtigungen vorher bereinigen.
• Beschäftigte nutzen dienstliche Konten, keine privaten.Private Konten laufen unter Verbraucherbedingungen, ohne AVV und ohne Zugriff der Firma auf Einstellungen und Verlauf (DSK, 2.4).
• Es gibt eine schriftliche Richtlinie für Mitarbeitende.Welche Werkzeuge sind erlaubt, welche Daten dürfen hinein, welche nie? Wer ist Ansprechpartner, was passiert bei einem Fehler (DSK, 2.2)?
• Maßnahmen zur KI-Kompetenz nach Art. 4 KI-VO laufen.Seit dem 02.02.2025 müssen Betreiber für KI-Kompetenz ihrer Leute sorgen. Seit dem 27.07.2026 heißt es nach der Änderung durch die Verordnung (EU) 2026/1744: Maßnahmen ergreifen, um sie zu unterstützen. Dokumentieren Sie Schulungen und Anleitungen.
• Der Betriebsrat ist beteiligt, falls es einen gibt.Nach § 87 Abs. 1 Nr. 6 BetrVG bestimmt er mit, wenn eine technische Einrichtung geeignet ist, Verhalten oder Leistung zu überwachen. Das ArbG Hamburg (16.01.2024, 24 BVGa 1/24) verneinte das für ChatGPT über private Browser-Konten; bei Firmenkonten mit einsehbarem Verlauf sieht es anders aus.
• Berufsgeheimnisse sind geschützt.Wer unter § 203 StGB fällt, etwa Ärzte, Anwälte, Steuerberater, darf Geheimnisse an Dienstleister nur offenbaren, soweit das für deren Mitwirkung erforderlich ist, und muss sie zur Verschwiegenheit verpflichten. Viele KI-Bedingungen passen dazu nicht.
• Datenschutzbeauftragte und Betroffenenrechte sind eingeplant.Der oder die DSB ist vor der Einführung eingebunden. Auskunft, Berichtigung und Löschung müssen auch für Daten im KI-Werkzeug funktionieren (DSK, 1.11 und 1.12).
• Ergebnisse werden auf Richtigkeit geprüft.Sprachmodelle erfinden Fakten. Falsche Aussagen über Personen sind ein Datenschutzproblem, nicht nur ein Qualitätsproblem (DSK, 3.3).

• Die kostenlose Version im Büro: Beschäftigte nutzen private Konten, weil der Business-Tarif fehlt. Dann gibt es keinen AVV, und die Firma weiß nicht, was eingegeben wurde.
• Verbot ohne Alternative: Eine Regel „keine KI“ ohne erlaubtes Werkzeug führt erfahrungsgemäß zu Schatten-KI am Handy.
• „DSGVO-konform“ im Werbetext für bare Münze nehmen: Konform ist nicht das Werkzeug, sondern ein konkreter Einsatz mit Vertrag, Einstellungen und Regeln.
• Standardeinstellungen nicht prüfen: Training, Websuche, Verlauf, Modelle von Drittanbietern und Verarbeitung außerhalb der EU sind oft Einstellungen, die jemand bewusst setzen muss.
• Berechtigungen vergessen: KI mit Zugriff auf Laufwerke und Postfächer findet alles, was freigegeben ist, auch vergessene Freigaben.
• Schwärzen als Lösung: Namen entfernen hilft wenig, wenn Vorgangsnummer, Adresse oder Details eines Falls die Person verraten.
• Ergebnisse ungeprüft übernehmen: Erfundene Fakten über Kunden oder Beschäftigte verletzen den Grundsatz der Richtigkeit.
• Keine Dokumentation: Ohne Verzeichniseintrag, Prüfung der DSFA und Nachweis der Schulungen lässt sich die Rechenschaftspflicht nach Art. 5 Abs. 2 DSGVO nicht erfüllen.

Keine KI ist von sich aus datenschutzkonform, und keine ist von sich aus verboten. Entscheidend ist, wie viele Punkte der Prüfliste ein Werkzeug schon durch seine Bauart erledigt und wie viele Sie selbst absichern müssen. Die Tabelle vergleicht die drei typischen Wege.

Was die großen Anbieter im Einzelnen zusagen und wo es Probleme gab, steht in den Ratgebern ChatGPT Datenschutz, Copilot Datenschutz und WhatsApp KI Datenschutz. Die Pflichten aus der KI-Verordnung erklärt der Ratgeber KI-Verordnung.

Die meisten Punkte in Teil 2 der Prüfliste haben eine Ursache: Die Inhalte gehen an einen Anbieter. Läuft das Sprachmodell auf dem eigenen Rechner, gibt es für die Inhalte keinen Empfänger. Damit entfallen Auftragsverarbeitungsvertrag, Drittlandtransfer, Transfer Impact Assessment, Training mit Ihren Daten und die Frage, wie lange ein fremder Server Ihre Eingaben speichert. Auch Bedingungen, die sich über Nacht ändern, betreffen Sie nicht.

SpeechToWork arbeitet so: Spracherkennung und Sprachmodell sind auf Ihrem Windows-PC installiert und rechnen dort. Diktate, Mails, Protokolle und Belege verlassen den Rechner nicht.

Was bleibt, gehört ehrlich dazu: Zweck festlegen, eine Richtlinie für das Team, Maßnahmen zur KI-Kompetenz, Ergebnisse prüfen und, wo es einen gibt, den Betriebsrat einbeziehen, denn ein installiertes Programm auf Firmenrechnern ist eine technische Einrichtung. Außerdem ist ein lokales Modell kleiner als die großen Cloud-Modelle und läuft bei SpeechToWork nur unter Windows. Für Schreibarbeit mit Kundendaten ist es gemacht. Mehr zur Technik auf der Seite Lokale KI.

• DSK: Orientierungshilfe Künstliche Intelligenz und Datenschutz, 06.05.2024 (PDF)
• EUR-Lex: Verordnung (EU) 2024/1689 (KI-Verordnung)
• EUR-Lex: Verordnung (EU) 2026/1744 (Digital Omnibus zur KI), in Kraft seit 27.07.2026
• EUR-Lex: Datenschutz-Grundverordnung (EU) 2016/679
• Gesetze im Internet: § 203 StGB
• Gesetze im Internet: § 87 BetrVG
• LTO: ArbG Hamburg, 24 BVGa 1/24, ChatGPT und Beteiligungsrechte des Betriebsrats
• IAPP: General Court dismisses Latombe challenge, upholds EU-US Data Privacy Framework
• EUR-Lex: Rechtssache C-703/25 P, Rechtsmittel Latombe gegen Kommission

Stand: September 2026. Dieser Ratgeber ist keine Rechtsberatung. Anbieter ändern Tarife, Einstellungen und Bedingungen häufig; prüfen Sie vor einer Entscheidung die verlinkten Originalquellen.