DSGVO und KI im Unternehmen: Was Sie rechtssicher einsetzen dürfen

Ja, die meisten KI-Tools sind DSGVO-konform einsetzbar, wenn Sie drei Regeln beachten: Nutzen Sie eine Enterprise-Lizenz mit Auftragsverarbeitungsvertrag, geben Sie keine personenbezogenen Daten in Consumer-Tools ein und schulen Sie Ihre Mitarbeiter. Damit ist der Kern bereits gesagt. Was das praktisch heißt, welche Tools in welche Kategorie fallen und welche Fehler wir in unseren Projekten am häufigsten sehen, klärt dieser Artikel.

Das Wichtigste in Kürze

• Enterprise-Lizenzen (ChatGPT Team/Enterprise, Copilot Business, Claude Teams) sind in der Regel mit AVV nutzbar.
• Consumer-Versionen (Free, Plus, persönliche Accounts) sind für geschäftliche personenbezogene Daten tabu.
• Drei goldene Regeln: AVV vorhanden, keine personenbezogenen Daten in Consumer-Tools, Mitarbeiter geschult.
• Self-Hosted-Modelle (Llama, Mistral) bieten maximale Kontrolle, aber höheren Aufwand.
• Eine zentral beschaffte Enterprise-Lizenz für alle ist meistens günstiger und sicherer als Schatten-IT.

Darf mein Unternehmen ChatGPT, Copilot und Claude nutzen?

Kurz: Ja, in der Enterprise-Variante problemlos, in der Consumer-Variante nur unter Bedingungen. Die DSGVO verbietet KI nicht, sondern verlangt eine ordentliche Rechtsgrundlage, einen Auftragsverarbeitungsvertrag (AVV) mit dem Anbieter und angemessene technische sowie organisatorische Maßnahmen. Microsoft, OpenAI und Anthropic bieten für ihre Geschäftskunden-Tarife mittlerweile alle das nötige Vertragspaket.

Konkret bedeutet das: Microsoft 365 Copilot (im Rahmen einer M365-Business-Lizenz) ist datenschutzrechtlich gut aufgestellt, weil die Daten innerhalb des bestehenden Microsoft-Tenant verarbeitet werden. ChatGPT Team und Enterprise haben einen separaten AVV und garantieren, dass Eingaben nicht für Modelltraining verwendet werden. Claude Teams und Enterprise von Anthropic bieten dieselben Garantien. Was im Mittelstand am häufigsten schiefläuft: Mitarbeiter nutzen ihre privaten Accounts für berufliche Aufgaben. Genau das ist der DSGVO-Knackpunkt.

Welche drei Tool-Kategorien gibt es?

Für die Praxis hilft eine einfache Einteilung in drei Kategorien. Sie unterscheiden sich vor allem in Kontrolle, Aufwand und Eignung für sensible Daten.

Kategorie	Beispiele	AVV vorhanden	Eignung für Geschäftsdaten
Enterprise/Business	ChatGPT Team/Enterprise, Copilot Business, Claude Teams	Ja, Standard	Hoch; mit Schulung freigegeben
Consumer	ChatGPT Free/Plus, Claude Free, Gemini privat	Nein bzw. unzureichend	Niedrig; nur ohne personenbezogene Daten
Self-Hosted	Llama, Mistral, Mixtral auf eigener Infrastruktur	Nicht nötig (eigene Verarbeitung)	Sehr hoch; volle Datenhoheit

Enterprise-Lizenzen sind für die meisten KMU der pragmatische Mittelweg. Sie kosten zwischen 20 und 60 Euro pro Nutzer und Monat, bringen den AVV mit und sind administrierbar. Self-Hosted-Lösungen sind technisch elegant, brauchen aber Server, Wartung und Know-how; das rechnet sich erst ab einer gewissen Größe oder bei besonders sensiblen Daten (etwa in Kanzleien oder im Gesundheitsbereich). Wer mehr Hintergrund zu Tool-Auswahl im Mittelstand sucht, findet im Artikel Microsoft Copilot im Mittelstand eine ausführliche Einordnung.

Was ist ein AVV und warum ist er wichtig?

Ein Auftragsverarbeitungsvertrag (AVV) regelt nach Artikel 28 DSGVO, wie ein Dienstleister personenbezogene Daten in Ihrem Auftrag verarbeitet. Sobald Sie ein KI-Tool nutzen und dort potenziell personenbezogene Daten landen können (eine Kundenmail, ein Bewerbungstext, ein Mitarbeitergespräch zur Zusammenfassung), wird der KI-Anbieter zum Auftragsverarbeiter. Ohne AVV ist diese Verarbeitung schlicht rechtswidrig.

Bei Enterprise-Lizenzen ist der AVV in der Regel Bestandteil der Vertragsbedingungen oder per Klick im Admin-Center aktivierbar. Bei Consumer-Versionen fehlt er meist; OpenAI etwa weist in den Nutzungsbedingungen für ChatGPT Free explizit darauf hin, dass das Tool nicht für Geschäftszwecke mit personenbezogenen Daten gedacht ist. Wer sich darüber hinwegsetzt, riskiert nicht nur Bußgelder, sondern auch Schadensersatzansprüche von Betroffenen.

Wo finde ich den AVV bei meinem Anbieter? — Microsoft: über das Trust Center und die Online Service Terms; bei M365-Business automatisch eingeschlossen. OpenAI: im ChatGPT-Enterprise- und Team-Vertrag, Download via Admin-Konsole. Anthropic: über das Claude-Teams-Dashboard, Sektion Compliance. Tipp: Den unterschriebenen AVV in Ihrem Verzeichnis von Verarbeitungstätigkeiten ablegen.

Drei goldene Regeln für rechtssichere KI-Nutzung

In unseren Projekten zeigen wir Geschäftsführungen meistens drei Regeln, die zusammen 90 Prozent der DSGVO-Risiken abdecken. Sie sind unspektakulär, werden aber oft ignoriert.

Regel 1: Eine Enterprise-Lizenz für alle, die KI nutzen. Lieber 40 Euro pro Monat zahlen, als hinterher 5.000 Euro Bußgeld plus Anwaltskosten zu riskieren. Zentrale Beschaffung verhindert außerdem Schatten-IT und gibt Ihnen Übersicht.

Regel 2: Klare Trennung zwischen erlaubten und verbotenen Eingaben. Allgemeine Texte, öffentliche Informationen, anonyme Beispiele sind unkritisch. Personenbezogene Daten von Kunden oder Mitarbeitern, Gesundheitsdaten, Gehaltsinformationen, Strategiepapiere gehören nur in Tools mit nachweislichem Schutzniveau und nur dann, wenn es geschäftlich nötig ist.

Regel 3: Schulung mit Augenmaß. Eine 60-Minuten-Schulung pro Mitarbeiter, einmal jährlich aufgefrischt, reicht für die meisten Rollen. Wichtig sind Praxisbeispiele aus dem eigenen Unternehmen, nicht abstrakte Paragraphen. Mehr dazu in unseren rollenbasierten KI-Schulungen.

• 90 % der DSGVO-Risiken durch drei einfache Regeln gedeckt
• 60 Min Mindest-Schulungsdauer pro Mitarbeiter
• 20-60 EUR pro Nutzer und Monat für Enterprise-Lizenz

Welche Daten dürfen Sie niemals in KI-Tools eingeben?

Tabu-Liste für Consumer-Tools — Niemals in ChatGPT Free, Claude Free oder andere Consumer-Versionen: vollständige Namen plus Kontaktdaten von Kunden, Gesundheits- oder Diagnose-Informationen, Bewerbungsunterlagen, Personalakten, Gehaltslisten, Verträge mit Klarnamen, interne Strategiepapiere, Passwörter und Zugangsdaten, Quellcode mit Geschäftsgeheimnissen. Auch in Enterprise-Tools: keine besonderen Kategorien personenbezogener Daten ohne explizite Rechtsgrundlage.

In unseren Projekten sehen wir oft denselben Fehler: Ein Mitarbeiter kopiert eine Kundenmail in ChatGPT Free, um eine Antwort entwerfen zu lassen. Inhaltlich verständlich, datenschutzrechtlich problematisch. Lösung ist nicht, KI zu verbieten, sondern den richtigen Werkzeugkasten bereitzustellen. Wer eine Enterprise-Lizenz hat, kann genau diesen Use Case sauber umsetzen.

Besondere Vorsicht gilt bei besonderen Kategorien personenbezogener Daten nach Artikel 9 DSGVO: Gesundheit, Religion, politische Meinung, Gewerkschaftszugehörigkeit, sexuelle Orientierung, biometrische Daten. Diese sind grundsätzlich verboten zu verarbeiten, mit engen Ausnahmen. Wer beispielsweise als Arztpraxis oder Personalabteilung mit Krankheitsdaten arbeitet, sollte hier keinesfalls Standard-Tools nutzen, sondern auf spezialisierte Lösungen setzen.

Welche Rolle spielt der Datenschutzbeauftragte?

Wenn Sie einen Datenschutzbeauftragten (intern oder extern) haben, binden Sie ihn früh ein. Konkret übernimmt er drei Aufgaben rund um KI: Erstens prüft er den AVV des Anbieters und ergänzt ihn im Verzeichnis von Verarbeitungstätigkeiten. Zweitens berät er bei der internen KI-Richtlinie und bei Schulungsinhalten. Drittens unterstützt er bei Datenschutz-Folgenabschätzungen, falls eine geplante KI-Nutzung als hohes Risiko eingestuft wird.

Eine Datenschutz-Folgenabschätzung (DSFA) ist nicht für jedes KI-Tool nötig. Sie wird relevant, wenn Sie KI für automatisierte Einzelentscheidungen mit rechtlicher Wirkung einsetzen (etwa Bonitätsprüfung, Kreditentscheidung, Bewerber-Screening) oder bei systematischer Überwachung. Für den klassischen Einsatz von Copilot in Outlook oder ChatGPT zur Texterstellung brauchen Sie keine DSFA.

Wenn Sie keinen Datenschutzbeauftragten haben (gesetzlich erst ab 20 Mitarbeitern mit ständiger automatisierter Verarbeitung Pflicht), reicht in der Regel eine externe Stunde Beratung pro Jahr, um die KI-Themen abzusichern.

DSGVO und KI sind kein Widerspruch. Der Widerspruch entsteht nur, wenn man beides nicht ernst nimmt.

Wie starten Sie rechtssicher?

Wer heute ohne klare Regeln KI im Unternehmen einsetzt, kann in vier bis sechs Wochen einen sauberen Stand erreichen. Die folgenden fünf Schritte haben sich in unseren Projekten bewährt.

• Schritt 1: Bestandsaufnahme machen. Welche KI-Tools werden offiziell und inoffiziell genutzt? Welche Lizenzen liegen vor? Welche Mitarbeiter nutzen private Accounts?
• Schritt 2: Zentral Enterprise-Lizenzen beschaffen. Eine Lösung für die ganze Firma (oder pro Abteilung) ist meistens günstiger und einfacher zu administrieren als zehn Einzelabos.
• Schritt 3: AVV einholen und im Verzeichnis von Verarbeitungstätigkeiten dokumentieren. Bei den großen Anbietern dauert das maximal eine halbe Stunde.
• Schritt 4: Interne KI-Richtlinie schreiben. Zwei bis drei Seiten, mit klaren Beispielen, was erlaubt und was verboten ist. Vom Datenschutzbeauftragten gegenzeichnen lassen.
• Schritt 5: Mitarbeiter schulen und Teilnahmen dokumentieren. Damit erfüllen Sie gleichzeitig die KI-Kompetenz-Pflicht aus dem EU AI Act (siehe EU AI Act 2026). Für die Dokumentation können Sie unsere Vorlage für den KI-Schulungsnachweis nutzen.

Wer den Weg nicht allein gehen will, holt sich punktuelle Begleitung. Eine kompakte Erstanalyse klärt in wenigen Stunden, wo Sie stehen und welche Schritte für Sie sinnvoll sind. Wer direkt loslegen will: Erstgespräch vereinbaren ist der schnellste Einstieg.