KI und Datenschutz
Was Sie je Datenart vor der Eingabe in einen KI-Chatbot regeln müssen: von Namen und E-Mail-Adressen bis zu Gesundheit, Strafregister und BSN.
Das dürfen Sie nur, wenn Sie es zuvor geregelt haben. Für gewöhnliche Kundendaten benötigen Sie eine Rechtsgrundlage, einen mit dem Erhebungszweck vereinbaren Zweck, einen Auftragsverarbeitungsvertrag mit dem Anbieter und eine gültige Grundlage für Übermittlungen außerhalb der EU. Für Gesundheitsdaten, Daten über Straftaten und die BSN gelten strengere Regeln. Ein kostenloses oder persönliches Konto erfüllt diese Anforderungen nicht.
Dieser Artikel vertieft eine Frage; den vollständigen Überblick finden Sie unter KI-Chatbots und die DSGVO.
Im Folgenden wird dies je Datenart erläutert. Es handelt sich um eine Erklärung, keine Rechtsberatung: Ob eine Verarbeitung in Ihrer Situation erlaubt ist, beurteilen Sie mit Ihrem Datenschutzbeauftragten oder einem Juristen. Die übergeordnete Frage behandelt die Seite ChatGPT, Claude, Mistral Vibe und die DSGVO. Der Assistent von Mistral heißt inzwischen Mistral Vibe; früher hieß er Le Chat.
Die DSGVO kennt mehrere Arten personenbezogener Daten. Die Autoriteit Persoonsgegevens (AP), die niederländische Datenschutzaufsichtsbehörde, erläutert die Einteilung auf ihrer Seite Was sind personenbezogene Daten?. Für die Frage, was in ein Chatfenster darf, sind fünf Gruppen relevant.
In der Praxis ist dies selten getrennt. Eine Akte zur Arbeitsunfähigkeit enthält einen Namen, eine BSN und Gesundheitsdaten. Die sensibelste Datenart im Dokument bestimmt, was Sie regeln müssen. Eine vollständige Datei hochzuladen erfordert deshalb mehr als eine einzelne Frage einzugeben; siehe Dokumente in ChatGPT oder Claude hochladen: Was passiert damit?.
Wer Kundendaten in einen Chatbot eingibt, verarbeitet sie: Sie geben sie für einen Zweck an eine andere Partei weiter. Der Text der DSGVO stellt dazu vier Fragen. Diese gelten auch für sensiblere Datenarten, für die weitere Bedingungen hinzukommen.
Jede Verarbeitung benötigt eine der sechs Rechtsgrundlagen aus Artikel 6. Für ein Unternehmen ist das meist die Erfüllung eines Vertrags oder ein berechtigtes Interesse. Bei einem berechtigten Interesse ist eine Abwägung mit den Interessen des Kunden erforderlich, die Sie nachweisen können müssen. „Es geht schneller“ wiegt nicht automatisch schwerer, insbesondere wenn es einen Weg gibt, bei dem weniger Daten die Organisation verlassen.
Daten wurden für einen bestimmten Zweck erhoben und dürfen nicht in einer damit unvereinbaren Weise verarbeitet werden. Ob eine Zusammenfassung durch einen externen KI-Dienst zum Zweck passt, für den der Kunde seine Daten bereitgestellt hat, hängt unter anderem vom Zusammenhang mit diesem Zweck, der Art der Daten, den Folgen für den Kunden und den Garantien ab (Art. 6 Abs. 4). Nutzt der Anbieter die Eingaben auch zur Verbesserung seiner Modelle, kommt ein Zweck hinzu, von dem der Kunde nichts weiß.
Verarbeitet ein Anbieter Daten in Ihrem Auftrag, ist er Auftragsverarbeiter; dann muss eine Vereinbarung festlegen, was er mit den Daten tun darf. Bei den Privatkundentarifen der großen Chatbots gibt es diese nicht. Für die Geschäftstarife bieten OpenAI, Anthropic und Mistral sie an. Siehe Auftragsverarbeitungsvertrag mit OpenAI, Anthropic, Microsoft oder Mistral: Worauf achten Sie? und ChatGPT Free, Plus, Business oder Enterprise: Welchen Tarif dürfen Sie geschäftlich nutzen?.
Personenbezogene Daten dürfen den Europäischen Wirtschaftsraum nur verlassen, wenn das Schutzniveau mitreist (Art. 44). Dies ist mit einem Angemessenheitsbeschluss (Art. 45) oder geeigneten Garantien wie Standardvertragsklauseln (Art. 46) möglich. Für die Vereinigten Staaten besteht das EU-US Data Privacy Framework, das für teilnehmende US-Unternehmen gilt. Prüfen Sie, ob Ihr Anbieter auf der Teilnehmerliste steht, und dokumentieren Sie die Grundlage der Übermittlung. Auch bei einem europäischen Anbieter können Teile außerhalb der EU betrieben werden; siehe Mistral Vibe und die DSGVO: Ist ein europäischer Chatbot automatisch sicher?.
Hier kehrt sich die Regel um. Gewöhnliche Daten dürfen Sie verarbeiten, wenn Sie eine Rechtsgrundlage haben. Die Verarbeitung besonderer Kategorien ist verboten (Art. 9 Abs. 1 DSGVO), sofern keine Ausnahme nach Artikel 9 Absatz 2 greift. In den Niederlanden sind diese Ausnahmen in den Artikeln 22 bis 30 des niederländischen DSGVO-Ausführungsgesetzes konkretisiert. Sie benötigen also zwei Dinge: eine Rechtsgrundlage nach Artikel 6 und eine Ausnahme vom Verbot.
Die bekanntesten sind die ausdrückliche Einwilligung der betroffenen Person und gesetzlich beschriebene Situationen, etwa die Behandlung durch einen Gesundheitsdienstleister, die Betreuung bei Arbeitsunfähigkeit durch einen Arbeitgeber und die Führung eines Rechtsstreits. Diese Ausnahmen wurden für die eigentliche Tätigkeit geschrieben. Ob sie auch abdecken, dieselben Daten an einen allgemeinen KI-Dienst zu übermitteln, ist eine Frage der Erforderlichkeit. Dafür benötigen Sie einen Juristen oder Ihren Datenschutzbeauftragten.
Besondere Daten stehen selten in einem beschrifteten Feld. Sie stehen in einem Satz. „Ist seit März wegen Burn-out zu Hause.“ „Beantragt Urlaub zum Zuckerfest.“ „Betriebsratsmitglied als Gewerkschaftsvertreter.“ Wer eine E-Mail, ein Gesprächsprotokoll oder eine Akte in ein Chatfenster einfügt, teilt sie unbemerkt mit.
Die AP warnte davor, nachdem Datenpannen gemeldet worden waren. In einem Fall hatte ein Mitarbeiter einer Hausarztpraxis entgegen den Vereinbarungen medizinische Patientendaten in einen KI-Chatbot eingegeben. Siehe Datenpanne durch einen KI-Chatbot: Wann müssen Sie die AP benachrichtigen?.
Bei besonderen Kategorien ist häufig auch eine Datenschutz-Folgenabschätzung erforderlich (Art. 35 DSGVO). Wie Sie das prüfen, erläutert DSFA für KI-Tools: Wann ist sie erforderlich und wie gehen Sie vor?.
Diese beiden Arten fallen nicht unter Artikel 9, haben aber jeweils eigene Regeln. Die AP sagt es auf der zuvor erwähnten Seite ausdrücklich: Daten über Straftaten und die BSN sind keine besonderen personenbezogenen Daten, es gelten jedoch besondere Regeln.
Daten über Verurteilungen und Straftaten dürfen nur unter behördlicher Aufsicht oder aufgrund einer gesetzlichen Erlaubnis verarbeitet werden. Das niederländische DSGVO-Ausführungsgesetz konkretisiert dies in den Artikeln 31 bis 33: Die Verarbeitung ist nur zulässig, soweit diese Artikel sie erlauben. Denken Sie an eine Überprüfung mit gesetzlicher Grundlage oder an einen Anwalt, der einen Mandanten vertritt.
In Büros und Kanzleien kommt diese Datenart häufiger vor als erwartet: eine Strafanzeige in einer Schadensakte, eine Kündigungsakte wegen Diebstahls, eine Notiz zu Betrug. Eine solche Akte in einen Chatbot einzugeben erfordert eine gesetzliche Grundlage für genau diese Verarbeitung, und die gibt es selten.
Die DSGVO überlässt die Regeln für nationale Kennnummern den Mitgliedstaaten. Die Niederlande haben dies knapp geregelt: Eine gesetzlich zur Identifizierung vorgeschriebene Nummer darf nur zur Durchführung dieses Gesetzes oder für darin genannte Zwecke verwendet werden. Die AP fasst dies auf ihrer Seite zur BSN so zusammen: Nichtstaatliche Organisationen dürfen die BSN nur verwenden, wenn dies gesetzlich vorgesehen ist.
Ein Arbeitgeber hat die BSN für die Lohnabrechnung, ein Gesundheitsdienstleister für die Abrechnung. Keines dieser Gesetze nennt die Zusammenfassung einer Akte durch einen Chatbot. Die BSN gehört deshalb nicht in ein Chatfenster, auch nicht bei einem Geschäftstarif. Sie steht an mehr Stellen als gedacht: auf einer Gehaltsabrechnung, einer Ausweiskopie, einem Versicherungsschein.
Die Tabelle fasst die vorigen Abschnitte zusammen. Sie dient als Nachschlagehilfe, nicht als Entscheidungsbaum: Jede Zeile setzt voraus, dass auch die darüberstehenden Anforderungen geregelt sind.
| Datenart | Beispiele | Was Sie vor der Eingabe in einen Chatbot benötigen | Was in der Praxis schiefgeht |
|---|---|---|---|
| Gewöhnliche personenbezogene Daten | Name, Adresse, E-Mail-Adresse, Kundennummer, Inhalt einer Beschwerde | Rechtsgrundlage (Art. 6), vereinbarer Zweck, nur erforderliche Daten, Auftragsverarbeitungsvertrag, Übermittlungsgrundlage, Eintrag im Verzeichnis von Verarbeitungstätigkeiten | Persönliches Konto ohne Vertrag, ganzes Dokument für eine Frage, nichts dokumentiert |
| Besondere Kategorien | Gesundheit, Herkunft, Religion, Gewerkschaftszugehörigkeit, sexuelle Orientierung | Alles oben Genannte und eine Ausnahme vom Verbot (Art. 9 Abs. 2 DSGVO, Art. 22 bis 30 des niederländischen DSGVO-Ausführungsgesetzes), in der Regel eine DSFA | Das Datum steht in einem Nebensatz und niemand erkennt es als besonderes Datum |
| Daten über Straftaten | Verurteilung, Strafanzeige, begründeter Verdacht auf Betrug oder Diebstahl | Alles für gewöhnliche Daten und eine gesetzliche Grundlage (Art. 10 DSGVO, Art. 31 bis 33 des niederländischen DSGVO-Ausführungsgesetzes) | Eine Kündigungs- oder Schadensakte wird als gewöhnliche Personal- oder Kundenakte behandelt |
| BSN | Gehaltsabrechnung, Ausweiskopie, Versicherungsschein | Ein Gesetz, das diese Nutzung nennt (Art. 46 des niederländischen DSGVO-Ausführungsgesetzes); für einen Chatbot gibt es dies in der Regel nicht | Die Nummer steht im Kopf des Dokuments und wird unbemerkt mitübermittelt |
| Vertrauliche Geschäftsinformationen ohne personenbezogene Daten | Preisliste, Quellcode, Strategie, Entwurf einer Unternehmensübernahme | Keine DSGVO-Anforderung; erforderlich sind aber die Erlaubnis nach Ihrer eigenen Richtlinie, Ihren Geheimhaltungsvereinbarungen und ein Tarif ohne Training mit Eingaben | Es ist doch ein Name oder eine Unterschrift enthalten, oder der Kundenvertrag verbietet die Weitergabe |
Die DSGVO betrifft natürliche Personen. Informationen über eine Organisation sind nach Angaben der AP keine personenbezogenen Daten, sofern sie nicht auch etwas über eine Person aussagen, etwa bei einem Einzelunternehmen oder einer E-Mail-Adresse, die nur ein Mitarbeiter nutzt. Eine Kostenkalkulation oder ein Stück Quellcode fällt daher nicht unter die DSGVO. Das macht die Informationen nicht frei verfügbar.
Das niederländische Gesetz zum Schutz von Geschäftsgeheimnissen schützt Informationen, die geheim sind, deshalb wirtschaftlichen Wert haben und für deren Geheimhaltung der Inhaber angemessene Maßnahmen getroffen hat. Wer ein Geheimnis ohne Vereinbarungen mit einem Dienst teilt, der Eingaben zur Modellverbesserung nutzen darf, kann später schwerer vertreten, solche Maßnahmen ergriffen zu haben. Wie ein Gericht dies bewertet, ist eine Frage für einen Juristen.
Daneben bestehen Vereinbarungen mit anderen. Eine Geheimhaltungsvereinbarung mit einem Kunden oder Lieferanten verbietet oft die Weitergabe an Dritte ohne Zustimmung. Ein KI-Anbieter ist ein Dritter. Für Anwälte, Notare und Wirtschaftsprüfer kommt die berufliche Schweigepflicht hinzu; siehe Berufliche Schweigepflicht und KI: Was Anwälte, Notare und Wirtschaftsprüfer wissen müssen.
Ein Verbot funktioniert schlecht: Mitarbeitende wechseln dann zu einem privaten Konto, und Sie wissen nicht mehr, was geteilt wird. Gehen Sie in dieser Reihenfolge vor.
Bei Schritt 5 kommen die meisten Organisationen nicht weiter. Namen von Hand zu entfernen kostet Zeit, und etwas bleibt immer stehen. Pseudonymisierung ersetzt direkte Angaben durch Codes und verwahrt den Schlüssel getrennt. Das verringert das Risiko, doch für die Organisation mit dem Schlüssel bleiben es personenbezogene Daten. Siehe Pseudonymisieren oder anonymisieren: Der Unterschied und warum er für KI relevant ist.
PrivaSearch wurde für Schritt 5 entwickelt: Dokumente mit personenbezogenen Daten für einen KI-Assistenten durchsuchbar machen, ohne dass der Assistent die personenbezogenen Daten sieht. Es steht zwischen Ihren Dokumenten und dem KI-Modell. Sie laden Dateien hoch oder verbinden eine SharePoint-Bibliothek, die nur gelesen wird.
Die Erkennung erfolgt innerhalb von PrivaSearch selbst, ohne externen KI-Anbieter. Namen, Adressen, BSNs, IBANs, niederländische Kennzeichen und Geburtsdaten werden durch Pseudonyme ersetzt, die innerhalb eines Projekts für denselben Namen immer gleich bleiben. Anschließend sieht ein Kollege das Original neben dem pseudonymisierten Text, ergänzt übersehene Stellen und gibt ihn frei. Erst dann ist ein Dokument durchsuchbar. Diese Prüfung ist verpflichtend, weil automatische Erkennung nie vollständig ist. Die Schritte stehen unter So funktioniert PrivaSearch.
Suchen können Sie direkt in PrivaSearch, mit Textstellen und Quellenangabe, oder über einen KI-Assistenten mit MCP-Verbindung. Diese Verbindung funktioniert mit Claude, ChatGPT Business und Mistral Vibe. Der Assistent erhält nur freigegebene, pseudonymisierte Textstellen in begrenzter Anzahl, ohne Datei, Dateinamen oder Link. Was Sie selbst in den Assistenten eingeben, geht direkt an den Anbieter. Geben Sie dort deshalb keine Namen ein und verbinden Sie ein Geschäftskonto mit Auftragsverarbeitungsvertrag.
Was PrivaSearch nicht übernimmt: Ihre Abwägung. Pseudonymisierte Daten bleiben für Ihre Organisation personenbezogene Daten; Rechtsgrundlage, Ausnahme für besondere Kategorien und DSFA bleiben deshalb Ihre Aufgabe. Ihre Umgebung erstellt dafür Vorlagen; welche, steht unter DSGVO und EU AI Act (KI-Verordnung). Wo die Verarbeitung stattfindet, lesen Sie unter Hosting in der EU.
Wenn Sie sehen möchten, wie das mit Ihrer Art von Akte aussieht, fragen Sie eine Demo an.
Nicht ohne Weiteres. Personenbezogene Daten einzugeben ist eine Verarbeitung, für die Sie eine Rechtsgrundlage, einen passenden Zweck, einen Auftragsverarbeitungsvertrag mit OpenAI und eine Grundlage für Übermittlungen außerhalb der EU benötigen. Bei ChatGPT Free, Go, Plus oder Pro gibt es keinen Auftragsverarbeitungsvertrag. Bei einem Geschäftstarif ist dies für gewöhnliche personenbezogene Daten möglich, wenn Sie es dokumentiert haben und nur erforderliche Daten teilen.
Nein. Informationen über ein Unternehmen als juristische Person sind keine personenbezogenen Daten. Das ändert sich, sobald die Informationen auch etwas über einen Menschen aussagen. Die Autoriteit Persoonsgegevens nennt als Beispiele einen vom Namen einer Person abgeleiteten Firmennamen und eine geschäftliche E-Mail-Adresse, die nur ein Mitarbeiter nutzt. Ein Ansprechpartner in einem Angebot ist somit ein personenbezogenes Datum.
In der Regel nicht. Gesundheitsdaten sind eine besondere Kategorie: Ihre Verarbeitung ist verboten, sofern keine gesetzliche Ausnahme greift. Diese Ausnahmen wurden für die Gesundheitsversorgung, die Betreuung bei Arbeitsunfähigkeit und ähnliche Aufgaben geschrieben, nicht für die Weitergabe an einen allgemeinen KI-Dienst, weil dies Zeit spart. Lassen Sie einen Juristen oder Ihren Datenschutzbeauftragten prüfen, ob in Ihrem Fall eine Ausnahme besteht.
Nein, sofern ein Gesetz diese Nutzung nicht ausdrücklich nennt, und das ist bei einem Chatbot in der Regel nicht der Fall. In den Niederlanden darf eine gesetzlich zur Identifizierung vorgeschriebene Nummer nur zur Durchführung dieses Gesetzes oder für die darin genannten Zwecke verwendet werden. Ein Geschäftstarif ändert daran nichts.
Meistens nicht. Eine Person ist auch anhand einer Kombination von Daten erkennbar: eine Funktion, ein Wohnort, ein Datum, ein ungewöhnlicher Ablauf. Solange jemand vernünftigerweise nachvollziehen kann, um wen es im Text geht, bleibt es ein personenbezogenes Datum. Das Entfernen verringert das Risiko, macht eine Akte aber nicht automatisch anonym.
Die Organisation ist als Verantwortlicher dafür verantwortlich, was mit den Daten ihrer Kunden geschieht, auch wenn ein Mitarbeiter eigeninitiativ handelt. Geschieht dies entgegen den Vereinbarungen, liegt nach Angaben der Autoriteit Persoonsgegevens eine Datenpanne vor; eine Meldung ist in vielen Fällen verpflichtend.
Je Claude-Tarif: Was mit Ihren Eingaben passiert, wie lange sie bleiben, ob ein Vertrag besteht und wo Ihre Daten gespeichert werden. Stand Oktober 2026.
Wo eine hochgeladene Datei landet, wie lange sie bleibt, wer Zugriff hat und was Löschen bedeutet. Mit vier Vorgehensweisen für personenbezogene Akten.
Wie eine Gesundheitspraxis mit PrivaSearch und eigenem KI-Assistenten in Aufnahmeberichten, Versorgungsverträgen und Beschwerdeakten sucht.
Wir zeigen es mit fiktiven Akten aus Ihrer Branche: Upload, Erkennung, Prüfung, Suche und die Verbindung mit Ihrem KI-Assistenten. Danach wissen Sie genau, was Ihr Team sicher nutzen kann.
Demo planen →