Kundendaten in den KI-Chat kopiert – das ist eine Verarbeitung
Wer Kundenlisten, Personalakten oder Quellcode in einen fremden KI-Dienst kopiert, verarbeitet Daten bei einem Dritten. Was daraus folgt.
Aufwand:
ca. 1 Std.
Voraussetzung:
Die Nutzungsbedingungen des Dienstes, Das Verzeichnis der Verarbeitungstätigkeiten, Jemanden, der im Betrieb für Datenschutz zuständig ist
Gilt für:
Chat-Dienste mit Sprachmodell, KI-Funktionen in Office- und CRM-Anwendungen, Übersetzungs- und Zusammenfassungsdienste, Programmierassistenten in der IDE
Das Symptom
Die Tabelle mit den offenen Posten soll zusammengefasst werden, das
Kündigungsschreiben freundlicher klingen, der Fehlerbericht aus dem Ticket lesbar
werden. Also: markieren, kopieren, in das Chatfenster einfügen, absenden. Es
funktioniert hervorragend, es geht schnell, und es fühlt sich an wie die Benutzung
eines besseren Textverarbeitungsprogramms. Nichts warnt, nichts fragt nach, kein
Dialog will eine Bestätigung. Der Vorgang hinterlässt im Betrieb keine Spur – bis
jemand fragt, wo diese Daten eigentlich überall gewesen sind.
Die „Layer 8“-Wahrheit
Das Chatfenster sieht aus wie ein Werkzeug auf deinem Rechner und ist ein fremdes
Rechenzentrum mit einer Texteingabe davor. Alles, was du dort einfügst, verlässt
den Betrieb. Die DSGVO braucht für diesen Vorgang keine besondere Vorschrift für
Künstliche Intelligenz, weil die allgemeine längst passt: Artikel 4 Nummer 2 zählt
zur Verarbeitung ausdrücklich auch die Nutzung und die Offenlegung durch
Übermittlung oder anderweitige Bereitstellung. Kopieren und Absenden ist genau
das. Und der Dienst, der es entgegennimmt, ist nach Artikel 4 Nummer 8 ein
Auftragsverarbeiter, sobald er das im Auftrag deines Betriebs tut. Verantwortlich
bleibt der Betrieb – nicht der Anbieter, nicht das Modell, nicht der Praktikant,
der es zuerst ausprobiert hat.
Der zweite Teil ist noch banaler: Du weißt nicht, was mit deiner Eingabe passiert,
solange du es nicht nachgelesen hast. Das BSI führt als reale Möglichkeiten die
Weitergabe an Drittunternehmen, die Verwendung zur Weiterentwicklung der KI und
die Auswertung des Nutzungsverhaltens auf und empfiehlt, sich zu informieren, was
mit den eigenen Eingaben geschieht. Das ist keine Warnung vor der Technik, sondern
vor der Annahme. Praktisch läuft alles auf drei nüchterne Handgriffe hinaus:
nachlesen, was der Anbieter mit Eingaben tut; einen Vertrag haben, bevor echte
Daten fließen; und vorher wegnehmen, was das Modell für die Aufgabe ohnehin nicht
braucht. Das ist weniger aufregend als eine Diskussion über die Zukunft der Arbeit
und deutlich billiger als deren Aufarbeitung.
Die echte, verifizierte Lösung
1000 % faktenbasiert. Jeder Befehl ist real, jeder Pfad existiert. Schritt für Schritt:
1.
Vor dem Einfügen eine Sekunde innehalten
Die entscheidende Frage lautet nicht „darf ich das?“, sondern „wer steht hier drin?“. Namen, Kundennummern, Personalnummern, Krankheitsangaben, Gehälter, Adressen, Fotos, IP-Adressen und Bewerbungsunterlagen sind personenbezogen. Wenn eine dieser Kategorien im Text steckt, ist der Vorgang keine Kleinigkeit mehr, sondern eine Verarbeitung mit Regeln.
2.
Nachlesen, was der Anbieter mit Eingaben macht
In den Nutzungsbedingungen und der Datenschutzerklärung des konkreten Tarifs nachsehen – nicht auf der Werbeseite. Gesucht werden vier Punkte: Werden Eingaben gespeichert und wie lange, werden sie zum Training verwendet, werden sie an Dritte weitergegeben, und in welchem Land stehen die Server. Das BSI rät, genau diese Angaben auf der Website des Anbieters oder in den allgemeinen Geschäftsbedingungen zu suchen. Steht dazu nichts Klares, ist das die Antwort.
3.
Die Vereinbarung zur Auftragsverarbeitung besorgen
Für den betrieblichen Einsatz gehört ein Vertrag zur Auftragsverarbeitung in die Akte, bevor die ersten echten Daten hineinlaufen. Seriöse Anbieter halten ein solches Dokument zum Abschluss bereit. Gibt es keines, ist der Dienst für personenbezogene Daten nicht einsetzbar – unabhängig davon, wie gut er funktioniert.
4.
Den Vorgang ins Verzeichnis der Verarbeitungstätigkeiten aufnehmen
Ein KI-Dienst, der regelmäßig mit Kunden- oder Beschäftigtendaten gefüttert wird, ist eine Verarbeitungstätigkeit wie jede andere und gehört dokumentiert: Zweck, Kategorien der Daten, Empfänger, Löschfristen. Das ist lästig und dauert eine halbe Stunde. Es später zu rekonstruieren, weil jemand nachfragt, dauert deutlich länger.
5.
Daten reduzieren, bevor sie den Betrieb verlassen
Sehr oft braucht das Modell die Person gar nicht. Namen durch Platzhalter ersetzen, Kundennummern entfernen, den Beispieldatensatz statt der echten Tabelle nehmen – die Antwort wird dadurch selten schlechter. Was nie hinausgeht, muss auch nicht vertraglich abgesichert, dokumentiert und wieder gelöscht werden.
6.
Eine Regel aufschreiben, die auch ohne dich funktioniert
Der teuerste Fall ist nicht der bewusste Verstoß, sondern die Kollegin, die es gut meinte und nichts von den Bedingungen wusste. Eine halbe Seite genügt: welcher Dienst freigegeben ist, welche Daten hinein dürfen und welche nicht, und an wen man sich bei Zweifeln wendet. Dazu die Kontrolle der Zugriffsrechte – das BSI empfiehlt, KI-Anwendungen nur „Zugriff auf Ressourcen, die zur Aufgabenerfüllung nötig sind“ zu geben.
Häufige Fragen (FAQ)
?Ich habe doch nur einen Text hineinkopiert. Ist das wirklich schon eine Datenverarbeitung?
Ja, und die Verordnung ist an dieser Stelle bemerkenswert unromantisch. Artikel 4 Nummer 2 DSGVO definiert Verarbeitung als „jeder mit oder ohne Hilfe automatisierter Verfahren ausgeführte Vorgang oder jede solche Vorgangsreihe im Zusammenhang mit personenbezogenen Daten“ und zählt dann auf, was alles dazugehört – unter anderem das Erheben, die Speicherung, die Nutzung und „die Offenlegung durch Übermittlung, Verbreitung oder anderweitige Bereitstellung“. Kopieren, Einfügen, Absenden: Das ist Übermittlung und Nutzung in einem Zug. Es gibt keine Bagatellgrenze für „war ja nur ein Absatz“ und keine Ausnahme für „ich wollte es nur schnell umformulieren lassen“. Sobald in dem Text ein Mensch erkennbar ist – Name, Kundennummer, Adresse, Krankmeldung, Kontostand – greift die Verordnung.
?Was passiert mit dem, was ich eingebe?
Das steht nicht in der Technik, sondern in den Bedingungen des Anbieters – und dort steht es je nach Tarif unterschiedlich. Das BSI empfiehlt Anwendern ausdrücklich, sich zu informieren, „was mit Ihren Eingaben an die KI passiert“, und nennt als reale Möglichkeiten die Weitergabe an Drittunternehmen, die Verwendung zur Weiterentwicklung der KI und die Analyse des Nutzungsverhaltens. Nüchtern heißt das: Deine Eingabe kann gespeichert werden, sie kann von Menschen zur Qualitätssicherung gelesen werden, sie kann ins Training fließen, und sie liegt möglicherweise auf Servern außerhalb der EU. Nichts davon ist automatisch verboten. Aber nichts davon darfst du raten, wenn fremde Daten im Spiel sind – du musst es nachgelesen haben.
?Der Anbieter wirbt mit Datenschutz. Reicht das?
Werbung ist keine Rechtsgrundlage. Wenn ein Dienst personenbezogene Daten in deinem Auftrag verarbeitet, ist er nach Artikel 4 Nummer 8 DSGVO Auftragsverarbeiter – „eine natürliche oder juristische Person, Behörde, Einrichtung oder andere Stelle, die personenbezogene Daten im Auftrag des Verantwortlichen verarbeitet“. Verantwortlicher bleibst du beziehungsweise dein Betrieb. Das bedeutet: Es braucht eine schriftliche Vereinbarung mit dem Anbieter, der Vorgang gehört ins Verzeichnis der Verarbeitungstätigkeiten, und die Betroffenen müssen wissen, dass ihre Daten dort landen. Ein Häkchen bei „Meine Daten nicht zum Training verwenden“ ersetzt das alles nicht – es reduziert nur eine von mehreren Fragen.
?Und wenn keine personenbezogenen Daten drin sind, etwa bei Quellcode?
Dann greift die DSGVO nicht, aber der Rest der Welt schon. Quellcode, Kalkulationen, Angebotstexte, Vertragsentwürfe und interne Protokolle sind Geschäftsgeheimnisse, und für die gilt schlicht das, was mit dem Kunden, dem Auftraggeber oder dem Lizenzgeber vereinbart wurde. Eine Verschwiegenheitsvereinbarung, die die Weitergabe an Dritte untersagt, meint auch den KI-Dienst – der ist ein Dritter, ganz gleich wie bequem er ist. Das BSI formuliert für die Eingabeseite eine Faustregel, die unspektakulär und richtig ist: so wenig sensible Daten wie möglich mit einer KI-Anwendung teilen. Und es benennt den Grund dafür ohne Umschweife: Wenn Aufgaben formuliert werden, besteht die Möglichkeit, dass der Betreibende der KI-Anwendung auf diese Daten zugreift.
Belege
Diese Seite ist gegen die folgenden Primärquellen geprüft – Hersteller, Standard oder Gesetzestext. Wer es nicht glaubt, muss es nicht: Da steht, wo es nachzulesen ist.
Datenübertragbarkeit gilt nur bei Einwilligung oder Vertrag, nur automatisiert und nur für selbst bereitgestellte Daten. Das ist weniger als Artikel 15.