KI-Tools und Daten – was Sie nie hochladen sollten

Von /
KI-Tools und Daten – nachdenkliche Frau vor Icons für Daten, Passwort und Dokumente, im Zentrum ein durchgestrichenes Dokument.
Bild: KI-generiert

Wer generative KI-Tools wie ChatGPT, Copilot oder Gemini im Arbeitsalltag nutzt, tippt oft schneller, als er nachdenkt. Genau das wurde 2023 einem großen Elektronikkonzern zum Verhängnis: Innerhalb weniger Wochen luden drei Ingenieure von Samsung unabhängig voneinander vertrauliche Firmendaten in ChatGPT hoch – Quellcode, interne Testdaten und ein Besprechungsprotokoll. Das Unternehmen schränkte generative KI-Tools daraufhin unternehmensweit ein.

Damit Ihnen so etwas nicht passiert, zeigt dieser Beitrag, welche Daten in KI-Tools grundsätzlich nichts zu suchen haben – inklusive einer Vorlage für eine interne KI-Richtlinie, die Sie direkt für Ihr Unternehmen anpassen können.

Warum das Thema in jedem Unternehmen relevant ist

In unseren Schulungen erleben wir durchgängig dasselbe Muster: Mitarbeitende nutzen KI-Tools längst im Alltag – oft, bevor es dafür eine offizielle Freigabe oder Richtlinie gibt. Diese sogenannte Schatten-KI ist in vielen Unternehmen eher die Regel als die Ausnahme. Das eigentliche Risiko entsteht dabei selten aus böser Absicht, sondern aus reiner Praktikabilität: Ein Textentwurf soll schneller fertig werden, ein Fehler im Code schneller gefunden und schon landet eine Information in einem Tool außerhalb der eigenen IT-Infrastruktur.

Auch die Datenschutzkonferenz (DSK) weist in ihrer Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ darauf hin, dass Unternehmen vor jeder Nutzung prüfen müssen, ob personenbezogene Daten verarbeitet werden – und zwar über den gesamten Lebenszyklus einer Eingabe hinweg, nicht nur im Moment des Hochladens. Wer sich grundlegend mit den Chancen und Grenzen von KI-Tools vertraut machen möchte, findet in unserem KI-Kompetenzkurs einen praxisnahen Einstieg.

Was in einem KI-Tool nie landen darf

Nicht jede Information ist gleich kritisch, aber einige Kategorien gehören unabhängig vom eingesetzten Tool grundsätzlich nicht in ein öffentliches oder nicht vertraglich abgesichertes KI-System:

  • Besondere Kategorien personenbezogener Daten (Art. 9 DSGVO): Gesundheitsdaten, biometrische Daten, religiöse oder politische Zugehörigkeit – höchster Schutzbedarf, denn eine Verarbeitung ohne Rechtsgrundlage ist ein schwerwiegender DSGVO-Verstoß.
  • Kunden- und Beschäftigtendaten im Klartext: Namen mit Adresse oder Vertragsdaten, Gehaltsabrechnungen, Bewerbungsunterlagen – ohne Auftragsverarbeitungsvertrag mit dem KI-Anbieter fehlt meist die Rechtsgrundlage.
  • Geschäftsgeheimnisse: Quellcode, Konstruktionspläne, Rezepturen, Preiskalkulationen – sie verlassen dauerhaft die Kontrolle des Unternehmens, der Geheimnisschutz kann entfallen.
  • Vertrauliche Vertragsinhalte: NDA-geschützte Informationen, Kundenkonditionen – ein Vertragsbruch gegenüber Dritten ist möglich.
  • Zugangsdaten: Passwörter, API-Keys, Zugangstoken – ein direktes Sicherheitsrisiko, unabhängig vom Datenschutz.
  • Unveröffentlichte Unternehmenszahlen: Nicht veröffentlichte Finanzergebnisse, M&A-Pläne – insiderrechtliche Risiken, insbesondere bei börsennotierten Unternehmen.

Entscheidend ist dabei weniger die Absicht als die Kontrolle: Sobald eine Information ein Tool verlässt, dessen Server und Nutzungsbedingungen Sie nicht kennen, können Sie nicht mehr zuverlässig nachvollziehen, was damit geschieht. Was rechtlich als Geschäftsgeheimnis zählt, definiert § 2 GeschGehG; welche Daten zu den besonders schutzbedürftigen Kategorien zählen, regelt Art. 9 DSGVO.

Der Fall, der zeigt, wie schnell es passieren kann

Wie schnell aus alltäglicher Nutzung ein handfestes Problem wird, zeigte sich 2023 bei Samsung Semiconductor: Innerhalb von nur drei Wochen luden drei Ingenieure unabhängig voneinander sensible Informationen in ChatGPT hoch (The Register, 06.04.2023). Im ersten Fall sollte ein Fehler im Quellcode einer Prüfsoftware behoben werden, im zweiten eine Testsequenz zur Fehlererkennung optimiert werden. Im dritten Fall nahm ein Mitarbeiter ein internes Meeting mit dem Smartphone auf, ließ es transkribieren und von ChatGPT zu einem Protokoll verarbeiten. In allen drei Fällen verließen Geschäftsgeheimnisse die Kontrolle des Unternehmens – nicht aus böser Absicht, sondern aus reiner Praktikabilität. Samsung reagierte mit einer unternehmensweiten Einschränkung generativer KI-Tools, was das Unternehmen später gegenüber CNBC bestätigte (02.05.2023).

Genau diese drei Kategorien – Quellcode, interne Testdaten, Besprechungsinhalte – tauchen auch in unserer Beratungspraxis regelmäßig als Grauzonen auf, in denen sich Mitarbeitende am wenigsten sicher sind, ob eine Eingabe schon kritisch ist.

Vorlage: interne KI-Richtlinie zum Übernehmen

Eine Negativliste allein hilft wenig, wenn sie nicht schriftlich fixiert und im Team kommuniziert wird. Die folgende Kurzvorlage können Sie als Ausgangspunkt für Ihre eigene interne KI-Richtlinie nutzen und an Ihre Unternehmensstruktur anpassen:

Interne KI-Richtlinie – Kurzvorlage

1. Geltungsbereich: Diese Richtlinie gilt für die Nutzung von KI-Tools durch alle Mitarbeitenden im Rahmen ihrer Tätigkeit für [Unternehmen].

2. Freigegebene Tools: Für dienstliche Zwecke dürfen ausschließlich die folgenden KI-Anwendungen genutzt werden: [Liste einfügen].

3. Nie hochladen: Es dürfen keine Gesundheitsdaten, Zugangsdaten, Geschäftsgeheimnisse, unveröffentlichten Unternehmenszahlen oder personenbezogenen Daten von Kund:innen und Mitarbeitenden in nicht freigegebene KI-Tools eingegeben werden.

4. Prüfpflicht: Vor jeder Eingabe prüft die oder der Mitarbeitende, ob die Information einer der genannten Kategorien zuzuordnen ist.

5. Anlaufstelle: Bei Unsicherheit wenden sich Mitarbeitende an [Datenschutzbeauftragte:n/Ansprechperson einsetzen].

6. Verstöße: Verstöße gegen diese Richtlinie können arbeitsrechtliche Konsequenzen nach sich ziehen.

Trifft das auf Ihr Unternehmen zu?

Drei Fragen zeigen schnell, wo Sie stehen: Nutzen Mitarbeitende in Ihrem Unternehmen bereits KI-Tools, ohne dass es eine schriftliche Richtlinie dafür gibt? Verarbeiten Sie regelmäßig Kunden-, Beschäftigten- oder Geschäftsgeheimnisdaten, die in einem Prompt landen könnten? Gibt es bislang keine benannte Ansprechperson für Fragen zur KI-Nutzung? Beantworten Sie mindestens eine Frage mit Ja, lohnt sich eine eigene Richtlinie.

Checkliste: Bevor Sie KI-Tools im Team freigeben

  • Bestandsaufnahme: Welche KI-Tools nutzen Mitarbeitende bereits, offiziell oder inoffiziell?
  • Freigegebene Tools benennen und dokumentieren, inklusive Vertragsbedingungen (Auftragsverarbeitung, Serverstandort).
  • Negativliste im Team kommunizieren – am besten mit konkreten Beispielen aus dem eigenen Arbeitsalltag.
  • Richtlinie im Onboarding verankern, statt sie nur einmalig zu verschicken.
  • Ansprechperson für Zweifelsfälle benennen und im Team bekannt machen.

Was diese Richtlinie nicht leisten kann

Eine Negativliste und eine unterschriebene Richtlinie ersetzen keine rechtliche Prüfung im Einzelfall. Ob eine Information tatsächlich als Geschäftsgeheimnis gilt oder ob personenbezogene Daten im konkreten Fall verarbeitet werden, hängt von den Umständen ab . Hier sollte im Zweifel die Rechtsabteilung oder externe Beratung hinzugezogen werden.

Auch ein Enterprise- oder Business-Vertrag mit einem KI-Anbieter ändert an der Negativliste grundsätzlich wenig: Er kann die Auftragsverarbeitung regeln und ausschließen, dass Eingaben zum Training verwendet werden – ersetzt aber nicht die Prüfung, ob überhaupt eine Rechtsgrundlage für die Verarbeitung vorliegt. Und die beste Richtlinie nützt wenig, wenn sie niemand kennt: Ohne Schulung und wiederkehrende Erinnerung bleibt sie ein Dokument in der Schublade.

KI-Tools sicher und produktiv einsetzen

Wollen Sie die Verantwortung für KI-Compliance im Unternehmen nicht nur einmalig regeln, sondern dauerhaft steuern, lohnt sich ein Blick in unsere Ausbildung zum KI-Beauftragten für Compliance & EU AI Act – wie auch der eingangs erwähnte KI-Kompetenzkurs. Ob eine Förderung über das Qualifizierungschancengesetz für Ihr Team infrage kommt, klären wir gemeinsam im kostenlosen Fördercheck.

Häufige Fragen

Pauschal verboten ist das nicht, aber die Verarbeitung braucht eine Rechtsgrundlage und in der Regel eine vertragliche Grundlage mit dem KI-Anbieter (Auftragsverarbeitung). Ohne diese sollten personenbezogene Kundendaten grundsätzlich nicht im Klartext eingegeben werden. Prüfen Sie zunächst, ob eine anonymisierte Formulierung für Ihren Zweck ausreicht – oft lässt sich eine Frage auch ohne konkrete Namen oder Vertragsdetails stellen.

Ein Business- oder Enterprise-Vertrag verbessert die Ausgangslage oft deutlich, etwa weil Eingaben nicht zum Training verwendet werden und ein Auftragsverarbeitungsvertrag existiert. Er ersetzt aber nicht die Prüfung, ob für die konkrete Verarbeitung überhaupt eine Rechtsgrundlage vorliegt. Die Negativliste in diesem Beitrag bleibt daher auch mit einem solchen Vertrag ein sinnvoller Ausgangspunkt.

Eine verteilte Richtlinie allein verändert selten das tatsächliche Verhalten. Wirksamer ist es, die Richtlinie im Onboarding zu verankern, konkrete Beispiele aus dem eigenen Arbeitsalltag zu besprechen und eine Ansprechperson für Zweifelsfälle zu benennen. Ohne diesen Rahmen bleibt die Richtlinie ein Dokument, das schnell in Vergessenheit gerät.

Am wirksamsten ist ein offener Umgang statt nachträglicher Sanktionen: Fragen Sie im Team gezielt, welche Tools bereits genutzt werden, und beziehen Sie diese in die Bewertung mit ein. So erfahren Sie, wo tatsächlich Risiken bestehen, statt sie nur zu vermuten und die neue Richtlinie trifft auf reale statt auf angenommene Nutzung.

Hinweis: Dieser Beitrag bietet Umsetzungshilfe und ersetzt keine Rechtsberatung. Stand: September 2026.

Quellen

Ähnliche Beiträge

Nach oben scrollen