Generative KI nutzen, ohne Daten preiszugeben
Jemand fügt einen Kundenvertrag in einen Chatbot ein, um eine Zusammenfassung zu bekommen. Eine andere Person lässt ein Mitarbeitergespräch samt Namen ausformulieren, eine dritte bittet um die Auswertung einer Exportdatei mit Personaldaten.
In keinem dieser Fälle lag böse Absicht vor, aber in allen dreien fehlte dasselbe Wissen: was mit den Inhalten geschieht, die im Eingabefeld landen. Dieses Verständnis steht im Zentrum von Artikel 4 der KI-Verordnung, und es lässt sich in einer Stunde vermitteln.
Auf einen Blick
- Ob ein Tool als Verbraucherversion oder in einer geschäftlichen Umgebung mit Auftragsverarbeitungsvertrag läuft, entscheidet, was mit den Eingaben passiert. Am Bildschirm ist das oft kaum zu erkennen.
- Vier Kategorien decken die meisten Vorfälle ab: personenbezogene Daten, betriebsvertrauliche Unterlagen, Quellcode mit Zugangsschlüsseln und Material, das unter Geheimhaltung steht.
- Zu jeder Regel gehört eine Alternative. Anonymisieren zum Beispiel verändert das Ergebnis einer Zusammenfassung selten.
- Ein Sprachmodell sagt das nächste Wort voraus. Ein flüssiger Stil sagt deshalb nichts über die Richtigkeit aus. Namen, Zahlen, Datumsangaben und Rechtsverweise sollten an der Quelle geprüft werden.
- Vier Regeln auf einer Seite, einmal an echten Beispielen besprochen, können bereits als Maßnahme nach Artikel 4 gelten.
Was ist generative KI?
Generative KI erzeugt auf Basis von Mustern in Trainingsdaten neue Inhalte, etwa Texte, Bilder, Code oder Ton. Im Arbeitsalltag tritt sie meist als Chatbot auf, der auf eine Anweisung in normaler Sprache einen Text zurückgibt.
Was mit Ihrer Eingabe geschieht
Zwischen einer Verbraucherversion eines Chatbots und einer geschäftlichen Umgebung mit Auftragsverarbeitungsvertrag liegt ein erheblicher Unterschied. In der Verbraucherversion kann Ihre Eingabe zum weiteren Training des Modells verwendet werden. In einer geschäftlichen Umgebung ist das vertraglich in aller Regel ausgeschlossen.
Die meisten Menschen kennen diese Unterscheidung nicht, und auf dem Bildschirm ist sie selten zu erkennen. Zwei Browser-Tabs können identisch aussehen, während der eine unter Ihrem Vertrag läuft und der andere unter einem privaten Konto.
Damit ist die erste wirksame Regel gefunden: Benennen Sie die freigegebene Umgebung ausdrücklich und sorgen Sie dafür, dass Ihre Mitarbeitenden erkennen können, in welcher sie sich befinden. Diese Festlegung gehört in Ihre KI-Richtlinie.
Was außerhalb des Prompts bleibt
Eine kurze Liste bleibt im Kopf. Vier Kategorien decken nahezu alle Vorfälle ab.
- Personenbezogene Daten von Kunden, Beschäftigten oder Bewerbern, auch Namen in scheinbar harmlosem Zusammenhang.
- Betriebsvertrauliche Unterlagen, etwa Verträge, Angebote oder Zahlen vor der Veröffentlichung.
- Quellcode und Konfigurationsdaten, einschließlich Zugangsschlüsseln und Passwörtern.
- Alles, was einer Geheimhaltungsvereinbarung mit Dritten unterliegt.
Nennen Sie auch eine praktikable Alternative, sonst kommt die Frage wieder. Anonymisieren reicht oft aus: Namen durch Rollen ersetzen, Beträge durch Größenordnungen. Für eine Zusammenfassung ändert das am Ergebnis selten etwas. Wie viel Tiefe welche Gruppe braucht, steht in KI-Schulung nach Rollen.
Warum flüssig und richtig auseinanderfallen
Ein Sprachmodell sagt voraus, welches Wort wahrscheinlich folgt. Das macht die Ausgabe flüssig, selbstsicher und gut formuliert, unabhängig davon, ob der Inhalt stimmt.
Dieses Risiko schätzen Menschen schlechter ein als jedes andere. Einer Kollegin, die zweifelt, hören Sie das an. Ein Modell, das eine Jahreszahl, einen Paragrafen oder eine Quellenangabe erfindet, tut das im selben Tonfall wie alles andere.
Die Arbeitsregel, die daraus folgt: Jede Tatsachenbehauptung, die nach außen geht oder in eine Entscheidung einfließt, wird an der Quelle geprüft. Bei Namen, Zahlen, Datumsangaben, Zitaten und Verweisen auf Rechtsvorschriften geht es häufiger schief als bei anderen Angaben. Halten Sie fest, dass Sie diese Regel festgelegt haben, denn das zählt für Ihre Dokumentation.
Wie Sie die Regeln in einer Stunde festlegen
Für ein Team, das morgen beginnen will, genügt das als Start.
- Eine freigegebene Umgebung, beim Namen genannt, und woran Sie erkennen, dass Sie darin arbeiten.
- Die vier Kategorien, die außerhalb des Prompts bleiben, mit dem Anonymisieren als Alternative.
- Die Prüfregel für Tatsachen, die nach außen gehen.
- Eine Adresse für Zweifelsfälle.
Fassen Sie diese vier Punkte auf einer Seite zusammen, gehen Sie sie einmal mit dem Team anhand von drei Beispielen aus der eigenen Arbeit durch, und halten Sie fest, dass Sie es getan haben. Damit haben Sie zugleich eine Maßnahme im Sinne von Artikel 4 und eine Arbeitsweise, der Ihre Mitarbeitenden tatsächlich folgen. Weitere Leitfäden finden Sie im Wissensbereich KI-Kompetenz.
Häufig gestellte Fragen
Das hängt von der Umgebung ab. In einer geschäftlichen Umgebung mit Auftragsverarbeitungsvertrag ist die Nutzung von Unternehmensdaten meist vertraglich geregelt. In einer Verbraucherversion kann die Eingabe zum Training verwendet werden, deshalb gehören vertrauliche Daten dort nicht hinein.
Am Text selbst selten, weil ein Modell falsche Inhalte im selben überzeugenden Tonfall formuliert. Die Arbeitsregel lautet deshalb: Jede Tatsachenbehauptung, die nach außen geht, wird an der Quelle geprüft, besonders bei Namen, Zahlen, Datumsangaben und Rechtsverweisen.
Für die meisten Alltagsfragen hilft es erheblich: Namen durch Rollen ersetzen, Beträge durch Größenordnungen. Achten Sie auf Kombinationen, die eine Person dennoch bestimmbar machen, etwa Funktion, Standort und Datum zusammen in einem kleinen Team.
Ja. Die Pflicht aus Artikel 4, Maßnahmen für die KI-Kompetenz zu ergreifen, gilt unabhängig von der Risikoklasse des Systems, also auch für den Textgenerator, den niemand für heikel hält. Seit dem 2. August 2026 gelten außerdem die Transparenzpflichten nach Artikel 50.
Melden Sie es auf demselben Weg wie einen möglichen Datenschutzvorfall, damit der Datenschutzbeauftragte die Meldepflicht prüfen kann. Löschen Sie die Konversation, soweit möglich, und halten Sie fest, was eingegeben wurde.
Wo steht Ihre KI-Kompetenz heute?
Mit Studytube setzen Sie auf Lernen mit Wirkung. Entdecken Sie in einer unverbindlichen Demo, wie unsere Lernplattform Weiterbildung in Ihrer Organisation strukturiert, nachweisbar und messbar macht.