Schatten-KI

Durch künstliche Intelligenz (KI) können unternehmerische Arbeitsprozesse beschleunigt und effektiver gestaltet werden. Nach einer Umfrage im Auftrag des Digitalverbands Bitkom stellt im vergangenen Jahr ein Viertel (26 %) der Unternehmen seinen Mitarbeitenden einen Zugang zu KI-Systemen bereit, weitere Unternehmen planen die Einführung von KI-Systemen. Die Zahlen zeigen, dass das Bedürfnis zur Nutzung von KI-Systemen nicht nur im Alltag, sondern auch im Büro steigt. Sofern Unternehmen keine KI-Systeme eingeführt haben oder die bestehenden von den Mitarbeitenden als unzureichend oder langsam erachtet werden, steigt das Risiko für die Nutzung von Schatten-KI. Darunter ist die nicht autorisierte Anwendung von KI-Systemen oder Nutzung von KI-Tools durch Mitarbeitende zu verstehen. Es fehlt also eine Genehmigung oder Aufsicht durch die IT-Abteilung oder durch die Geschäftsführung. In einer Umfrage der Cybsafe Ltd. aus dem Jahr 2025 gab knapp die Hälfte (43 %) der Arbeitnehmer zu, bereits sensible Geschäftsinformationen ohne eine Freigabe durch den Arbeitgeber mit KI-Tools geteilt zu haben. Unternehmen sehen sich dann mit verschiedenen Risiken, wie etwa Datenlecks, datenschutzrechtlichen Sanktionen oder Rufschädigung, konfrontiert.

Anwendungsfälle

Für den Einsatz von KI ergeben sich im Unternehmensalltag verschiedene Anwendungsfälle, die eine Verarbeitung von personenbezogenen Daten beinhalten. Ein Personenbezug besteht zum Beispiel bei Kontakt- und Gesundheitsdaten sowie bei Interessen, Charaktereigenschaften oder bestimmte Kennzeichen ermöglichen die Identifizierung einer Person. Sind Mitarbeitende nicht im Datenschutzrecht geschult, geben sie möglicherweise unbewusst personenbezogene Daten in ein KI-System oder nutzen KI-Systeme, die offensichtlich datenschutzwidrig konfiguriert wurden.

Denkbar ist, dass Mitarbeitende im Kundenservice zur Formulierung einer E-Mail einen Chatbot nutzen und dort personenbezogene Daten des Kunden – wie dessen Interessen – eingeben. Aber auch bei der Erstellung oder Zusammenfassung von Texten handelt es sich oft um Dokumente mit personenbezogenen Daten eines Kunden, Mitarbeitenden oder Geschäftspartners.

Im Bereich Marketing ist es vorstellbar, dass KI für Kampagnen oder Social-Media-Beiträge genutzt wird und dafür Geschäftsgeheimnisse oder Fotos von anderen Mitarbeitenden preisgegeben werden.

Möchten Mitarbeitende im Vertrieb zur Analyse oder Datenvisualisierung die Kundendaten beispielsweise anhand von KI auswerten, kann es zum Profiling kommen. Wenn personenbezogene Daten automatisiert verarbeitet werden, um bestimmte persönliche Aspekte – wie die wirtschaftliche Lage oder die persönlichen Vorlieben – zu bewerten oder vorherzusagen, sind die strengen Anforderungen des Art. 22 DSGVO anwendbar. Danach haben betroffene Personen das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Bereits die ausschließlich automatisierte Ablehnung eines Bewerbers fällt unter das Verbot des Art. 22 Abs. 1 DSGVO und kann nur unter den Voraussetzungen dessen Abs. 2 legitimiert werden – die Datenverarbeitung muss für die Vertragserfüllung erforderlich sein, es muss eine nationale Rechtsvorschrift oder eine Einwilligung der betroffenen Person vorliegen. Gleiches gilt für andere ausschließlich auf einer automatisierten Verarbeitung beruhende Entscheidungen ohne menschliches Handeln.

Verlorene Datenkontrolle und vergessene Datenbestände

Unternehmen haben bei der Schatten-KI keine Kontrolle darüber, welche Informationen in welchen KI-Systemen verarbeitet wurden und wie lange diese dort gespeichert sind. 

Durch die Eingabe von personenbezogenen Daten in KI-Systeme werden diese Daten oftmals von dem Betreiber gespeichert und daher der Kontrolle durch das Unternehmen entzogen. Insbesondere nutzen Mitarbeitende oftmals kostenfreie Versionen, die nicht den europäischen Datenschutzstandards entsprechen und beispielsweise die eingegebenen Daten zu Trainingszwecken verwenden. Eine Nutzung zu eigenen Zwecken, eine Veröffentlichung oder ein anderweitiger Missbrauch der Daten durch den Betreiber kann möglicherweise nicht ausgeschlossen werden. Sofern die KI-Systeme Sicherheitslücken aufweisen, die nicht von dem Mitarbeitenden bemerkt werden, besteht eine Angriffsfläche für Cyberkriminelle. Außerdem kann die Nutzung der KI mit einer Datenübermittlung in Drittstaaten verbunden sein, die unter Umständen nicht ausreichend abgesichert ist.

Das Unternehmen muss bestimmte Anforderungen der DSGVO einhalten, darunter auch Informationspflichten. Durch die Schatten-KI verliert das Unternehmen aber Kontrolle über die Datenflüsse und kann gegenüber den betroffenen Personen nicht für eine transparente Datenverarbeitung sorgen. Etwaige Bußgelder oder Schadensersatzansprüche werden dann gegen das Unternehmen gerichtet und können einen hohen wirtschaftlichen Schaden herbeiführen. Schatten-KI kann potentiell besonders hohe wirtschaftliche Schäden verursachen, da ihre Nutzung in vielen Fällen erst sehr spät aufgedeckt werden kann. Wann das eigenmächtige Handeln von Mitarbeitenden dem Unternehmen zugerechnet werden kann und wer gegebenenfalls für den Datenschutzverstoß haftet, haben wir in unserer Newsletter-Ausgabe 10/2025 erklärt. Aber auch die Rufschädigung ist eine mögliche Folge, sobald die ungeprüfte Einbindung von KI-Systemen offenbart wird. Seit dem 2. August 2026 sind Unternehmen nach der europäischen Verordnung über künstliche Intelligenz (KI-VO) verpflichtet, offenzulegen, wenn Inhalte durch ein KI-System erstellt oder verändert wurden oder wenn Nutzer mit einer KI interagieren.

Zudem sind die von den Mitarbeitenden heimlich genutzten KI-Systeme nicht zwingend auf die Komplexität und Ansprüche des Unternehmens ausgelegt und können halluzinieren. So können etwa wissenschaftliche Studien oder Fachbegriffe erfunden werden. Dies kann falsche Entscheidungen oder Arbeitsergebnisse hervorrufen. Die Entscheidungsvorgänge können nicht mehr nachvollzogen und dokumentiert werden.

Während Unternehmen Löschkonzepte erstellen, Datenbestände dokumentieren und Aufbewahrungsfristen umsetzen, entstehen durch Schatten-KI neue Datenspeicher außerhalb dieser etablierten Prozesse. Personenbezogene Daten können auf den Servern des Betreibers verbleiben, obwohl sie in den eigenen Systemen längst gelöscht wurden. 

Handlungsschritte

Die Risiken im Zusammenhang mit Schatten-KI können durch verschiedene Handlungsschritte vom Unternehmen minimiert werden.

Zusammenarbeit mit der IT-Abteilung

Wenn KI-Systeme im Unternehmen genutzt werden sollen, sollte in erster Linie mit der IT-Abteilung zusammengearbeitet werden, um datenschutzkonforme KI-Systeme zu identifizieren und kontrolliert einzuführen. Durch die Bereitstellung von KI-Systemen durch das Unternehmen können datenschutzkonforme KI-Systeme ausgewählt werden und das Risiko von Schatten-KI und des Verlusts von Datenkontrolle bereits erheblich gesenkt werden. In diesem Zusammenhang kann auch geklärt werden, ob eine Nutzung nicht genehmigter KI-Systeme durch technische und organisatorische Maßnahmen überwacht beziehungsweise unterbunden werden kann, etwa durch rollenbasierte Zugriffskonzepte oder die Sperrung bestimmter Webseiten. 

Durch die Eingabe von personenbezogenen Daten in das Tool findet in der Regel eine Weitergabe der Daten an den Betreiber des KI-Systems statt, der diese Daten dann zur Generierung des Outputs im Falle einer Auftragsverarbeitung weisungsgebunden und im Auftrag weiterverarbeitet. Daher ist in diesen Fällen mit dem Betreiber des KI-Systems eine Vereinbarung zur Auftragsverarbeitung nach Art. 28 DSGVO abzuschließen.

Unternehmensinterne KI-Richtlinie

Unabhängig davon, ob ein KI-System im Unternehmen eingeführt wurde, ist es ratsam, eine unternehmensinterne Richtlinie für die Nutzung von KI im Beschäftigungskontext zu erlassen. Im vergangenen Jahr hatten mehr als die Hälfte (54 %) der Unternehmen interne Regeln für die Nutzung von KI bereits aufgestellt oder zumindest fest geplant (Befragung von 604 Unternehmen im Auftrag des Digitalverbands Bitkom). 

In der Richtlinie kann festgelegt werden, welche KI-Tools zu welchem Zweck verwendet werden dürfen. Ebenso können Verhaltensanweisungen enthalten sein, die festlegen, was bei der Nutzung beziehungsweise bei einzelnen Funktionen des Tools zu beachten ist. Das Unternehmen kann auch eine Kennzeichnungs- und Prüfpflicht statuieren, wonach die Mitarbeiter jeden Output des KI-Systems überprüfen müssen und die Einbindung des KI-Systems kennzeichnen müssen. Wichtig ist, dass die Richtlinie jederzeit von jedem Mitarbeitenden eingesehen werden kann.

Sensibilisierung der Mitarbeitenden

Unternehmen müssen nach Art. 4 Abs. 1 der KI-VO Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen, das in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst ist. Neben einer Belehrung in der unternehmensinternen Richtlinie ist die Organisation von Schulungen mit unternehmensspezifischen Anwendungsfällen empfehlenswert. Alternativ oder zusätzlich können Mitarbeitende durch Handreichungen und Merkblätter sensibilisiert werden.

Dokumentationspflicht

Im Rahmen der datenschutzrechtlichen Rechenschaftspflicht nach Art. 5 Abs. 2 DSGVO sollten Unternehmen den Einsatz der KI sowie die Sensibilisierung der Mitarbeitenden dokumentieren. Auch hierfür kann die unternehmensinterne Richtlinie dienen.

Fazit

Die Schatten-KI birgt für Unternehmen erhebliche datenschutzrechtliche Risiken. Werden KI-Systeme im Arbeitsalltag ohne Genehmigung und Kontrolle durch das Unternehmen eingesetzt, können personenbezogene Daten und Geschäftsgeheimnisse außerhalb der etablierten Datenschutz- und Löschkonzepte verarbeitet werden. Ausreichend ist bereits die personenbezogene Eingabe von Kundeninteressen in einen Chatbot zur Formulierung einer E-Mail oder die Zusammenfassung eines Dokumentes mit personenbezogenen Daten.

Das Unternehmen verliert die Kontrolle über die Datenflüsse und kann die datenschutzrechtlichen Pflichten der DSGVO – etwa die Informations- und Dokumentationspflichten oder die Sicherstellung eines angemessenen Schutzniveaus bei der Drittstaatenübermittlung – nicht mehr erfüllen. Neben Bußgeld- und Haftungsrisiken erfährt das Unternehmen möglicherweise auch eine Rufschädigung und verliert seine Wettbewerbsvorteile. Auch entstehen durch Schatten-KI neue Datenspeicher außerhalb von Löschkonzepten und Dokumentationen, die erst spät aufgedeckt werden können.

Unternehmen sollten daher gemeinsam mit der IT-Abteilung geeignete und datenschutzkonforme KI-Systeme auswählen, ein klare unternehmensinterne KI-Richtlinie schaffen und ihre Mitarbeitenden regelmäßig schulen, um die Nutzung von KI verantwortungsvoll zu gestalten und das Risiko von Schatten-KI reduzieren.