KI und DSGVO: Firmendaten sicher mit KI nutzen

Firmendaten sicher mit KI zu nutzen, heißt vor allem zu entscheiden, welche Daten wohin dürfen. Unkritische Texte können über Business-Angebote von Cloud-Anbietern mit Auftragsverarbeitungsvertrag laufen. Personenbezogene oder vertrauliche Daten sind bei einem Modell mit Hosting in der EU oder im Betrieb im eigenen Haus besser aufgehoben. Kundendaten, Personalakten und Betriebsgeheimnisse gehören nie in frei verfügbare öffentliche Chatbots. Der folgende Überblick ist eine technische Orientierung, keine Rechtsberatung.

Warum ist KI ein Datenschutzthema für jedes KMU?

KI ist ein Datenschutzthema, weil Mitarbeiter KI-Dienste oft schon nutzen, ohne dass der Betrieb davon weiß. Eine Kundenbeschwerde wird zum Umformulieren in einen Chatbot kopiert, ein Vertrag zum Zusammenfassen hochgeladen, eine Bewerbung zur Einschätzung eingefügt. In jedem dieser Fälle verlassen personenbezogene oder vertrauliche Daten den Betrieb, ohne dass Zweck, Empfänger und Vertrag geklärt sind.

Die DSGVO verbietet KI nicht. Sie verlangt aber, dass für jede Verarbeitung personenbezogener Daten klar ist, wozu sie geschieht, auf welcher Rechtsgrundlage, wer die Daten erhält und wie sie geschützt sind. Bei KI-Diensten kommen Fragen dazu, die bei klassischer Software seltener sind: Werden Eingaben zum Training verwendet? Wo wird gerechnet? Wie lange werden Anfragen gespeichert?

Welche Daten gehören nicht in öffentliche Chatbots?

In frei verfügbare öffentliche Chatbots gehören keine Daten, die Sie nicht auch in eine E-Mail an einen Unbekannten schreiben würden. Bei Gratis- und Verbraucher-Versionen fehlt in der Regel ein Auftragsverarbeitungsvertrag, und die Nutzungsbedingungen erlauben oft eine weitere Verwendung der Eingaben.

• Kundendaten mit Namen, Adressen, Kontakt- oder Vertragsdaten
• Personalunterlagen, Bewerbungen, Gesundheits- oder Krankenstandsdaten
• Angebote, Kalkulationen, Preislisten und Vertragsentwürfe mit Kundenbezug
• Konstruktionsdaten, Rezepturen, Quellcode und andere Betriebsgeheimnisse
• Zugangsdaten, Netzpläne, Konfigurationen und Sicherheitsinformationen

Cloud-KI, EU-Hosting oder lokal: welche Variante passt?

Für den Betrieb von KI gibt es im Wesentlichen drei Varianten, die sich darin unterscheiden, wo die Daten verarbeitet werden, wie leistungsfähig das Modell ist und wie viel Betreuung nötig ist. Die Wahl hängt davon ab, wie sensibel die Daten des jeweiligen Anwendungsfalls sind, nicht davon, welche Variante gerade viel diskutiert wird.

Cloud-KI großer Anbieter

Cloud-KI großer Anbieter bietet sehr leistungsfähige Modelle und ist ohne eigene Hardware sofort nutzbar. Für den betrieblichen Einsatz kommen nur Business- oder API-Angebote infrage, bei denen ein Auftragsverarbeitungsvertrag geschlossen wird und die Verwendung der Eingaben für das Training ausgeschlossen ist. Je nach Anbieter und Angebot werden Daten außerhalb der EU verarbeitet, was zusätzliche Prüfungen erfordert. Geeignet ist diese Variante für allgemeine Texte, Recherche und Inhalte ohne Personenbezug.

KI-Modelle mit Hosting in der EU

Beim Hosting in der EU läuft das Modell in einem Rechenzentrum innerhalb der EU, entweder als Angebot eines Cloud-Anbieters mit festgelegter Region oder als offen verfügbares Modell auf gemieteter Infrastruktur. Das vereinfacht die Frage der Übermittlung in Drittländer und bietet einen guten Mittelweg zwischen Leistungsfähigkeit und Kontrolle. Vertrag, Zugriffsrechte und Protokollierung müssen trotzdem sauber geregelt sein.

KI im eigenen Haus (on-premise)

Bei KI im eigenen Haus läuft ein offen verfügbares Modell auf einem Server im eigenen Serverraum oder Rechenzentrum, und Anfragen verlassen das eigene Netz nicht. Das ist sinnvoll, wenn regelmäßig sensible Kunden-, Personal- oder Produktionsdaten verarbeitet werden. Die lokal betriebenen Modelle sind meist kleiner als die größten Cloud-Modelle, reichen für klar umrissene Aufgaben wie Dokumentensuche oder Belegauswertung aber häufig aus. Der Server muss abgesichert, aktualisiert und überwacht werden wie jedes andere System.

Was sollte in einem Auftragsverarbeitungsvertrag mit einem KI-Anbieter geklärt sein?

Ein Auftragsverarbeitungsvertrag mit einem KI-Anbieter regelt, dass der Anbieter personenbezogene Daten nur im Auftrag und nach Weisung des Betriebs verarbeitet. Bei KI-Diensten lohnt sich ein genauer Blick auf einige Punkte, die bei klassischer Software weniger im Vordergrund stehen. Die folgende Liste ist eine technische Checkliste für das Gespräch mit dem Anbieter und dem Datenschutzbeauftragten, keine rechtliche Prüfung.

• Werden Eingaben und Ergebnisse zum Training oder zur Verbesserung der Modelle verwendet, und lässt sich das vertraglich ausschließen?
• In welchen Regionen und Rechenzentren werden Anfragen verarbeitet, und welche Unterauftragnehmer sind beteiligt?
• Wie lange werden Anfragen und Protokolle gespeichert, und wie werden sie gelöscht?
• Wer beim Anbieter hat in welchen Fällen Zugriff auf Inhalte, etwa zur Missbrauchsprüfung?
• Welche technischen und organisatorischen Maßnahmen schützen die Daten, und wie werden Vorfälle gemeldet?

Fehlt ein solcher Vertrag oder lässt sich die Verwendung der Eingaben zum Training nicht ausschließen, ist der Dienst für personenbezogene oder vertrauliche Daten im Betrieb nicht geeignet, unabhängig davon, wie gut er technisch arbeitet.

Was bedeutet der EU AI Act für den KI-Einsatz im KMU?

Der EU AI Act ist eine EU-Verordnung, die KI-Systeme nach ihrem Risiko einordnet und daran Pflichten knüpft. Einige Anwendungen sind verboten, für Hochrisiko-Anwendungen – etwa bestimmte Systeme, die über Personen in Beschäftigung oder Zugang zu Leistungen entscheiden – gelten strenge Anforderungen, für viele andere vor allem Transparenzpflichten. Wer KI im Betrieb einsetzt, sollte außerdem dafür sorgen, dass die Mitarbeiter, die damit arbeiten, ausreichend über Möglichkeiten und Risiken Bescheid wissen.

Für typische KMU-Anwendungen wie Textentwürfe, Dokumentensuche oder Belegauswertung bedeutet das in der Praxis: wissen, welche KI-Systeme im Einsatz sind, Mitarbeiter schulen, KI-generierte Inhalte gegenüber Kunden dort kennzeichnen, wo es verlangt ist, und vorsichtig sein, sobald KI Entscheidungen über Menschen vorbereitet, etwa bei Bewerbungen. Die konkrete rechtliche Einordnung eines Anwendungsfalls gehört zu einer Rechtsberatung oder zum Datenschutzbeauftragten.

Wie gehen Sie konkret vor, um Firmendaten sicher mit KI zu nutzen?

1. 01Bestandsaufnahme: Welche KI-Dienste werden im Betrieb bereits genutzt, offiziell oder inoffiziell, und mit welchen Daten?
2. 02Daten einstufen: öffentliche, interne, vertrauliche und personenbezogene Daten unterscheiden und für jede Stufe festlegen, welche Betriebsvariante erlaubt ist.
3. 03Dienste auswählen und vertraglich absichern: Business-Angebote mit Auftragsverarbeitungsvertrag, EU-Hosting oder Betrieb im eigenen Haus, je nach Datenstufe.
4. 04Zugriffsrechte übernehmen: Eine KI darf nur sehen, was der fragende Mitarbeiter auch ohne KI sehen dürfte.
5. 05Protokollierung einrichten: nachvollziehbar machen, wer welchen Dienst wofür nutzt, ohne die Inhalte unnötig lange zu speichern.
6. 06Nutzungsregeln schreiben und schulen: eine Seite, klar formuliert, mit Beispielen aus dem eigenen Betrieb.
7. 07Datenschutz einbinden: Verarbeitungsverzeichnis ergänzen und den Datenschutzbeauftragten oder die rechtliche Beratung bei neuen Anwendungsfällen beiziehen.

Warum sind Zugriffsrechte bei KI so wichtig?

Zugriffsrechte sind bei KI wichtig, weil eine Wissenssuche über alle Dateien eines Betriebs sonst Dinge zugänglich macht, die vorher nur gut versteckt waren. Wenn ein Mitarbeiter fragt, was ein Kollege verdient, und die Gehaltsliste irgendwo in einem schlecht berechtigten Ordner liegt, findet eine KI sie. Die Berechtigungen der Ablage müssen deshalb vor der Anbindung geprüft und in der KI-Anwendung durchgesetzt werden. Wie man den ersten Anwendungsfall auswählt und einen Pilot aufsetzt, beschreiben wir im Beitrag über die KI-Einführung im Betrieb.

Wie unterstützt NDVDL beim sicheren Einsatz von KI?

NDVDL beginnt mit einer Bestandsaufnahme in Ihrem Betrieb: Wir sehen uns an, welche KI-Dienste schon genutzt werden, welche Daten dabei im Spiel sind und wie Ablage und Berechtigungen heute aussehen. Danach bekommen Sie einen schriftlichen Vorschlag, welche Variante für welchen Anwendungsfall passt: Cloud-Angebot mit Vertrag, Hosting in der EU oder Betrieb im eigenen Haus.

Wir setzen die gewählte Lösung um, kümmern uns bei lokalem Betrieb um Server, Netzwerk und Absicherung, richten Berechtigungen und Protokollierung ein und betreiben und warten das System danach. Sie haben einen festen Ansprechpartner dafür. Die rechtliche Bewertung bleibt bei Ihrem Datenschutzbeauftragten oder Ihrer Rechtsberatung; wir liefern die technischen Informationen, die dafür gebraucht werden.