Wer personenbezogene Daten mit KI verarbeitet, braucht eine Rechtsgrundlage, einen Vertrag zur Auftragsverarbeitung mit dem Anbieter, Klarheit über Speicherort und Nutzung der Daten zum Training sowie Transparenz gegenüber Betroffenen. Am sichersten sind Business-Angebote mit EU-Datenverarbeitung und ausgeschaltetem Training – und klare interne Regeln.
Die wichtigsten Fragen vor dem Einsatz
- Welche Daten werden eingegeben – personenbezogene, vertrauliche, Geschäftsgeheimnisse?
- Auf welcher Rechtsgrundlage geschieht das?
- Gibt es einen Vertrag zur Auftragsverarbeitung mit dem Anbieter?
- Wo werden die Daten verarbeitet – in der EU oder außerhalb?
- Werden Eingaben zum Training des Modells verwendet?
- Wie lange werden Daten gespeichert?
Business statt privat
Private Gratis-Konten sind für Unternehmensdaten tabu. Business- und API-Angebote bieten meist Auftragsverarbeitungsverträge, kürzere Speicherfristen und den Ausschluss vom Training.
Interne Regeln aufstellen
- Welche Tools sind erlaubt?
- Welche Daten dürfen hinein, welche nie?
- Wer prüft KI-Ergebnisse vor der Verwendung?
- Wie werden Mitarbeitende geschult?
Die Schulungspflicht folgt seit Februar 2025 auch aus dem EU AI Act – siehe EU AI Act für KMU.
Automatisierte Entscheidungen
Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung dürfen nach der DSGVO grundsätzlich nicht ausschließlich automatisiert getroffen werden. Bei Bewerbungen, Krediten oder Verträgen gehört deshalb ein Mensch in die Entscheidung.
Technische Möglichkeiten
- personenbezogene Daten vor der Verarbeitung entfernen oder pseudonymisieren
- Modelle mit EU-Hosting oder selbst betriebene Modelle nutzen
- Zugriffe und Eingaben protokollieren
- Antworten auf freigegebenes Wissen beschränken
Mehr zu Datenschutz von Anfang an: DSGVO in der Softwareentwicklung.
Dieser Beitrag ersetzt keine Rechtsberatung.
Quellen und weiterführende Links
- Verordnung (EU) 2016/679 – Datenschutz-Grundverordnung, EUR-Lex
- Verordnung (EU) 2024/1689 – KI-Verordnung (AI Act), EUR-Lex
- Landesbeauftragter für Datenschutz und Informationsfreiheit Baden-Württemberg
Stand: 18. Oktober 2026. Gesetze, Förderbedingungen und Plattformregeln ändern sich – maßgeblich ist jeweils die aktuelle Fassung der verlinkten Stelle.
Häufige Fragen
Darf ich Kunden-E-Mails von KI beantworten lassen?
Mit passender Rechtsgrundlage, Auftragsverarbeitung und menschlicher Kontrolle ja. Kläre die Details mit deinem Datenschutzbeauftragten.
Muss ich KI in der Datenschutzerklärung erwähnen?
Wenn du personenbezogene Daten mit KI-Diensten verarbeitest, gehört das in die Datenschutzinformationen.