KI-Assistenten und DSGVO: Was muss stimmen?

Ein KI-Assistent ist mit der DSGVO vereinbar, wenn sechs Dinge stimmen: eine Rechtsgrundlage nach Art. 6 Abs. 1 DSGVO, ein Auftragsverarbeitungsvertrag nach Art. 28 mit jedem Anbieter, eine Übermittlungsgrundlage für US-Dienste, Datenschutzhinweise nach Art. 13, Löschfristen nach Art. 5 Abs. 1 lit. e und bei Telefon eine Einwilligung vor jeder Aufzeichnung.

Die Fragen unten stellen sich Geschäftsführer vor dem Start eines Assistenten. Jede Antwort nennt die Norm, damit Sie sie mit Ihrem Datenschutzbeauftragten abgleichen können.

Auf welcher Rechtsgrundlage darf der Assistent Daten verarbeiten?

Beantwortet der Assistent eine Anfrage, bucht einen Termin oder nimmt einen Auftrag auf, ist die Rechtsgrundlage Art. 6 Abs. 1 lit. b DSGVO: Die Verarbeitung ist zur Erfüllung eines Vertrags oder zur Durchführung vorvertraglicher Maßnahmen auf Anfrage der betroffenen Person erforderlich. Der Anrufer will etwas von Ihnen, der Assistent liefert es.

Alles darüber hinaus läuft über Art. 6 Abs. 1 lit. f DSGVO, das berechtigte Interesse: Der Assistent erkennt wiederkehrende Anrufer, ordnet Anfragen nach Dringlichkeit oder legt Stichproben für die Qualitätskontrolle ab. Dafür schreiben Sie die Abwägung auf, warum Ihr Interesse das der Person nicht überwiegt. Eine Einwilligung nach lit. a brauchen Sie erst, wenn Sie die Gespräche für etwas nutzen, das mit der Anfrage nichts zu tun hat, etwa Training eines Modells oder Werbung. Wir raten davon ab, weil ein Widerruf im laufenden Betrieb schwer sauber umzusetzen ist.

Brauche ich mit jedem Anbieter einen Auftragsverarbeitungsvertrag?

Ja. Der Anbieter, der den Assistenten für Sie betreibt, verarbeitet in Ihrem Auftrag. Art. 28 Abs. 3 DSGVO verlangt dafür einen Vertrag, der Gegenstand, Dauer, Art und Zweck der Verarbeitung, die Datenarten und die betroffenen Personen festlegt und die Pflichten aus lit. a bis h enthält: Verarbeitung nur auf Weisung, Vertraulichkeit, Sicherheitsmaßnahmen nach Art. 32, Bedingungen für weitere Auftragsverarbeiter, Unterstützung bei Betroffenenrechten, Löschung am Ende, Nachweise und Prüfungen.

Hinter dem Assistenten stehen fast immer weitere Dienste: Sprachmodell, Spracherkennung, Sprachausgabe, Telefonie. Das sind Unterauftragsverarbeiter. Der Anbieter muss sie Ihnen nennen und mit denselben Pflichten binden, Art. 28 Abs. 2 und 4. Sie prüfen, ob jeder Dienst mit Standort genannt ist und ob der Vertrag die Nutzung Ihrer Daten zum Training ausschließt. Fehlt eines davon, ist der Vertrag nicht abschlussreif.

Darf der Assistent einen US-Anbieter nutzen?

Ja, unter Bedingungen. Jede Übermittlung in ein Drittland braucht nach Art. 44 DSGVO eine Grundlage aus Kapitel V. Für die USA ist das der Angemessenheitsbeschluss zum EU-US Data Privacy Framework, Durchführungsbeschluss (EU) 2023/1795 nach Art. 45 Abs. 1 DSGVO. Er gilt für Unternehmen, die sich beim US-Handelsministerium zertifiziert haben. Die großen Modellanbieter sind zertifiziert, das prüfen Sie in der öffentlichen Liste des Frameworks.

Der Beschluss steht unter Druck. Das Gericht der EU hat die Klage dagegen am 3. September 2025 abgewiesen (T-553/23, Latombe). Das Rechtsmittel läuft beim Gerichtshof unter C-703/25 P, ein Urteil liegt im September 2026 nicht vor. Dazu kommt das Urteil des US Supreme Court vom 29. Juni 2026 (Trump v. Slaughter), das die Unabhängigkeit der US-Handelsaufsicht FTC schwächt, auf die sich der Beschluss stützt. Ob die Kommission den Beschluss deshalb ändert, ist offen.

Unsere Empfehlung: Verarbeitung in einer EU-Region des Anbieters, im Vertrag zusätzlich Standardvertragsklauseln nach Art. 46 Abs. 2 lit. c DSGVO als zweite Grundlage, dazu eine kurze Transferfolgenabschätzung. Fällt der Beschluss, aktualisieren Sie ein Dokument und arbeiten weiter. Ohne diese Vorsorge steht der Assistent am Tag des Urteils still.

Was müssen Kunden erfahren, bevor der Assistent mit ihnen spricht?

Art. 13 Abs. 1 und 2 DSGVO verlangt die Information zum Zeitpunkt der Erhebung: wer verantwortlich ist, wofür und auf welcher Grundlage verarbeitet wird, welche Empfänger die Daten bekommen, ob sie in ein Drittland gehen, wie lange sie gespeichert werden und welche Rechte die Person hat. Für einen Chatbot gehört das in die Datenschutzerklärung mit Link direkt im Chatfenster. Am Telefon reicht ein Satz mit Verweis auf die Erklärung auf der Website. Seit dem 2. August 2026 kommt nach Art. 50 der KI-Verordnung dazu, dass die Person erfährt, dass sie mit einer KI spricht. Beides gehört in denselben Begrüßungssatz.

Wie lange darf der Assistent Gespräche und Anfragen speichern?

So lange, wie der Zweck es verlangt, Art. 5 Abs. 1 lit. e DSGVO. Danach greift die Löschpflicht aus Art. 17 Abs. 1 lit. a. Die Speicherdauer muss nach Art. 13 Abs. 2 lit. a in der Datenschutzerklärung stehen, also brauchen Sie konkrete Fristen. Bewährt hat sich: Tonaufnahmen werden nach der Transkription gelöscht, spätestens nach 30 Tagen. Protokolle hängen am Vorgang und gehen mit ihm. Wird aus dem Gespräch ein Auftrag oder geschäftliche Korrespondenz, gilt für den Vorgang die Frist von sechs Jahren nach § 257 Abs. 4 HGB, nicht für die Tonaufnahme. Die Fristen setzen Sie im System, nicht in einer Anweisung an Mitarbeiter. Nur so weisen Sie nach Art. 5 Abs. 2 nach, dass gelöscht wird.

Wann ist eine Datenschutz-Folgenabschätzung Pflicht?

Art. 35 Abs. 1 DSGVO verlangt sie, wenn eine Verarbeitung, insbesondere mit neuer Technologie, voraussichtlich ein hohes Risiko für die Rechte der Betroffenen mit sich bringt. Nach Abs. 4 veröffentlichen die Aufsichtsbehörden Listen, für welche Verarbeitungen das immer gilt. Die Muss-Liste der deutschen Aufsichtsbehörden nennt unter Nr. 11 die Verarbeitung unter Einsatz künstlicher Intelligenz zur Steuerung einer Interaktion mit dem Betroffenen. Ein Chatbot oder Telefonassistent steuert eine Interaktion. Damit ist die Folgenabschätzung für die meisten Einsätze Pflicht.

Das ist weniger Aufwand, als es klingt. Für einen Assistenten, der Anfragen beantwortet und Termine bucht, beschreibt die DSFA die Verarbeitung, die Risiken (falsche Auskunft, Fehlweiterleitung, Zugriff Dritter, Drittlandtransfer) und die Maßnahmen dagegen. Ein bis zwei Arbeitstage, wenn der Anbieter die technischen Angaben liefert. Die Orientierungshilfe der Datenschutzkonferenz zu KI und Datenschutz vom 6. Mai 2024 gibt die Struktur vor.

Darf der Telefonassistent Gespräche aufzeichnen?

Nur mit Einwilligung aller Beteiligten. § 201 Abs. 1 Nr. 1 StGB bestraft mit Freiheitsstrafe bis zu drei Jahren, wer unbefugt das nichtöffentlich gesprochene Wort eines anderen auf einen Tonträger aufnimmt. Ein Telefonat ist nichtöffentlich, und eine Aufzeichnung auf dem Server des Anbieters ist eine Aufnahme, auch wenn sie nur kurz für die Transkription liegt.

Befugt ist die Aufnahme mit Einwilligung. Deshalb sagt der Assistent als Erstes, dass er ein KI-Assistent ist, dass das Gespräch aufgezeichnet wird und dass der Anrufer jederzeit einen Mitarbeiter verlangen kann. Wer danach weiterspricht, willigt ein. Dieser Satz ist der Unterschied zwischen zulässigem Betrieb und Straftat, und er muss in jedem Gespräch fallen, auch bei Rückrufen, die der Assistent selbst startet.

Was gilt für Praxen und Gesundheitsdaten?

Nennt ein Anrufer in einer Praxis den Grund des Termins, verarbeitet der Assistent Gesundheitsdaten. Die sind nach Art. 9 Abs. 1 DSGVO grundsätzlich gesperrt. Erlaubt ist die Verarbeitung nach Art. 9 Abs. 2 lit. h für Versorgung und Verwaltung im Gesundheitsbereich, aber nur unter Abs. 3: durch Fachpersonal mit Berufsgeheimnis oder durch eine andere Person, die einer Geheimhaltungspflicht unterliegt. Der Anbieter des Assistenten ist so eine andere Person. Der Vertrag mit ihm muss deshalb eine ausdrückliche Geheimhaltungspflicht enthalten.

Dasselbe verlangt § 203 Abs. 3 und 4 StGB: Ärzte dürfen sonstige mitwirkende Personen einbeziehen, müssen sie aber zur Geheimhaltung verpflichten, sonst machen sie sich selbst strafbar. Für Praxen raten wir zu drei festen Regeln: Verarbeitung nur in der EU, kein US-Modellanbieter auf dem Sprachkanal, DSFA in jedem Fall, weil Art. 35 Abs. 3 lit. b DSGVO die umfangreiche Verarbeitung von Gesundheitsdaten ausdrücklich nennt. Ein Terminassistent, der nur Name, Wunschtermin und Rückrufnummer aufnimmt und die Beschwerde nicht abfragt, verarbeitet kaum Gesundheitsdaten. Das ist oft die bessere Bauweise.

Prüfliste vor dem Start

1. Rechtsgrundlage je Funktion festgelegt: lit. b für Anfragen und Termine, lit. f mit dokumentierter Abwägung für alles Weitere
2. Auftragsverarbeitungsvertrag nach Art. 28 Abs. 3 DSGVO unterschrieben, Liste der Unterauftragsverarbeiter mit Standorten vollständig
3. Nutzung Ihrer Daten zum Training im Vertrag ausgeschlossen
4. Verarbeitung in einer EU-Region, Standardvertragsklauseln als zweite Grundlage, Transferfolgenabschätzung abgelegt
5. Datenschutzerklärung nach Art. 13 DSGVO ergänzt, Link im Chatfenster, Verweis in der Telefonbegrüßung
6. Begrüßungssatz enthält: KI-Assistent, Aufzeichnung, Wechsel zu einem Mitarbeiter möglich
7. Löschfristen im System gesetzt: Tonaufnahmen, Protokolle, Vorgänge
8. Datenschutz-Folgenabschätzung nach Art. 35 DSGVO durchgeführt und abgelegt
9. Eintrag im Verzeichnis der Verarbeitungstätigkeiten nach Art. 30 DSGVO
10. Bei Gesundheitsdaten: Geheimhaltungspflicht des Anbieters nach § 203 StGB im Vertrag, kein US-Anbieter auf dem Sprachkanal

So machen wir das bei der B&S

Die B&S Ventures aus Hannover betreibt in ihren eigenen Beteiligungen Systeme, die täglich personenbezogene Daten verarbeiten, darunter Anbieterportale mit Identitätsprüfung und Mailsysteme in mehreren Sprachen. Bei einem KI-Assistenten der B&S gehören die Auftragsverarbeitungsverträge mit jedem beteiligten Anbieter, der Text für Ihre Datenschutzerklärung und der KI-Hinweis in der Begrüßung zum Lieferumfang. Löschfristen setzen wir im System, die Folgenabschätzung bereiten wir mit Ihnen vor. Was die KI-Verordnung zusätzlich verlangt, steht unter Welche Pflichten hat ein KMU aus der KI-Verordnung?

Wir beginnen mit einem Kanal und erweitern in Stufen. Das Erstgespräch und eine grobe Ausrichtung sind kostenlos, danach folgt ein Angebot. Einen bestehenden Assistenten prüfen wir auf Wunsch in einem gebuchten Beratung.

Häufige Fragen

Brauche ich für einen KI-Chatbot auf der Website eine Einwilligung der Besucher?

Für die Beantwortung einer Anfrage nicht. Rechtsgrundlage ist Art. 6 Abs. 1 lit. b DSGVO, wenn die Person etwas von Ihnen will, sonst lit. f. Eine Einwilligung brauchen Sie erst für andere Zwecke, etwa Training eines Modells oder Werbung.

Reicht der AV-Vertrag mit dem Anbieter des Assistenten, oder brauche ich auch einen mit dem Modellanbieter?

Ein Vertrag nach Art. 28 Abs. 3 DSGVO mit dem Anbieter, der den Assistenten für Sie betreibt. Der bindet seine Unterauftragsverarbeiter, also die Modellanbieter, nach Art. 28 Abs. 4 mit denselben Pflichten und nennt sie Ihnen. Sie prüfen, ob die Liste vollständig ist und Training ausgeschlossen wurde.

Darf ein KI-Telefonassistent Gespräche aufzeichnen?

Nur mit Einwilligung aller Beteiligten. § 201 Abs. 1 Nr. 1 StGB stellt die unbefugte Aufnahme des nichtöffentlich gesprochenen Wortes unter Strafe. Der Assistent sagt deshalb am Anfang, dass er eine KI ist und aufzeichnet, und bietet die Weiterleitung an einen Menschen an. Wer danach weiterspricht, willigt ein.

Was passiert, wenn das EU-US Data Privacy Framework fällt?

Dann fehlt US-Anbietern die Grundlage nach Art. 45 DSGVO. Wer im AV-Vertrag Standardvertragsklauseln nach Art. 46 Abs. 2 lit. c DSGVO als zweite Grundlage vereinbart und in einer EU-Region verarbeiten lässt, aktualisiert die Transferfolgenabschätzung und arbeitet weiter.

Muss ich eine Datenschutz-Folgenabschätzung machen?

Meistens ja. Die Muss-Liste der deutschen Aufsichtsbehörden nennt unter Nr. 11 die Verarbeitung mit künstlicher Intelligenz zur Steuerung einer Interaktion mit dem Betroffenen. Ein Chatbot oder Telefonassistent tut genau das. Ohne Gesundheitsdaten ist die DSFA in ein bis zwei Tagen fertig.

Wie lange dürfen Gesprächsprotokolle gespeichert werden?

So lange, wie der Zweck es braucht, Art. 5 Abs. 1 lit. e DSGVO. Tonaufnahmen werden nach der Transkription gelöscht, Protokolle mit dem Vorgang. Wird aus dem Gespräch geschäftliche Korrespondenz, gilt die Frist von sechs Jahren nach § 257 Abs. 4 HGB für den Vorgang, nicht für die Tonaufnahme.

Quellen: Verordnung (EU) 2016/679, Durchführungsbeschluss (EU) 2023/1795, § 201 StGB, § 203 StGB, § 257 HGB, EuG T-553/23 vom 3. September 2025, EuGH C-703/25 P (anhängig), US Supreme Court Trump v. Slaughter vom 29. Juni 2026, DSK-Muss-Liste Version 1.1, DSK-Orientierungshilfe vom 6. Mai 2024. Geprüft am 22. September 2026.