Gkc26-Session: Nutzwert retten! Von Chatbots profitieren trotz Datenschutz
Weitere Optionen
Diese Seite ist KI-generiert. Sowohl die Zusammenfassung als auch das zugrundeliegende Transkript der Videoaufzeichnung wurden mithilfe von KI erstellt.
| Nutzwert retten! Von Chatbots profitieren trotz Datenschutz | |
|---|---|
| Art | Barcamp-Session |
| KnowledgeCamp | KnowledgeCamp 2026 |
| Sessiongebende | Stefan Holtel
|
| Datum | 09.10.2026 |
| Zeit | 10:00 bis 10:45 Uhr |
| Raum | Potsdam (1.OG) |
| Sprache | Deutsch |
| Aufzeichnung | YouTube |
| Im Programm | Pretalx |
| KI-Unterstützung | Whisper large-v3 (Transkription), gpt-6.1-sol (Redaktion) |
Aus dem Veranstaltungsprogramm:
Viele Organisationen kennen das Problem: Es gäbe einen sinnvollen Anwendungsfall für einen Chatbot. Doch sobald personenbezogene oder vertrauliche Daten ins Spiel kommen, heißt es schnell: Das geht nicht aus Datenschutzgründen!
Damit verschwindet zwar das Datenschutzproblem. Allerdings verschwindet auch der potenziell große Nutzen eines Chatbots.
In dieser Werkstatt zeige ich an einem Beispiel aus der Trainingspraxis, wie sich ein solcher Anwendungsfall DSGVO-konform umsetzen lässt. Der entscheidende Kniff: Der Chatbot bekommt zu bestimmten Zeitpunkten nur das zu sehen, was er für seine Aufgabe wirklich braucht.
Anschließend übertragen wir dieses Prinzip auf andere Anwendungsfälle. Wir untersuchen, was ein offener Chatbot sehen darf, nach welchen Regeln sich problematische Anwendungsfälle geschickt zerlegen lassen und welche Aufgaben dafür Menschen, Chatbot und weitere Werkzeuge jeweils übernehmen.
Daraus entsteht ein praktisches Vorgehen für Organisationen, die öffentliche Chatbots nutzen wollen, ohne Datenschutzbedenken zu ignorieren und ohne gute Anwendungs-fälle vorschnell aufzugeben.
Die Leitfrage der Werkstatt lautet: Wie erhalten wir den Nutzen von Chatbots, wenn wir ihnen nicht alle Daten geben dürfen?
Zusammenfassung
Die Barcamp-Session „Nutzwert retten! Von Chatbots profitieren trotz Datenschutz“ von Stefan Holtel untersuchte, wie sich öffentliche Chatbots für Aufgaben mit ursprünglich personenbezogenen oder vertraulichen Informationen nutzen lassen könnten. Im Mittelpunkt stand die Idee einer „Datenschleuse“: Originaldaten bleiben lokal, während nur eine aufgabenbezogen reduzierte und ausreichend abstrahierte Fassung an den Chatbot übermittelt wird. Dessen Ergebnisse lassen sich anschließend lokal weiterverwenden oder den ursprünglichen Datensätzen zuordnen.
Holtel entwickelte den Ansatz anhand eines vorbereiteten Chatbot-Verlaufs und zweier ausführlicher Beispiele: der heterogenen Einteilung von Schulungsgruppen sowie der Reflexion von Coaching-Gesprächen. Seine Leitidee lautete, dass der Nutzen einer Analyse häufig nicht davon abhängt, ob der Chatbot die Identität der beteiligten Personen kennt. Entscheidend sei vielmehr, die für die Aufgabe wichtigen Beziehungen und Muster zu erhalten.
In der Diskussion wurden Grenzen dieses Ansatzes deutlich. Eine belastbare Anonymisierung kann aufwendig sein; bei bestimmten vertraulichen Inhalten ist die schützenswerte Information zugleich der eigentliche Analysegegenstand. Weitere Themen waren lokale Modelle, Automatisierung, Kosten und die organisatorische Einbettung von KI. Die Session stellte keine technisch fertig implementierte oder rechtlich geprüfte Gesamtlösung vor, sondern einen Ansatz zur Gestaltung konkreter Arbeitsabläufe.
Einstieg und rechtliche Problemstellung
Zu Beginn fragte Holtel, wer in der eigenen Organisation unmittelbar von dem Thema betroffen sei. Anschließend teilte er einen selbst geführten Chatbot-Verlauf. Die Ausgangsfrage darin war, warum die Eingabe personenbezogener Daten in einen öffentlichen Chatbot gegen Anforderungen der DSGVO verstoßen könne.
Holtel wollte damit über ein pauschales „Das darf man nicht“ hinauskommen. Besprochen wurden insbesondere:
- die Rechtsgrundlage einer Verarbeitung,
- die Zweckbindung der erhobenen Daten,
- Vertraulichkeit und Sicherheit,
- die vertragliche Absicherung,
- Fragen internationaler Datenübermittlung.
Bei der Zweckbindung betonte Holtel die Reihenfolge: Daten würden für einen bestimmten Zweck erhoben; der Zweck könne nicht beliebig erst nachträglich festgelegt werden.
Daneben äußerte er erhebliche Zweifel an der Verlässlichkeit von Zusicherungen großer Chatbot-Anbieter und kritisierte einen aus seiner Sicht widersprüchlichen Umgang mit Datenschutzanforderungen bei gleichzeitig verbreiteter Nutzung. Diese Einschätzungen bildeten den Hintergrund seiner Suche nach einem praktikablen Vorgehen.
Für den weiteren Verlauf war die Unterscheidung maßgeblich, die Holtel daraus ableitete: Nicht jede Chatbot-Nutzung sei schon deshalb ausgeschlossen, weil bestimmte personenbezogene Eingaben problematisch seien. Stattdessen müsse geprüft werden, welche Informationen für eine konkrete Aufgabe tatsächlich benötigt würden und unter welchen Bedingungen ihre Verarbeitung möglich sei.
Die Datenschleuse als Arbeitsablauf
Originaldaten und Analysefassung trennen
Die vorgeschlagene Datenschleuse war zunächst ausdrücklich keine bestimmte Software, sondern ein lokaler Workflow. Holtel beschrieb folgende Abfolge:
- Die Originaldaten verbleiben im eigenen Arbeitsumfeld.
- Identifizierende Angaben werden entfernt oder verallgemeinert.
- Der Kontext wird auf die für die Aufgabe erforderlichen Informationen reduziert.
- Es wird geprüft, ob die verbleibende Merkmalskombination weiterhin Rückschlüsse auf Personen ermöglicht.
- Nur die geprüfte Fassung wird an den öffentlichen Chatbot übermittelt.
- Ergebnisse werden anschließend lokal weiterverarbeitet und gegebenenfalls zurückübersetzt.
Die zentrale Schwierigkeit liegt dabei im Verhältnis zwischen Schutz und Nutzwert. Wird zu wenig verändert, kann eine Person trotz entferntem Namen erkennbar bleiben. Wird zu stark abstrahiert, fehlt dem Chatbot möglicherweise die Grundlage für eine sinnvolle Bearbeitung.
Holtel formulierte deshalb als Ziel, nicht die vollständige Lebensgeschichte oder Identität zu übertragen, sondern die für die Aufgabe relevante Struktur der Informationen zu bewahren.
Namen entfernen reicht nicht
Ein fiktiver Fall mit einer Führungskraft und einer krankheitsbedingten Abwesenheit veranschaulichte das Problem. Die Kombination aus Funktion, Alter, Ort, zeitlichen Angaben und Gesundheitsinformation könne eine Person identifizierbar machen. Ein bloßer Austausch des Namens ändere daran unter Umständen wenig.
Holtel unterschied deshalb zwischen einer ausreichenden Anonymisierung und einer lediglich pseudonymisierten Darstellung. Für den von ihm betrachteten Einsatzfall warnte er davor, nur Namen durch Codes zu ersetzen und alle übrigen Angaben unverändert zu übernehmen.
Zur Illustration berichtete er von einem vermeintlich anonymisierten Lebenslauf, aus dem er nach eigener Einschätzung die zugehörige Firma mit hoher Wahrscheinlichkeit habe erschließen können. Das Beispiel sollte zeigen, wie aussagekräftig Kombinationen einzelner Merkmale sein können. Vergleichbar argumentierte er mit Kommunikations- und Bewegungsdaten: Auch ohne den eigentlichen Gesprächsinhalt könnten Beziehungen zwischen Zeit, Ort und Kontakten weitreichende Rückschlüsse erlauben.
Beispiel: Schulungsgruppen heterogen zusammenstellen
Das erste ausführliche Anwendungsszenario betraf Lebensläufe von Schulungsteilnehmenden. Ziel war eine Gruppeneinteilung, bei der nicht ausschließlich Personen mit ähnlichen beruflichen Perspektiven zusammensitzen. Holtel verband dies mit dem Wunsch, einseitige Gruppendynamiken beziehungsweise „Groupthink“ zu vermeiden.
Anstelle vollständiger Lebensläufe sollte lokal eine reduzierte Tabelle entstehen. Als mögliche Merkmale nannte er:
- Fachperspektive,
- berufliche Erfahrung,
- Tätigkeitsschwerpunkte,
- gegebenenfalls weitere für die Gruppenzusammensetzung relevante Kategorien.
Die Personen erhalten Codes. Der Chatbot verarbeitet nur diese Codes und die geprüften Kategorien und schlägt darauf basierend möglichst heterogene Gruppen vor. Die Zuordnung der Codes zu den tatsächlichen Personen bleibt lokal.
Holtel betonte, dass hinter einem Code nicht einfach der vollständige Lebenslauf stehen dürfe. Die notwendige lokale Bearbeitung bestehe gerade darin, relevante Merkmale auszuwählen und auf einer geeigneten Abstraktionsebene zu kategorisieren.
Das Beispiel verdeutlichte zugleich, dass auch das Optimierungsziel geklärt werden muss. „Groupthink vermeiden“ ist noch keine vollständige Aufgabenbeschreibung. Es müsse geprüft werden, welche Kriterien der Chatbot darunter versteht und ob diese der eigenen Absicht entsprechen. Die gezeigte Ausgabe veranschaulichte das Vorgehen; eine nachgewiesene optimale Gruppeneinteilung wurde nicht vorgestellt.
Beispiel: Coaching-Gespräche reflektieren
Gesprächsdynamik statt Lebensgeschichte
Im zweiten Szenario ging es um ein mit Zustimmung aufgezeichnetes Coaching-Gespräch, dessen Transkript zur Verbesserung der eigenen Gesprächsführung ausgewertet werden sollte. Gegenstand war ausdrücklich die Textfassung, nicht eine Videoanalyse.
Die lokale Bearbeitung sollte Namen, Standorte, biografische Einzelheiten und andere identifizierende Zusammenhänge entfernen oder abstrahieren. Erhalten bleiben sollten dagegen die Gesprächsfolge und die für die Reflexion wichtigen Interaktionen.
Holtel schlug damit einen Perspektivwechsel vor: Nicht die Frage, was eine bestimmte Person erlebt hat, steht im Zentrum, sondern was im Gespräch geschieht, wenn sie davon erzählt. Als mögliche Analysegegenstände nannte er:
- verwendete Fragetechniken,
- aktives Zuhören,
- den Umgang mit Gefühlen,
- Perspektivwechsel,
- vorschnelle Lösungsvorschläge,
- mögliche Rückfragen oder Wartephasen.
Eine Rückübersetzung anhand einer Zuordnungstabelle sei in diesem Beispiel nicht unbedingt erforderlich. Die coachende Person könne Hinweise zur Gesprächsführung selbst auf das eigene Gespräch beziehen.
Muster über längere Zeiträume
Einen besonderen Nutzen sah Holtel in der wiederholten Auswertung über längere Zeiträume. In mehreren Transkripten könnten wiederkehrende Verhaltensweisen sichtbar werden, an die sich die coachende Person nicht mehr im Detail erinnere. Als hypothetisches Beispiel nannte er Veränderungen hin zu stärker anweisendem oder ungeduldigem Verhalten.
Zugleich unterschied er zwischen dem Erkennen eines möglichen Musters und dessen Bewertung: Ob ein Hinweis relevant, plausibel oder für die eigene Arbeit hilfreich sei, entscheide nicht der Chatbot. Die Analyse wurde als Unterstützung der Reflexion und als eine Form von Supervision beschrieben.
Weitere vorgeschlagene Anwendungsfelder
Holtel skizzierte zusätzliche Einsatzmöglichkeiten, bei denen sich der Aufwand einer Datenschleuse aus seiner Sicht lohnen könnte:
- Bewerbungsgespräche verbessern: Eine vertiefte Auswertung könne insbesondere bei entsprechend bedeutsamen Stellen den Aufwand rechtfertigen.
- Mitarbeiterbefragungen auswerten: Wiederkehrende Rückmeldungen könnten auf Muster untersucht werden, statt sich auf Kennzahlen zu beschränken.
- Konfliktgespräche vorbereiten: Der Chatbot könnte die Situation durch Rückfragen erschließen, ohne dass identifizierende Angaben zum Gegenüber erforderlich seien.
- Schulungsevaluationen analysieren: Besonders Freitextantworten böten Ansatzpunkte, um wiederkehrende Themen über längere Zeiträume zu erkennen.
- Führungsentscheidungen reflektieren: Holtel verwies auf die Möglichkeit, Entscheidungen im Dialog mit einem entsprechend ausgerichteten Chatbot zu hinterfragen.
Beim Konfliktgespräch beschrieb er eine besondere Variante: Die nutzende Person übernimmt die Schleusenfunktion bei jeder einzelnen Antwort. Sie kann den Chatbot zusätzlich auffordern, keine Fragen zu stellen, die unnötig zur Identifizierung anderer Personen führen. Die Prüfung der eigenen Eingaben bleibt dabei Teil des Arbeitsablaufs.
Diskussion: Grenzen, Automatisierung und Kosten
Übertragbarkeit auf vertrauliche Informationen
In der Diskussion wurde gefragt, ob das Prinzip auch für Geheimhaltungsfragen bei Kundeninformationen, Hochtechnologie oder Patenten geeignet sei. Holtel hielt eine Übertragung grundsätzlich für möglich.
Dem wurde ein wesentlicher Einwand gegenübergestellt: Bei einem Patent kann gerade das charakteristische Muster die schützenswerte Information sein. Entfernt die Abstraktion dieses Muster, verschwindet möglicherweise zugleich der Inhalt, der untersucht werden soll. Damit wurde eine Grenze des Ansatzes benannt: Nicht jede vertrauliche Information lässt sich vom analytischen Nutzwert trennen.
Auch bei umfangreichen qualitativen Textbeständen wurde bezweifelt, dass eine sorgfältige Aufbereitung wirtschaftlicher sei als eine direkte manuelle Auswertung. Die Diskussion lieferte dafür keine allgemeingültige Lösung.
Lokale Modelle und asynchrone Verarbeitung
Als mögliche Entlastung wurden regelbasierte Ersetzungen, lokale Algorithmen und lokale Sprachmodelle besprochen. Wiederkehrende Datenarten könnten Anlass sein, die Schleuse als eigenes Projekt zu entwickeln und Teile davon zu automatisieren.
Holtel skizzierte beispielsweise ein lokales Modell, das längere Transkripte über Nacht bearbeitet. Nicht jeder Prozessschritt müsse in Echtzeit ablaufen. Wenn das Ergebnis erst am nächsten Morgen benötigt werde, könne auch eine langsamere lokale Verarbeitung sinnvoll sein. Eine Garantie für fehlerfreie Anonymisierung wurde damit nicht nachgewiesen; Holtel warnte ausdrücklich davor, deren Aufwand zu unterschätzen.
Eine Frage nach einer festen Aufteilung zwischen deterministischen Verfahren und lokaler KI blieb ohne belastbare Verhältniszahl.
Die Diskussion weitete sich auf die Verteilung von Aufgaben zwischen unterschiedlich leistungsfähigen Modellen aus. Nicht jede Tätigkeit brauche ein besonders leistungsfähiges Modell. Datenschutz und Kosten könnten daher auf eine ähnliche Prozessgestaltung hinauslaufen: Für jeden Schritt wird geprüft, welche Daten und welche Fähigkeiten tatsächlich erforderlich sind.
Bei umfassenderen Agentenlösungen wurde zudem auf Kosten hingewiesen, die im Einzelfall den Vergleich mit menschlicher Arbeit nahelegen könnten.
Organisation, Befähigung und wichtigste Erkenntnisse
Zum Ende wurde kritisiert, dass Beschäftigte teilweise zur KI-Nutzung aufgefordert würden, ohne ausreichende Orientierung zu erhalten. In der Diskussion standen Berichte über fehlendes Verständnis für Datenabflüsse neben Erfahrungen mit bereits vorhandenen Nutzungsregeln.
Ein weiterer Beitrag plädierte dafür, nicht allen Beschäftigten unterschiedslos sämtliche KI-Möglichkeiten bereitzustellen. Organisationen sollten stattdessen konkrete Prozesse gestalten und die beteiligten Personen für die jeweilige Anwendung befähigen. Als möglicher Mehrwert wurden besonders Tätigkeiten hervorgehoben, die bisher aus Zeit- oder Kapazitätsgründen unterblieben waren.
Als übergreifende Erkenntnisse der Session lassen sich festhalten:
- Der Informationsbedarf einer Aufgabe ist von der Identität der beteiligten Personen zu unterscheiden.
- Das Entfernen von Namen allein verhindert nicht zuverlässig Rückschlüsse.
- Schutzwirkung, verbleibender Nutzwert und Bearbeitungsaufwand müssen gemeinsam betrachtet werden.
- Lokale Vorverarbeitung und öffentliche Chatbots können als getrennte Schritte eines Workflows gedacht werden.
- Manche Inhalte lassen sich nicht sinnvoll abstrahieren, ohne den Analysegegenstand zu verlieren.
- Organisatorische Regeln und anwendungsbezogene Befähigung gehören zur Prozessgestaltung.
Zum Abschluss bot Holtel weiteren Austausch über Erfahrungen und mögliche Formate an. Sein Anliegen blieb, unter gegebenen Einschränkungen nach nutzbaren Arbeitsweisen zu suchen, statt KI-Anwendungen pauschal auszuschließen. Welche konkrete Umsetzung ausreichend schützt und wirtschaftlich sinnvoll ist, blieb eine Frage des jeweiligen Anwendungsfalls.