Gkc24-Session: Einsatz von KI-gestützten Chatbots – Chancen und Risiken in der beruflichen Weiterbildung

Einsatz von KI-gestützten Chatbots – Chancen und Risiken in der beruflichen Weiterbildung
Art	Barcamp-Session
KnowledgeCamp	KnowledgeCamp 2024
Sessiongebende	Joachim Lorenz
Datum	11.10.2024
Zeit	14:00 bis 14:45 Uhr
Aufzeichnung	YouTube
KI-Unterstützung	GPT-6.1 Sol

Aus dem Veranstaltungsprogramm

Einsatz von KI-gestützten Chatbots- Chancen und Risiken in der beruflichen Weiterbildung – am Beispiel von KAI und RASA

Disclaimer: Diese Seite ist KI-generiert, basierend auf einer KI-Zusammenfassung des Transkripts vom vorstehenden Youtube-Video!

Überblick

Joachim Lorenz erläutert, wie Chatbots Bildungseinrichtungen bei der Bearbeitung von Anfragen unterstützen können. Anhand von Demonstrationen unterscheidet er regelbasierte Bots, anwendungsorientierte Systeme und große Sprachmodelle. Er zeigt außerdem, wie sich Sprachmodelle mit Dokumentensammlungen verbinden lassen und wie ein einfacher Bot mit Rasa aufgebaut werden kann.

Den Chancen einer jederzeit verfügbaren Auskunft stehen begrenzte Antwortfähigkeit, Datenschutzrisiken und technische Pflegeanforderungen gegenüber. Als entscheidende Voraussetzungen benennt Lorenz die Kenntnis der Zielgruppe, eine geeignete Wissensbasis, praktische Tests und die Übergabe komplexer Fragen an Menschen.

Gliederung und Aufbau der Session

Die Session verbindet Einführung, Live-Demonstrationen und Publikumsdialog. Lorenz stellt sich als KI-Management-Trainer für die IHK vor und ordnet sein Interesse an Chatbots in das Thema Wissensintegration ein. Sein Ziel ist, Funktionsweisen und unterschiedliche Bot-Arten verständlich zu machen und einen Einstieg in die eigene Entwicklung zu ermöglichen.

Der Vortrag folgt dabei mehreren Schritten:

Unterscheidung verschiedener Chatbot-Arten anhand von Kundendienst- und Jobassistenten.
Vergleich von Sprachmodellen und gemeinsame Übungen zur Satzvervollständigung.
Demonstration einer dokumentengestützten Recherche mit Google NotebookLM.
Vereinfachte Erklärung der Sprachmodellarchitektur anhand einer Simulation.
Vorstellung von KAI und praktische Einblicke in einen mit Rasa erstellten Bot.
Abwägung von Vorteilen, Risiken und Implementierungsanforderungen.

Fragen und Beobachtungen des Publikums fließen unmittelbar ein. Die abschließende Diskussion vertieft vor allem die praktische Nutzung bei Bildungsträgern: Welche Anfragen lassen sich automatisieren, wann entstehen zusätzliche Umwege und wie sollte die Zusammenarbeit zwischen Bot und menschlichem Support aussehen?

Chatbot-Arten und die Frage nach Transparenz

Lorenz unterscheidet zunächst regelbasierte Chatbots mit vorgefertigten Antworten von Systemen, die umfangreichere Aufgaben bearbeiten. Die erste Gruppe dient vor allem dazu, schnell Informationen bereitzustellen. Anwendungsorientierte Bots können darüber hinaus beispielsweise Bestellungen nachverfolgen oder komplexere Fragen beantworten. Freitexteingaben und ein dahinterliegendes KI-Modell nennt er als mögliche Merkmale solcher Systeme.

Zur Erkundung der gezeigten Anwendungen verwendet er wiederholt die Fragen „Bist du schlau?“ und „Bist du ein LLM?“. Die Antworten dienen ihm als Gesprächsanlass, um Unterschiede im Verhalten sichtbar zu machen. Mehrere Systeme reagieren ausweichend oder bleiben innerhalb ihres vorgesehenen Aufgabenbereichs.

Beim Jobassistenten Sam von McDonald’s beobachtet Lorenz hingegen eine Antwort mit Verweisen auf Unternehmensseiten und frei formulierten Passagen. Daraus leitet er die Vermutung ab, dass KI beteiligt ist. Die Demonstrationen zeigen damit zunächst beobachtbares Verhalten; sie sind keine vollständige technische Prüfung der jeweiligen Systeme.

Ein weiteres Beispiel betrifft einen Kundendienstchat, in dem nach Lorenz’ Darstellung ein Mensch antwortet. Für ihn war nicht klar erkennbar, mit wem er kommunizierte. Er verbindet diese Erfahrung mit der Forderung nach Transparenz und verweist auf die KI-Verordnung. Die eindeutige Kennzeichnung des Gegenübers ist für ihn eine wichtige Frage beim Betrieb solcher Angebote.

Sprachmodelle als Schätzer: Kontext und unterschiedliche Antworten

Wie verlässlich große Sprachmodelle arbeiten, untersucht Lorenz zunächst über einen Modellvergleich. In einer Testarena auf der KI-Kompass-Seite lässt er unterschiedliche Modelle die Frage nach der Bedeutung von KI beantworten. Er beschreibt die gezeigte Mistral-Antwort als kompakt, während die GPT-Antwort stärker gegliedert ist und Absätze, Stichpunkte sowie Hervorhebungen verwendet. Für Organisationen stellt sich dadurch auch die Frage, welcher Antwortstil zur jeweiligen Anwendung passt.

Anschließend fordert er das Publikum auf, mögliche Ergänzungen zu „Ich bin ein …“ zu überlegen. Die Vorschläge reichen von „Assistent“ bis zu einer Rückfrage nach genauerem Kontext. Ein Diskussionsbeitrag weist darauf hin, dass die Antwort auch davon abhängt, für wen das System den Satz vervollständigen soll.

Lorenz berichtet von unterschiedlichen Ergebnissen bei identischen Eingaben. Bei „Ich bin ein B …“ erhielt er mehrfach eine Ergänzung zum Berliner-Zitat. Eine erneute Abfrage aus dem Publikum führt zu einer anderen bekannten Formulierung. Diese Beispiele nutzt er, um Sprachmodelle als Systeme zu erklären, die wahrscheinliche Fortsetzungen ermitteln. Die von seinem Professor übernommene Bezeichnung „stochastische Papageien“ fasst diese Perspektive zugespitzt zusammen.

Vereinfachte technische Erklärung

Eine Simulation veranschaulicht die Verarbeitung einer Eingabe. Lorenz beschreibt zunächst die Tokenisierung und die Überführung in eine zahlenbasierte, maschinenlesbare Darstellung. Anschließend werden die Tokens in Vektorräume eingebettet, die er bildlich als Wissenslandkarten bezeichnet.

Es folgt die Verarbeitung in einer Transformer-Struktur, in der Kontext und Aufmerksamkeit eine Rolle spielen. Am Ende steht in seiner Darstellung eine Wahrscheinlichkeitsentscheidung über die nächste Fortsetzung. Die Erklärung soll vor allem verständlich machen, weshalb Kontext die Ausgabe beeinflusst und warum ein Sprachmodell nicht mit einer verlässlich abrufbaren Wissensdatenbank gleichgesetzt werden sollte.

Dokumentengestützte Antworten und Qualitätskontrolle

Als Gegenstück zur freien Textgenerierung stellt Lorenz die Verbindung von Sprachmodellen mit Wissensbeständen vor. Er bezeichnet diese Kombination als RAG und beschreibt sie als Verbindung von Informationssuche und generierten Ausgaben. Dazu können etwa Zusammenfassungen oder Mindmaps gehören.

In Google NotebookLM demonstriert er eine Sammlung von 17 Literaturquellen. Seine Frage lautet, was Wissensintegration bedeutet. Die Antwort wird anhand der ausgewählten Dokumente erzeugt und enthält Verweise, über die sich die verwendeten Quellen aufrufen lassen. Lorenz betont die Möglichkeit, diese Bezüge selbst zu überprüfen.

Er stellt die dokumentengestützte Antwort als stärker faktisch gebunden dar als eine freie Ergänzung durch ein Sprachmodell. Zugleich spricht er davon, dass eine solche Eingrenzung das Phänomen der Halluzination reduzieren könne. Ein Beitrag aus dem Publikum unterstützt die Einschätzung, dass begrenzte Inhalte und präzisere Fragen die Unsicherheit über die Herkunft einer Antwort verringern können.

Die Demonstration enthält ausdrückliche Vorbehalte: Lorenz möchte nicht dazu ermuntern, urheberrechtlich bedenkliche Materialien hochzuladen. Auch den erzeugten Text will er nicht unverändert übernehmen. Quellenprüfung und eigene Bearbeitung gehören für ihn zur Qualitätskontrolle.

Ein ergänzendes Beispiel verdeutlicht die Bedeutung der Formulierung einer Anfrage: Bei der Aufforderung, einen Lachs im Wasser darzustellen, erschien in einem früheren Webinar ein eingeschweißtes Lachsfilet. Lorenz nutzt dies, um die mögliche Differenz zwischen Nutzererwartung und generiertem Ergebnis sichtbar zu machen.

Einen einfachen Bot mit Rasa aufbauen

Für den Bildungsbereich nennt Lorenz KAI von der IHK Köln als Beispiel eines dialogischen Angebots. Den ausführlicheren technischen Teil widmet er jedoch Rasa. Das Framework interessiert ihn als Möglichkeit, selbst einen einfachen Bot zu entwickeln und dessen Aufbau nachzuvollziehen.

Er verweist auf einen schrittweisen Lernzugang beim KI-Campus. Seine eigene Demonstration soll die Einstiegshürde senken, ohne eine vollständige Installationsanleitung zu ersetzen. Zunächst zeigt er eine Ordnerstruktur und Dateien, die über die Kommandozeile beziehungsweise PowerShell verwaltet werden.

Die zentralen Bestandteile erläutert er anhand eines vereinfachten Ablaufs:

Sprachverständnis: NLU, ausgeschrieben Natural Language Understanding, bildet einen Teil der Verarbeitung von Eingaben.
Intents: Sie stehen für erwartete Absichten, etwa eine Begrüßung, einen Abschied oder eine Frage zu einem Kurs.
Domäne: Hier hinterlegt Lorenz die vorgesehenen Antworten und das für seinen Bot benötigte Wissen.
Stories: Sie verbinden in seinem Beispiel einen Intent mit der auszuführenden Antwortaktion.
Training und Ausführung: Nach der Vorbereitung trainiert er das System und startet die Interaktion.

Anhand einer zusätzlichen Frage nach der Bedeutung eines Chatbots zeigt er, wie er einen Intent ergänzt, eine mit ChatGPT erzeugte Antwort einträgt und die Zuordnung anlegt. Die Befehle „Rasa train“ und „Rasa shell“ dienen in der Demonstration dem Training beziehungsweise der Ausführung.

Dabei treten kleinere Codefehler auf. Lorenz nutzt sie, um deutlich zu machen, dass Entwicklung auch Fehlersuche umfasst. Er zeigt außerdem Python-Code und erwähnt eine Flask-App. Unterstützung durch GPT sieht er als Möglichkeit, Menschen mit wenig Programmiererfahrung einen Zugang zu eröffnen.

Entscheidend ist seine Abgrenzung: Dieser selbst definierte Bot ist in der Demonstration kein großes Sprachmodell. Er beantwortet die Fragen, für die entsprechende Intents und Antworten vorbereitet wurden. Der Nutzen des Eigenbaus liegt für Lorenz auch im technischen Verständnis.

Chancen, Grenzen und Risiken im Bildungsbetrieb

Als Vorteile nennt Lorenz verbesserten Kundenservice und Personalisierung. Über definierte Absichten und Antworten lassen sich aus seiner Sicht auch Bots mit einer bestimmten Persona gestalten. Für Bildungsträger hebt er in der Abschlussdiskussion besonders die Verfügbarkeit rund um die Uhr und die Entlastung bei Informationsanfragen hervor.

Die Grenzen erläutert er anhand einer absichtlich unpassenden Pizza-Anfrage an den zuvor besprochenen IHK-Bot. Dieser habe lediglich eine Seite angezeigt, auf der das Schlüsselwort vorkam. Lorenz beschreibt dies als Beispiel dafür, dass eine Suchfunktion noch keine umfassende Antwortfähigkeit bedeutet.

Wenn Menschen nach einer erfolglosen Bot-Nutzung doch telefonieren müssen, kann zusätzlicher Zeitaufwand entstehen. Ein weiterer Voicebot kann diesen Weg nochmals verlängern. Die bloße Bereitstellung eines Bots ist deshalb für ihn nicht automatisch effizient.

Als Schattenseiten nennt er Datenschutz, Sicherheit, technische Hürden und laufenden Pflegebedarf. Ein berichtetes Experiment, bei dem ein GPT-basierter Dienst personenbezogene Daten ausgegeben habe, dient ihm als Warnung vor unzureichenden Schutzmechanismen. Eine genaue technische Auswertung dieses Vorfalls erfolgt in der Session nicht.

Ein Exkurs zur Erzeugung von Profilbildern erweitert die Perspektive auf berufliche Veränderungen durch KI. Lorenz berichtet von Bildern, die er mit Flux AI auf Grundlage eigener Fotos erzeugt hat, und äußert Sorge über Auswirkungen auf die Fotobranche.

Handlungsempfehlungen und abschließende Diskussion

Lorenz empfiehlt, vor einer Implementierung grundlegendes Verständnis aufzubauen. Onlinekurse und Schulungsprogramme können dafür einen Einstieg bieten. Für Beschäftigte nennt er kurze Lernformate und Animationsvideos, die Fragen nach Möglichkeiten und Umgang mit KI behandeln. Zugleich betont er, dass Prozessoptimierung nicht grundsätzlich den Einsatz von KI erfordert.

In der Diskussion mit Eva werden die Empfehlungen konkreter:

Die Zielgruppe und ihre häufigsten Fragen genau kennenlernen.
Wiederkehrende Kundenfragen beispielsweise aus Telefonaten dokumentieren.
Antworten in einer Wissens- oder Geschäftsdatenbank sammeln und für den Bot nutzbar machen.
Das System mit realistischen Nutzerfragen testen und seine Grenzen beobachten.
Komplexe oder neue Fragen an menschliche Mitarbeitende übergeben.

Eva ergänzt eine Erfahrung aus einer Softwarefirma: Neue Fragen und erarbeitete Antworten wurden im Kundendienst fortlaufend in einer Datenbank dokumentiert. Lorenz greift dieses Prinzip auf. Wiederkehrende Aufgaben sollen automatisiert werden; für nicht repetitive Fragen braucht es eine Schnittstelle zum Menschen.

Die Diskussion unterscheidet damit zwischen einem botgestützten First-Level-Support und einer weiterführenden menschlichen Bearbeitung. Eva betont zudem, dass Menschen die Antworten verfolgen und bei Fehlentwicklungen korrigieren sollten. Lorenz stimmt zu.

Sein abschließender Leitgedanke lautet, dass Bildung der erste Schritt ist: Chancen und Nachteile sollen verstanden werden, bevor Organisationen über den Einsatz entscheiden. Er bietet weitere Gespräche an; zum Ende wird auch die Vernetzung über LinkedIn angesprochen.