War es abzusehen – oder nicht? Während der Shift/CX Trends-Diskussionen debattierten wir darüber, ob ChatGPT tatsächlich eine bedeutende Veränderung für das Thema Conversational herbeiführen würde. Die Meinungen waren vielfältig, doch insgesamt eher verhalten. Nun, ein halbes Jahr später, ist festzustellen, dass die neue Generation der KI durchaus frischen Wind in die Welt der Conversational-Projekte gebracht hat.

Von neuen technologischen Möglichkeiten bis hin zu veränderten Nutzererwartungen und der Optimierung des Conversational Designs – in zahlreichen Aspekten haben die generativen Modelle deutliche Fortschritte bewirkt. Unter dem Motto „Chatbots im Wandel – Wie die KI-Revolution die Conversational-Projekte verändert“ werden wir im Rahmen der Shift/CX Chatbot & Conversational Experience Konferenz am 20. & 21.09. aktuelle Erfahrungen und Empfehlungen für Conversational-Projekte diskutieren.

Vorab haben wir in diesem Beitrag die bedeutendsten Entwicklungen und Diskussionspunkte rund um diese Veränderungen zusammengetragen.

Chatbot-Evolution durch die Integration von Large Language Models

Negiert man die wenigen Ausnahmen – so charakterisierten sich doch die meisten Chatbot-Projekte bis zum letzten Jahr durch regelbasierte Conversational Flow. Die Erkennung der Anliegen war bereits weitgehend intelligent erfolgt, die Dialogführung aber vor allem über Konversationspfade vordefiniert.

ChatGPT als öffentliche Schnittstelle zum Large Language Modell GPT-3 hat aufgezeigt, dass es auch anders geht und hat damit sowohl auf der Nutzerseite als auch auf der Projektseite neue Ansprüche ausgelöst, die bereits über die letzten sechs Monate umfangreiche Veränderungen in den Projekten gebracht haben.

Die Large Language Modelle bieten hochentwickelte KI-Modelle, die eine kontextbewusste menschliche Sprachverarbeitung ermöglichen. In der Integration dieser Modelle in die natürliche Sprachverarbeitung (NLU) von Chatbots eröffnen sich beachtliche Fortschritte und gleichzeitig neue Herausforderungen.

Zu den Potenzialen durch die Integration von Large Language Modellen in Chatbot-Projekten werden immer wieder folgende Aspekte angeführt:

• Verständnis von Sprachsemantik: Die neuen KI-Modelle beherrschen die Feinheiten der Sprachsemantik besser. Sie erkennen die Bedeutung in der Sprache genauer, was für präzise Antworten auf Benutzeranfragen essenziell ist. Dies ermöglicht eine tiefere Interpretation der Nutzerabsichten (Intents) hinter den Anfragen und verbessert die Kommunikation.
• Kontextuelle Interpretation: Mit Hilfe der LLM-Modelle können Chatbots in der Lage versetzt werden, den Gesamtkontext der Benutzerinteraktionen zu erfassen. Sie analysieren die Gesamtheit des Dialogs, um die Relevanz jeder Eingabe besser zu verstehen und Missverständnisse zu minimieren.
• Lernen aus Interaktionen: LLM-Modelle ermöglichen eine kontinuierliche Weiterentwicklung von Chatbots durch jede Interaktion. Die Analyse vergangener Dialoge ermöglicht es Chatbots, sich an die spezifischen Präferenzen und Verhaltensweisen der Benutzer anzupassen und bessere Antworten zu liefern.
• Bewältigung komplexer Anfragen: Komplexe Anfragen stellen eine Herausforderung für Chatbots dar. LLM-Modelle ermöglichen es ihnen, diese Anfragen besser zu verstehen und präzise Antworten zu liefern, ohne menschliche Intervention.
• Erweiterung des Antwortspektrums: Die Integration von LLM-Modellen erweitert das Repertoire an Chatbot-Antworten, was eine vielseitigere Interaktion mit einer breiteren Palette von Benutzeranfragen ermöglicht.
• Verbesserung der Natural Language Processing (NLP): LLM-Modelle verbessern die Fähigkeit von Chatbots, menschliche Sprache zu verstehen, zu interpretieren und zu generieren. Dadurch werden natürlichere und effektivere Gespräche zwischen Chatbots und Benutzern ermöglicht.

Wo Licht ist, ist auch Schatten. Daher müssen neben den Potenzialen auch die neuen Herausforderungen adressiert werden.

• Gefahr der Falschantwort und „Halluzination“: Die Large Language Modelle sind darauf optimiert, dass sie bestmögliche, natürlich sprachliche Antworten bieten, bei denen der Nutzer nicht mehr erkennt, dass sie generiert sind (Turing Test). Sie sind kein Wissensmodell – sondern eine Dialogmaschine, die aus der semantischen Nähe von Begriffen Zusammenhänge interpretiert, was zu Fehlinterpretationen führen kann. Hier braucht es immer wieder die Koppelung mit einer Knowledge Base bzw. einem Knowledge Graph, welche die Zusammenhänge auf ihre logische Wahrheit hin überprüfen können. Die Diskussion, inwieweit die Koppelung sinnvoll und effektiv/effizient ist, ist weiterhin offen. Verschiedene Studien zeigen, daß letztlich 60 bis 70% der Intents im richtigen Kontext mit lösungsorientiert beantwortet werden kann. Für die Beantwortung der letzten 30-40% braucht es aber einen umso größeren Aufwand – weshalb Experten hier die vollständige Automatisierung nicht sehen, sondern vielmehr die Unterstützung der Agenten-gestützten Beantwortung.

Janna Lipenkova: While humans acquire these skills naturally from the surrounding world as they grow, the learning inputs and signals for LLMs are rather meagre. They are forced to learn only from the surface form of language, and their success criterion is not communicative efficiency but the reproduction of high-probability linguistic patterns. (https://towardsdatascience.com/overcoming-the-limitations-of-large-language-models-9d4e92ad9823)

• Ethik und Bias: Chatbots müssen frei von Vorurteilen und Verzerrungen agieren. Die Integration von selbstlernenden LLM-Modellen erfordert daher eine Überwachung und Optimierung, um faire Interaktionen sicherzustellen. Zahlreiche Feldversuche haben gezeigt, wie schnell sich die Interpretation von Kontexten in ethisch nicht gewollte Richtungen entwickeln kann.

Entwicklungen im Projektmanagement von Chatbot- und Conversational-Projekten: Von Augmentation des Conversational Designs bis zur Effizienzsteigerung

Die neuen KI-Technologien bringen aber nicht nur technologische Verbesserungen für das Conversational-Thema mit sich, sondern auch Potenziale für das Management der Conversational-Projekte. Die Kombination aus menschlicher Expertise und KI-Unterstützung eröffnet vielfältige Möglichkeiten, um das Conversational Design zu optimieren und Projekte effizienter zu gestalten.

Aspekte für die Augmentation des Conversational Designs durch KI-Technologie:

• Design-Optimierung: KI-gestützte Tools helfen bei der Gestaltung von Dialogflüssen, indem sie potenzielle Schwachstellen aufdecken und Optimierungsvorschläge liefern.
• Personalisierung: KI kann Daten über Benutzerpräferenzen analysieren und maßgeschneiderte Gespräche erstellen, was zu einer höheren Benutzerzufriedenheit führt.
• Automatisierte Inhaltsentwicklung: KI-Modelle können Texte automatisch generieren, wodurch der Content-Erstellungsprozess beschleunigt wird.

Ansatzpunkte für die Effizienzsteigerung im Conversational-Projektmanagement:

• Schnellere Implementierung: KI-Unterstützung ermöglicht eine schnellere Entwicklung und Implementierung von Chatbots und Conversational-Lösungen.
• Kontinuierliches Lernen: KI-basierte Analysen der Benutzerinteraktionen liefern wertvolle Einblicke, die zur kontinuierlichen Verbesserung des Systems genutzt werden können.
• Benutzerfeedback-Analyse: KI hilft dabei, Benutzerfeedback zu analysieren und Trends zu erkennen, um gezielte Verbesserungen umzusetzen.

Diese Entwicklungen stellen jedoch nicht nur Chancen dar, sondern auch Herausforderungen im Projektmanagement von Chatbot- und Conversational-Projekten. Das erfolgreiche Zusammenspiel von menschlicher Kreativität und KI-Technologie erfordert eine fundierte Strategie und die Berücksichtigung ethischer Aspekte. Die Diskussion dieser Entwicklungen wird auf der bevorstehenden Konferenz dazu beitragen, bewährte Praktiken und Empfehlungen für die erfolgreiche Umsetzung von Conversational-Projekten zu erörtern.

Ausblick: Definieren wichtiger Projektfragestellungen für den Herbst 2023

Die gegenwärtige Verschmelzung von KI-Technologie und Conversational-Design hat eine spannende Ära der Innovation und Entwicklung eingeläutet. Chatbots und Conversational-Projekte haben einen bemerkenswerten Fortschritt erfahren, angefangen bei der Integration von Large Language Models in die NLU bis hin zur Augmentation des Conversational Designs und der Effizienzsteigerung im Projektmanagement.

Während die Technologie voranschreitet, ergeben sich auch neue Fragestellungen und Herausforderungen. Wie können wir ethische Grundsätze in der KI-gesteuerten Kommunikation wahren? Wie können wir sicherstellen, dass Chatbots menschenähnliche Empathie und Verständnis zeigen? Wie integrieren wir KI nahtlos in die bestehenden Unternehmensstrukturen?

Diese und weitere Fragen sind Gegenstand der Shift/CX Chatbot & Conversational Experience Konferenz am 20. & 21.09. Verschiedene Praxisvorträge wie auch Expertenbeiträge tragen ein breites Spektrum an Erkenntnissen, Erfahrungen und Perspektiven zusammen. Die Konferenz bietet damit einen spannenden Austausch für die weitere Entwicklung von Chatbots und Conversational-Projekten.