Weshalb Ihr Chatbot auf Knowledge Graphen basieren sollte!

Wenn Unternehmen mit der Entwicklung eines KI-basierten Chatbots starten, wählen viele zumindest zu Beginn einen Machine Learning-basierten Ansatz. Mit dieser Methode der Non-Symbolic AI schöpfen sie jedoch nur einen Teil des KI-Potenzials aus, der Chatbot stößt im Einsatz bald auf Grenzen.

Künstliche Intelligenz umfasst sowohl die Bereiche Symbolic AI und Non-Symbolic AI. Was diese Ansätze sind und warum auch im Mittelstand der Einsatz eines Symbolic AI-Ansatzes auf Basis eines Knowledge Graphen zielführender und wirksam sein kann, diskutieren wir in diesem Beitrag.

Zudem betrachten wir, warum letztendlich ein kombinierter Einsatz von Symbolic und Non-Symbolic AI, „das Beste aus beiden Welten“, der vielversprechendste Ansatz für die Entwicklung wirksamer und effektiver KI-Assistenten ist.

Symbolic versus Non-Symbolic AI

Wir haben uns in anderen Beiträgen bereits ausführlich mit der Unterscheidung dieser beiden Teilgebiete der Künstlichen Intelligenz beschäftigt (siehe: Was ist Hybride KI & welche Vorteile bietet sie Unternehmen?)

Kompakt auf den Punkt gebracht lässt sich dabei sagen:

• Non-Symbolic AI: Lernen bzw. Trainieren eines Algorithmus/der KI anhand von Beispielen bzw. Trainingsdaten, aus welchen Regeln abgeleitet werden, quasi „training on the job“.
• Symbolic AI: KI lernt aus Modellen und Regeln, daher sind keine Trainingsdaten erforderlich, wie „in die Schule gehen“.

Wir werden nachfolgend die Entwicklung von Chatbots auf Basis von Non-Symbolic AI, konkret mittels Machine Learning-Verfahren, sowie mit Symbolic AI, konkret mittels eines Knowledge Graphen, näher betrachten und Voraussetzungen und Limitationen aufzeigen. 

Einen speziellen Fokus richten wir dabei auf die Implementierung solcher Chatbots in mittelständischen Unternehmen und deren Herausforderungen. 

Non-Symbolic AI: Entwicklung eines Machine Learning-basierten Chatbots

Wenn Unternehmen über Conversational AI-Assistenten nachdenken, ist der Begriff des „Machine Learnings“ nicht weit. Viele Unternehmen beabsichtigen die Entwicklung eines Chatbots oder Sprachassistenten auf Basis eines Machine Learning-Ansatzes. 

Leider kommt es hier allerdings aufgrund eines falschen Begriffsverständnisses und überhöhter Erwartungen in der Praxis zu ernüchternden Ergebnissen für Unternehmen.

„Machine Learning“ ist nur eine einzelne Methode der Künstlichen Intelligenz

Oft verwendet man den  Begriff Machine Learning synonym mit künstlicher Intelligenz, ein häufiger und fataler Irrtum. Tatsächlich ist Machine Learning nur eine von vielen Methoden der KI, konkret ein Ansatz des Teilgebietes der Non-Symbolic AI. 

Machine Learning entspricht dem Gebiet der Non-Symbolic AI. Im Allgemeinen beschreibt man mit Machine Learning eine Methode, mit der man Systeme befähigt, anhand von Beispielen und Algorithmen Muster, Regeln und Gesetzmäßigkeiten zu erkennen und daraus Lösungen zu entwickeln. 

So entwickelt man einen Machine Learning-basierten Chatbot

Nutzt man Machine Learning zur Entwicklung von KI-Assistenten, geht man dabei wie folgt vor:

• Beispieldialoge je nach Einsatzbereich des Chatbots, z.B. Kundenservice oder IT-Helpdesk, werden in größtmöglicher Menge gesammelt und bereitgestellt. 
• Der Chatbot wird von den Anwendern nach bestimmten Themen oder Kriterien gefragt, der Mensch dahinter, also „der Trainer“, entscheidet, ob die Antwort des Chatbots richtig ist oder nicht. 
• Dieses Feedback geht an das Chatbot-System, auf Basis dieser Zuteilung „richtig/falsch“ lernt die Maschine, welche Antworten die richtigen sind und in Zukunft sein sollen. 

Wann eignet sich ein Machine Learning-basierter Chatbot?

Wenn relativ wenige Beispiele die Realität gut abdecken, dann kann man mit dem Machine Learning-Ansatz rasch gute Ergebnisse erzielen. Dies ist etwa der Grund, warum die Bilderkennung per Machine Learning sehr gut funktioniert. Mit wenigen Unterscheidungen kann man z.B. Flugzeuge von Vögeln gut unterscheiden.

Das Wissen des Chatbots wird durch laufendes Training und Beispiele sukzessive erweitert. Dementsprechend ist das am Anfang ein eher manueller, iterativer Prozess. 

Bei großen Datenmengen hat man in der Umsetzung ein hohes Potenzial. Wenn man eine Vielzahl von ähnlichen Trainingsdaten hat, kann Machine Learning sehr rasch und effizient erfolgen.

Nachteile und Limitationen eines Machine Learning-basierten Ansatzes

Die Voraussetzungen für einen Machine Learning-basierten Ansatz sind zumeist nicht erfüllt, denn: 

• Unternehmen benötigen eine Unmenge an Trainingsdaten, um die in der Realität vorhandenen zahlreichen Use-Cases abbilden zu können.
• In der Realität werden Unternehmen mit einer Vielzahl von vollkommen unterschiedlichen Varianten und Frage-Kombinationen zu ähnlichen Use-Cases konfrontiert. 
• Man muss den Chatbot laufend durch Interpretation der Ergebnisse iterativ trainieren und seine Kenntnisse verbessern. 
• Der Trainingsansatz ist höchst spezifisch. Der Chatbot kann bereits leicht abweichende Anfragen zumeist nicht mehr erkennen und verstehen.

Diese Limitationen entsprechen nahezu exakt den Rahmenbedingungen, vor denen besonders mittelständische Unternehmen bei der Entwicklung eines KI-basierten Chatbots stehen.

Herausforderungen bei Conversational AI im Mittelstand

Der Kundenservice in den meisten mittelständischen Unternehmen ist durch folgende Kriterien geprägt:

• Komplexe Produkte
• Heterogene Anfragen
• Geringe Anzahl an ähnlichen Anfragen

Anwendungsfälle mit diesen Faktoren machen den Einsatz von Machine Learning-basierten Assistenten nahezu wertlos. Die Entwicklung wäre teuer und mühsam, die Ergebnisse dauerhaft suboptimal und frustrierend. Mitarbeiter werden überlastet anstatt entlastet, Unternehmen hätten Mehraufwand anstatt Einsparungen und Automatisierung.

Gerade auch aus diesem Grund sind wir bei Onlim der Überzeugung, dass ein Knowledge Graph-basierter Ansatz den besten Ausgangspunkt für die Entwicklung eines KI-Assistenten darstellt. 

Symbolic AI: Chatbots auf Basis eines Knowledge Graphen 

Ein Knowledge Graph ist eine Form der Wissensrepräsentation, in der Fakten zueinander in Beziehung gesetzt werden. Sie gehört zum Teilbereich der Symbolic AI, (aufgrund ihrer Ursprünge auch als „good old fashioned AI“ bezeichnet), wo logische Beziehungen zwischen Fakten bzw. Entitäten, in einem maschinenlesbaren Format erfasst werden.

Zur näheren Darstellung der Einsatzweise eines Knowledge Graphen, wollen wir ein vereinfachtes Beispiel anhand von Wolfgang Amadeus Mozart skizzieren.

Knowledge Graphen können nach Entwicklung vielfältig eingesetzt werden

Wir von Onlim haben schon viele Modelle fertig entwickelt, z.B. im Bereich Tourismus. Gilt es, einen Chatbot z.B. zum Thema Wandertouren zu erstellen, können wir auf unser Modell zurückgreifen. Wir wissen bereits, wie Nutzer wonach fragen können. Die jeweiligen Informationen müssen nur eingespielt werden und der Knowledge Graph ist fertig.

Hier gibt es eine Vielzahl von Domänenmodellen, die wir bereits erstellt haben und sukzessive erweitern. Ebenso können wir natürlich auch neue Domänenmodelle entwickeln. 

Wir benötigen dazu strukturierte Informationen, etwa in Form von Produktdaten. Wir setzen das Modell auf und können dann entweder die Daten in unsere Plattform importieren oder über Schnittstellen auf unternehmensinterne oder öffentlich zugängliche Datenquellen (Open Data) zugreifen. 

Welche Vorteile bietet ein Knowledge Graph-basierter Chatbot?

Durch die semantische Modellierung eines bestimmten Themas, z.B. Produkte und Produktspezifikationen, weiß der Chatbot, WIE Fragen zu diesem Modell interpretiert und beantwortet werden müssen. 

So weiß der Chatbot bereits zum Start (ohne langwierigen Trainingsaufwand) einfach mehr und kann dann sukzessive im laufenden Betrieb ohne Erstellung von Trainingsdaten weiter entwickelt werden.  

Da keine Trainingsdaten erforderlich sind, kann man, in Abhängigkeit der Komplexität des Modells und Themas, relativ rasch starten. Hat man einmal das Modell, kann man den Chatbot live schalten und es ist egal, ob er täglich 1 oder 1.000 Anfragen erhält – er kann sie sinnvoll beantworten.

 „Nachteile und Limitationen“ eines Knowledge Graph-basierten Chatbots 

Es ist schwer, reale Nachteile des Knowledge Graph-basierten Ansatzes zur Entwicklung eines Chatbots zu finden, weil die Ergebnisse nahezu immer von Anfang an besser sind. Jedoch kann es bis zur Implementierung zu einer Herausforderung kommen, die nicht geleugnet werden sollte:

Ein realer Nachteil im Knowledge Graph-basierten Ansatz liegt tatsächlich darin, dass die Funktionsweise und Anwendung schwieriger zu erklären bzw. nachzuvollziehen ist. 

Die relevanten Mitarbeiter müssen sich näher auf das Thema einlassen, bereit sein, die erforderliche Vorarbeit zu investieren, um dann sehr rasch die Früchte ernten zu können. 

Etwas Vorarbeit beim Knowledge Graph-basierten Chatbot outperformt den sofort einsetzbaren Machine-Learning-Chatbot

Die Entwicklung eines Chatbots mittels Machine Learning-Ansatz kann recht unmittelbar beginnen, weil man nach dem Motto „Training on the Job“ anhand von konkreten Anfragen im operativen Betrieb startet und versucht, daraus Muster und Regeln abzuleiten. 

Dementsprechend kann ein solcher Chatbot sehr gut darin sein, sehr homogene Arten von Anfragen abzudecken, zeigt in der Beantwortung von allgemeinen, noch unbekannten Anfragen jedoch sehr große Schwächen.  

Wählt man hingegen einen Knowledge Graph-basierten Ansatz, so ist im Vorfeld mehr Planung und Aufbereitung erforderlich. Der Chatbot wird „zuerst einmal in die Schule geschickt“, er muss Entitäten, deren Interrelationen, Regeln und Arten möglicher Anfragen kennenlernen. 

Anhand von strukturierten Daten, etwa aus Produktkatalogen oder Open Data, werden Entitäten wie Personen, Organisationen, Veranstaltungen, Orte, mit deren Beziehung modelliert und ein Domänenmodell entwickelt. Versinnbildlicht wäre dies eine breitere Allgemeinbildung, die auf vielfältige Anwendungsmöglichkeiten und heterogene Anfragen vorbereitet. 

All diese Arbeitsschritte werden gesetzt, bevor der Chatbot erstmals live geschalten wird. Im Regelfall können von der ersten Anfrage weg über 90% der Anfragen korrekt beantwortet werden. Für die laufende Optimierung des Knowledge Graph-basierten Chatbots kann man dann auch auf Machine Learning zurückgreifen.

Mittelständische Unternehmen profitieren davon in vielerlei Hinsicht:

• Operative Entlastung ab der ersten Anfrage
• Minimaler Optimierungsaufwand im laufenden Betrieb
• Vielzahl heterogener Anfragen kann beantwortet werden 
• Besseres Kundenerlebnis durch raschere Antworten 
• Sofortige Kostenersparnis durch erhöhte Effizienz im Kundenservice

Onlims Ansatz: Kombinierter Einsatz von Symbolic und Non-Symbolic AI

Bisher haben wir das „Entweder-oder“ von Machine Learning- und Knowledge Graphen-basiertem Ansatz diskutiert. Tatsächlich vertreten wir die Ansicht, dass Knowledge Graph-basierte Chatbots viele Vorzüge bieten, jedoch:

Die besten Ergebnisse lassen sich erzielen, wenn man einen Knowledge -Graph-basierten Chatbot mittels Machine Learning laufend optimiert. 

Ein Knowledge Graph-basierter Chatbot kann durch Lernen der hinterlegten Relationen der unterschiedlichen Entitäten Modelle und Regeln ableiten, welche ihm eine effektive Beantwortung von Anfragen ermöglicht, basierend auf der in der Anfrage erkannten Parameter bzw. Entitäten.  Wir erstellen im ersten Schritt einen solchen Knowledge Graphen für unsere Kunden. Dieser kann von der ersten Anfrage an sehr rasch und kosteneffizient agieren. In weiterer Folge setzen wir auch Machine Learning ein. Nachdem ein Knowledge Graph-basierter Chatbot live gegangen ist, verwenden wir die Dialoge für weitere Optimierungen des Chatbots. 

Fazit

Nach dieser ausführlichen Diskussion der beiden Ansätze, ist es Zeit für eine kurze Zusammenfassung. 

Sie können Chatbots und Sprachassistenten nach unterschiedlichen Ansätzen entwickeln. Der Machine Learning-basierte Ansatz setzt viele Trainingsdaten voraus, die typischerweise manuell gesammelt und erstellt werden. 

Auch bei mittelständischen Unternehmen (bei Großunternehmen sowieso, dort kommt noch die riesige Menge an Interaktionen hinzu) gibt es oft sehr heterogene, komplexe und zahlenmäßig wenige Anfragen, weshalb sich auch hier der Knowledge Graph-basierte Ansatz empfiehlt. Weil man im Knowledge Graphen Entitäten und Informationen mit ihrer Beziehung zueinander modelliert, kann ein Chatbot schon ab der ersten Anfrage aussagekräftige Antworten liefern und die operative Entlastung und Automatisierung bieten, nach der Unternehmen suchen. 

Sie überlegen die Anschaffung eines KI-basierten Chatbots für Ihr Unternehmen? Sie ragen sich jetzt, ob ein Machine Learning- oder Knowledge Graph-basierter Ansatz zielführender wäre? Kontaktieren Sie uns und vereinbaren Sie ein kostenloses Beratungsgespräch!