Conversational AI als SaaS-Lösung – Was bedeutet das und welche Vorteile bringt es?
Im letzten Jahrzehnt hat sich die Implementierung von Business Software im Software-as-a-Service-Modell (SaaS) immer stärker durchgesetzt. Auch wir von Onlim haben unsere Conversational AI-Lösung als SaaS entwickelt.
Warum dies für unsere Kunden die bessere Lösung ist, welche Vorteile daraus resultieren und wie Conversational AI per SaaS genau funktioniert erklären wir in diesem Beitrag.
Was versteht man unter einer SaaS-Lösung?
Als Software-as-a-Service (SaaS) verstehen wir, dass ein Anbieter einem Kunden eine Software ganzheitlich, also inklusive IT-Infrastruktur, Netzwerk, Updates, Backups und allen anderen Bestandteilen wie weiteren Rechenzentren als Service über das Internet zur Verfügung stellt.
Die zunehmende Popularität von SaaS-Lösungen liegt neben ihrer einfachen Anwendung, Skalierbarkeit und der raschen Inbetriebnahmen vor allem in der durch globalen Wettbewerb diktierten Fokussierung auf die Kernkompetenzen des eigenen Unternehmens.
Warum ist Onlims Conversational AI eine SaaS-Lösung?
Alle Unternehmen stehen bei der Formulierung ihrer Innovationsstrategie vor der “Make-, Buy- or Adapt-Entscheidung”. Es macht für Unternehmen prinzipiell nur Sinn, für das Kerngeschäft entscheidende Themen selbst in die Hand zu nehmen, alles andere wird von Experten bzw. Technologie-Lieferanten bezogen und – sofern notwendig – adaptiert.
Bei Onlim haben wir laufend beobachten können, dass es bei den meisten Unternehmen immer wieder die gleichen Hürden und Hindernisse zu überwinden gilt, um das Thema Conversational AI ins Unternehmen zu bringen. Dabei geht es nicht nur um die Analyse der Sprache und Erkennung der Kundenabsicht sondern auch um die Verwaltung der Daten- und Service-Integration. Es sind auch manchmal Services von anderen Unternehmen zu integrieren, was die Komplexität zusätzlich erhöht.
So wurde sehr schnell klar klar, dass die meisten Kunden nach etwas Reflektion zur Entscheidung kommen, dass sie nicht entwickeln sondern kaufen oder adaptieren möchten. Für Buy und Adapt ist SaaS sicherlich die beste Lösung. Onlim ist eine SaaS-geborene Lösung, weil uns in der Zusammenarbeit mit großen Corporate-Kunden klar wurde, welche enorme Expertise und Spezialisierung erforderlich ist, um Conversational AI-Lösungen in Unternehmen zu bringen.
Wir verfügen derzeit über 5 unterschiedliche Datenbanken, haben In-Memory-Caches und über 50 verschiedene Komponenten, die miteinander harmonieren. Pro Jahr veröffentlicht Onlim ca. 100 Software-Updates, von deren Implementierung Kunden aufgrund des friktionsfreien Betriebs nichts bemerken.
Man stelle sich vor, dass Partner oder Kunden diese Updates vor Ort implementiert haben müssten, was bei einer On-Premise-Lösung erforderlich wäre.
SaaS-Lösungen: Einfache Nutzung verbirgt Komplexität des Betriebs
Nutzer einer SaaS-Anwendung können bequem per Browser oder Mobilgerät direkt auf die SaaS-Lösung zugreifen, sie müssen nicht bei der Entwicklung und Wartung der Lösung auf technischer Seite mitwirken. Aus dieser Tatsache entsteht eine eklatante Informationsasymmetrie, welche eine gewisse Ironie in sich trägt:
Weil die Nutzung des Dienstes für Anwender so einfach und komfortabel ist, wird die technische Komplexität und erforderliche Expertise und Spezialisierung für deren Entwicklung meist stark unterschätzt. Verkompliziert wird dies dadurch, dass sich der Aufwand des Betreibers und seine erforderlichen Kompetenzen nur schwer erklären und darstellen lassen.
Erfassen Kunden einmal die Komplexität und den Umfang der erforderlichen Investitionen und laufenden Kosten der Entwicklung einer solchen Lösung, steigt die Bereitschaft und Wertschätzung der Implementierung dieser über einen Partner, dem man vertraut.
Ist Entwicklung und Betrieb einer Conversational AI-Lösung komplex?
Um etwas mehr Transparenz und Klarheit für die Arbeit zu schaffen, welche hinter der Onlim-Kulisse steckt, wollen wir in diesem Abschnitt zunächst den Ladeaufwand für die letzten 6 Monate betrachten. Anschließend werden wir zwei Arten von Anfragen (Requests) in unserem System Schritt-für-Schritt begleiten.
Diese Grafik zeigt mehrere Aspekte: Sie veranschaulicht zunächst, wie engmaschig wir unseren Service beobachten. Wir haben Hunderte von Parametern auf jedem Server/jeder Maschine, um die Leistung und den Betrieb des Gerätes zu messen. Die Grafik beschreibt weiters, dass wir in den letzten 6 Monaten insgesamt rund 367 Millionen Anfragen abgearbeitet haben.
Eine nähere Betrachtung offenbart, dass wir Millionen Anfragen davon im Monat selbst absetzen, um unsere Systeme zu überwachen. Minütlich nehmen wir Proben von unterschiedlichen Standorten in der Welt, um Verfügbarkeit und Performance (Geschwindigkeit; Latenz) der Maschinen zu messen. Wir messen also sowohl von innerhalb wie auch außerhalb des Systems von unterschiedlichen Standorten in der Welt aus.
Diesen Grad an operationellem Aufwand würde kaum ein Unternehmen für sich selbst in diesem Ausmaß durchführen. Im Sinne eines „Overengineering“ wäre es den erforderlichen Aufwand schlichtweg nicht wert.
Begleiten Sie 2 Requests auf ihrer Reise durch das Onlim-System
Ausgangspunkt ist das Chat-Widget (Chat-Management-System mit Caches), welches Onlim-Kunden auf der Startseite ihrer Webseite implementiert haben. Öffnet der Nutzer die Webseite, erfolgt ein Laden (Load) im Onlim-System, um eine persönliche Ansprache des Nutzers im Chat zu ermöglichen. Tatsächlich stellen diese Loads die überwiegende Mehrheit aller Loads im System dar.
Sofern der Nutzer mit dem Chatbot interagiert, wird diese Anfrage durch mehrere „KI-Systeme“ hindurch verarbeitet. Zunächst beginnt dies im Modul des Natural Language Understanding (NLU), wo der Inhalt der Anfrage analysiert und der Intent des Kunden ermittelt wird (was wiederum Loads darstellt).
Die Anfrage kommt dann in die Ebene des Natural Language Processing (NLP), basierend auf dem Intent und der Semantik wird in der Datenbank bzw. dem Knowledge Graphen des Kunden bei Onlim nach den entsprechenden Informationen für eine Antwort der Anfrage gesucht; auch Kundenservices/Schnittstellen können integriert werden, über welche Echtzeitinformationen vom Kunden in die Beantwortung einfließen können.
Die Anfrage wird mit den abgerufenen Informationen in die dritte Instanz, die Natural Language Generation (NLG), weitergeleitet. Hier schlagen wir dem Endnutzer in natürlicher Sprache im Chatbot die Antwort vor bzw. beantworten seine Anfrage.
Whitepaper zum Thema "Mehr Wissen für Chatbots und Sprachassistenten herunter".
Welche Vorteile bietet eine SaaS-basierte Conversational AI-Lösung?
Alle bekannten Vorteile und Vorzüge von SaaS-Lösungen lassen sich ebenso auf die Nutzung der Conversational AI-Lösung von Onlim umwälzen:
- Skalierbarkeit: Bei Auslastungsspitzen kann die Software flexibel durch Hinzuschalten weiterer Server ohne Beeinträchtigung der Betriebsgeschwindigkeit skaliert werden.
- Verfügbarkeit: Cloud-gehostete Software wird über Rechenzentren repliziert und ausfallsicher angeboten.
- Sofortige Nutzung: Keine lokale Installation erforderlich, die Software kann sofort eingerichtet, konfiguriert und verwendet werden.
- Personalersparnis: Kein eigenes Personal für die Entwicklung, Wartung und Betrieb der Software erforderlich, keine ausführlichen Einschulungen notwendig.
- Spezialisierung: Kunden profitieren von kombiniert über 150 Personenjahren Entwicklungserfahrung im Conversational AI-Bereich des Onlim-Teams.
- Flexible Nutzung: Ausmaß der Nutzung kann nach tatsächlich erforderlichen Gegebenheiten angepasst werden. Kein „Over- oder Underpurchasing“.
- Fokussierung: Kunden können sich gemäß ihrer Innovationsstrategie auf Kernkompetenzen fokussieren und unterstützende Services vom Experten beziehen.
- Einfache Abrechnung: Abokosten können als monatlicher Betriebsaufwand einfach steuerlich abgesetzt werden.
- Laufende Updates: Onlim als Anbieter hat im Jahr 2021 über 100 kleinere Updates implementiert, ohne dass die Verfügbarkeit des Services für Kunden beeinträchtigt wurde.
- Rundum-Sorglos: Als Full-Service-Provider können Kunden bei Onlim alle erforderlichen Services für die Implementierung einer Conversational AI-Lösung aus einer Hand beziehen. Your Content Goes Here
Wie sieht die Implementierung einer Conversational AI SaaS-Lösung bei Onlim konkret aus?
Onlim ist eine SaaS-basierte Conversational AI-Lösung, welche Unternehmen im Abo-Modell beziehen und gemäß ihrer tatsächlichen Nutzung adaptieren können. Onlim agiert als Full-Service-Provider und übernimmt die laufende Wartung und Weiterentwicklung im Backend sowie die Bereitstellung von Conversational AI as a Service.
Unternehmen können sich voll und ganz auf die Nutzung des Dienstes und die Realisierung der damit verbundenen Prozessoptimierungen, Erkenntnisgewinne und Effizienzsteigerungen konzentrieren. Onlim hostet in einem deutschen Rechenzentrum und gewährleistet so Verfügbarkeit, Performance und Skalierbarkeit des Dienstes zu jeder Zeit.
Der Wert von SaaS liegt darin, dass sich Anwender völlig auf die Nutzung des Dienstes fokussieren können und von jeglichem technischen oder administrativen Aufwand befreit werden. Somit können Kunden nicht nur zeitnah den vollen Nutzen aus der Anwendung realisieren, sondern auch von allen anderen vorgehend aufgelisteten Vorteilen profitieren.
Vereinzelte Anfragen nach On-Premise-Implementierung ebben ab
Allgemein sind immer mehr IT-Dienstleister und -Abteilungen von der Überlegenheit von SaaS-Diensten überzeugt; kein Wunder angesichts der Fülle an Vorteilen (wie vorangehend dargestellt).
Vereinzelt plädieren Procurement-Abteilungen mangels Vorwissen dennoch zunächst aus Ownership-Perspektive, gerade bei staatlich regulierten Unternehmen, für eine On-Premise-Lösung.
Wir können unsere Interessenten allerdings beruhigen: DSGVO-Konformität ist selbstverständlich gewährleistet. Alle Dienste werden aus einer Hand von Onlim angeboten, die Bereitstellung erfolgt aus unserer eigenen Private Cloud in einem deutschen Rechenzentrum.
Beschaffung von SaaS-Lösungen: Service Levels müssen definiert werden
Für Kunden ist es wichtig, im Procurement Klarheit über die Anforderungen der anzuschaffenden Lösung zu haben. Hierfür müssen erforderliche Service Level (SL) für das abzuschließende Service Level Agreement (SLA) mit dem Technologieanbieter definiert werden.
Was ist ein SLA? Welche SL und SLAs werden benötigt? Wie kann man SLAs verhandeln und vereinbaren? Ist diese Klarheit vorhanden, kann sichergestellt werden, dass genau der richtige Funktionsumfang angeschafft wird. Over- und Underpurchasing werden vermieden.
Aufgaben des Kunden bei der Implementierung einer Conversational AI SaaS-Lösung
Die SaaS-Lösung befreit den Kunden von vielen Aufgaben und Aufwendungen, bei der erstmaligen Implementierung von Onlim ist je nach Anwendungsfall dennoch etwas Mitarbeit erforderlich.
Die Details unterscheiden sich vom einzelnen Anwendungsfall, welche sehr oder wenig Daten- oder Service-lastig sein können. Der Kunde kann sich bei SaaS auf die Implementierung und den Einsatz konzentrieren. Die wichtigste Aufgabe des Kunden ist, die Wahl zwischen sprach- und text-basiertem Bot zu treffen und uns bei der Intent-Erkennung zu unterstützen, die im Hintergrund eingestellt, verbessert und laufend überwacht wird.
Der Kunde sollte laufend die eingehenden Anfragen bzw. Intents überwachen und dementsprechend den Bot weiterentwickeln, sodass alle Nutzeranfragen beantwortet werden können. Der Kunde muss den Inhalt in strukturierter Form durch Hochladen oder Eingeben zur Verfügung stellen, damit die Kundenanfragen bestmöglich beantwortet werden können.
Es gibt zwei Möglichkeiten, wie die Daten des Kunden zu Onlim gelangen können um von hier über den Bot bereitgestellt werden zu können: Einerseits kann der Kunde diese bereits strukturiert importieren, oder sie können von Onlim über Schnittstellen abgegriffen und in das System eingespielt werden.
Was können wir in Zukunft erwarten?
Die Nutzung von SaaS-Lösungen im Unternehmensbereich ist definitiv ein Megatrend, der sich die letzten 5-10 Jahre bereits abgezeichnet hat. Auch für Insider ist diese stetig zunehmende Transformationsgeschwindigkeit so hoch, dass es schwer ist, Schritt zu halten.
Firmen stehen unter immer stärker werdenden Druck, beim technologischen Wandel mitzuhalten und diesen möglich kostengünstig implementieren zu können. Das Thema der Fokussierung auf Kernkompetenzen in der Innovationsstrategie wird sich weiter verstärken – und damit die Nutzung von SaaS-Services wie auch der Conversational AI-Lösung von Onlim.
Forciert wird dies auch durch die steigende Regulierung und komplexeren Rechtsvorschriften im Umgang mit Daten, was Expertenwissen voraussetzt.
Bei weiteren Fragen oder Feedback zum Thema können Sie uns gerne hier kontaktieren.
Was sind Large Language Models (LLMs)?
März 18th, 2024|
Was sind Chatbots und wie funktionieren sie?
November 23rd, 2023|
