Wie vertikal-spezifische Modelle den Wert von GenAI freisetzen werden

Diejenigen, die bei der Integration von GenAI in ihre Kundenerfahrung vertikal-spezifische Modelle übersehen, werden schlechtere Ergebnisse und höhere Kosten erzielen, schreibt Tvrtko Stosic von Avaya.

Wie Sie die Selfservice-Akzeptanz durch GenAI steigern

Ein kürzlich veröffentlichter Bericht der Analysten von CMP zeigt, dass trotz des großen Interesses an Voice- und Chat-Bots in der Kundendienstbranche die meisten Self-Service-Funktionen tatsächlich auf traditionellen IVRs basieren. In derselben Studie wird die Akzeptanz der Endnutzer als Haupthindernis für die Verbreitung von Sprach- und Chatbots genannt. Dies ist kaum überraschend, und hier ist der Grund dafür.

Die meisten Bots basieren heute auf starrem Scripting und vorkonfigurierten Szenarien. Die Interaktion mit ihnen erfordert in der Regel einen hohen Aufwand und führt häufig zu Frustration auf Kundenseite. Deshalb ruhen viele Hoffnungen für eine höhere Kundenakzeptanz auf der generativen KI und ihrer Fähigkeit, Sprach- und Chatbot-Konversationen zu vermenschlichen. In der Tat bringt generative KI mit ihren menschenähnlichen Konversationsfähigkeiten, ihrer Fähigkeit, Empathie zu zeigen, komplexe Eingaben zu verstehen und komplexe Probleme zu lösen, eine echte Revolution für Self-Services-Anwendungen.

Vertikal-spezifische Sprachmodelle für den Kundendialog

Andererseits sind die meisten der heutigen großen Sprachmodelle (LLMs), wie Chat GPT-4, horizontal oder allgemein. Diese LLMs sind vielseitig und in verschiedenen Branchen anwendbar. Aufgrund ihrer allgemeinen Fähigkeiten sind sie für Unternehmen aus verschiedenen Sektoren, die ihren Kundenservice über Sprach- und Chatbots automatisieren möchten, leicht verfügbar. Diese Vielseitigkeit ist jedoch nicht ohne einige Nachteile.

Aufgrund ihrer allgemeinen Natur müssen horizontale generative KI-Modelle Billionen von Parametern berücksichtigen, um gute Ergebnisse zu erzielen. Dies erhöht den erforderlichen Verbrauch an Verarbeitungsressourcen (und die damit verbundenen Kosten). Außerdem erfordert die horizontale KI einen hohen Aufwand und qualifizierte Ressourcen, damit sie an die Bedürfnisse eines bestimmten Unternehmens angepasst werden kann. Sie benötigen Dateninjektionen, Feinabstimmung und Prompt-Engineering, um unternehmensspezifische Unterstützung zu ermöglichen. Wir wissen das aus Erfahrung, denn wir haben Avaya Ada entwickelt.

Außerdem besteht bei allgemeinen LLMs immer die Gefahr, dass Bots falsche Antworten geben oder sogar Halluzinationen hervorrufen.

Horizontale vs. Vertikale Sprachmodelle im Kundendialog   

Trotz dieser Herausforderungen haben sich horizontale Modelle im Kundendialog als nützlich erwiesen und können, wenn sie richtig verwaltet werden, einen erheblichen Wert darstellen. Mit der Entwicklung der generativen KI hin zu vertikalen Modellen zeichnen sich jedoch bereits große Verbesserungen ab. Vertikale Modelle werden auf bestimmte Branchen oder Bereiche zugeschnitten sein und auf bereichsspezifischem Wissen und Know-how beruhen. Folglich werden sie viel besser auf spezifische vertikale Bedürfnisse und Herausforderungen eingehen können - und sie werden mit strengeren Datenschutz- und Sicherheitsfunktionen ausgestattet sein.

LLMs, die auf vertikalen Modellen basieren, werden weit weniger kundenspezifisches Training, Dateninjektionen und Feinabstimmung erfordern. Und da branchenspezifische Modelle kleiner sind, wird der Preis für die automatisierte Interaktionsabwicklung weiter sinken, da sie im Vergleich zu allgemeinen LLMs viel weniger Rechenleistung verbrauchen werden. Es versteht sich daher von selbst, dass vertikale LLM-basierte Bots im Vergleich zu horizontalen Modellen einen noch schnelleren und überzeugenderen Return on Investment liefern werden. Außerdem wird die Genauigkeit erheblich verbessert und das Risiko von Halluzinationen deutlich reduziert.

Erste Beispiele für vertikale LLMs sind Googles Med-PaLM 2, das für das Gesundheitswesen optimiert ist, und Microsofts BioGPT, das sich an Wissenschaftler in der biomedizinischen Forschung richtet.

Fazit

In Anbetracht der Vorteile vertikaler generativer KI-Modelle überrascht es kaum, dass Gartner vertikale GenAI-Modelle als einen der Top-Trends für das Jahr 2024 nennt und vorhersagt, dass bis 2027 mehr als die Hälfte der von Unternehmen genutzten GenAI-Modelle domänenspezifisch sein werden - heute sind es 1 %. Diejenigen, die vertikal-spezifische Modelle bei der Integration von GenAI in ihre Kundenerfahrung übersehen, werden schlechtere Ergebnisse und höhere Kosten erleben.