Warum automatisierte Chatbots Schwierigkeiten haben, wie Menschen zu konversieren

Automatisierte Chatbots – worum geht es eigentlich?

Wir haben eine Hass-Liebe-Beziehung zu automatisierten Chatbots. Wir lieben es, mit ihnen zu spielen, werden aber frustriert, wenn der Chatbot unsere Fragen nicht beantworten oder unsere Bitten nicht erfüllen kann. Diejenigen, die Chatbots erstellen, leben von der Herausforderung, den Chatbot so menschlich wie möglich zu machen, finden aber das Schreiben der mehreren tausend möglichen bedingten Permutationen, um dies zu erreichen, äußerst mühsam.

Dieser gegenseitige Wunsch, die Interaktion mit einem automatisierten Chatbot menschlich wirken zu lassen, hat die Entwicklung von Bots durch Natural Language Processing (NLP) vorangetrieben. Das maschinelle Lernen hinter dem Chatbot, von dem er lernt, basiert auf Entscheidungsbaum-Logik und ist ein Austausch von Sequenzen vorbestimmter Eingaben und Ausgaben. Natürliche Konversation funktioniert jedoch nicht so.

Verzerrung der Muster natürlicher Konversation

Wie in natürlicher Konversation wechseln sich Menschen und automatisierte Chatbots beim Sprechen ab – also beim Austausch von Nachrichten. In natürlichem Gespräch, unabhängig vom Inhalt des Gesagten und sogar ohne visuelle Hinweise und Stimmlage, liegt auch Bedeutung in Überlappungen, in den Pausen zwischen den Sprechturnen und in Bemühungen, Missverständnisse zu reparieren. Diese Aktionen sind tatsächlich Bestandteile dessen, was es bedeutet, an der Reihe zu sein, und sind inherent für natürliche Konversation. Sie helfen, Gespräche voranzutreiben und die dahinterliegende Absicht zu enthüllen, während sich das Gespräch entfaltet.

Ein Wechsel von Chatbots zu Debate-Bots?

Was Interaktionsmuster angeht, haben diese Chatbots mehr mit dem Hin-und-Her vorab zugewiesener Turns in Debatten (Sacks et al., 1974) gemeinsam als mit natürlicher Konversation. Wenn der Job eines automatisierten Chatbots „holen und bringen“ ist, brauchen wir dann überhaupt soziale Höflichkeiten wie „Hallo“? Indem wir den Chatbot vermenschlichen, sind wir dann verantwortlich für falsches User-Expectation-Management? Oder ist das nur Service mit einem Lächeln?

Die Idee, dass Chatbots vielleicht nicht chatten, illustriert eine fast philosophische Frage. Warum müssen Bots so menschlich sein und in welcher Kapazität? Was automatisieren wir eigentlich, wenn wir Chatbots automatisieren?

An der Reihe sein

Um präzisere und relevantere Antworten zu liefern, nutzen automatisierte Chatbots NLP ähnlich wie Googles Conversational Search. Das führt zu intelligenterer Verarbeitung, basiert aber immer noch weitgehend darauf, dass sowohl Mensch als auch Bot gut organisierte Turns beim Sprechen einhalten – also eine Nachricht oder einen gut konstruierten Multi-Stack auf einmal senden. Beide können Multi-Stacks senden, aber der menschliche Multi-Stack ist weitaus disruptiver als der des Chatbots. Wir können die nächste Antwort des Chatbots irrelevant oder unangemessen machen, was zu einer schlechten gepaarten Aktion wie einem Q&A-Match führt, was uns als Nutzer frustriert zurücklässt.

Weil natürliche Konversation nicht aus gepaarten Aktionen besteht, die nacheinander sauber produziert werden, müssen wir anfangen, Chatbot-Interaktion als Ganzes zu analysieren, statt als Sätze einzelner gepaarter Austausche. Wir brauchen auch Interventionen, damit wir, wenn Menschen diese disruptiven Multi-Stacks erzeugen, das „Gespräch“ besser hören können.

Die Bedeutung von Stille

Eine Möglichkeit, Mensch-Chatbot-Interaktion zu managen, ist Animation. Animation in Form von Ladern, „…tippt“ oder „bitte warten“ bietet einen Zweiwege-Nutzen für Bot und Nutzer, indem sie Transparenz managt und das Gespräch vorantreibt. Sie hilft, problematische menschliche Multi-Stacks zu reduzieren, indem sie einen Anspruch auf den Turn im Gespräch erhebt.

Wie Adrian Zumbrunnen, Designer bei Google, sagte: „Ohne Animation gibt es kein Gespräch“ – und das ist weitgehend wahr. So wie wir zeitliche Verzögerung mit affirmativen oder negativen Antworten assoziieren, könnte ein Bot dieselbe Bedeutung aus unserer Antwortverzögerung ableiten? Zu verstehen, ob wir geringe technische Fähigkeiten haben oder die Chat-Interface-Affordanz nutzen, um Zeit zum Nachdenken zu gewinnen, sind interessante Herausforderungen beim Erkennen von Reparaturabsicht.

Müssen Bots menschlich sein?

Google gibt nicht vor, menschlich zu sein, und obwohl Suchbegriff-Analysen zeigen, dass wir ihm sehr menschliche Fragen stellen. Wenn Google irrelevante Ergebnisse zeigt oder ein Non-Match präsentiert, machen wir uns selbst dafür verantwortlich, den Suchbegriff nicht richtig getroffen zu haben. Wir sind nachsichtiger, weil „Googeln“ nicht als Konversation aufgesetzt ist, sondern als Retrieval. Dass wir mit menschlicher aussehenden oder sich anfühlenden Bots mehr empathisieren, aber weniger mit mechanischen, ist nicht unbedingt ein Nachteil bei der Interaktion – es hilft, User Expectations zu setzen.

Das falsche Interface?

Die Entscheidungsbäume, die automatisierte Chatbots antreiben, die auf Sequenzen bedingter Kontrollanweisungen basieren, teilen Ähnlichkeiten mit Adventure-Game-Dialogen.

Bandersnatch, der neueste Teil der Black-Mirror-Serie von Netflix Ende letzten Jahres, ist ein „Choose Your Own Adventure“-Film, der freien Willen erforscht. Netflix entwickelte sogar „State Tracking“, das unsere Wahlspur speichert, um sie später in der Narration einzusetzen. Bandersnatch ist ein verzweigtes Narrativ aus 250 Segmenten, geschrieben in Twine (ein Entscheidungsbaum-Tool für interaktive Fiktion, auch für Chatbot-Entscheidungsbäume genutzt). Könnte es sein, dass Chatbots wie Filme die Vertrautheit und UI-Charakteristika von Adventure-Game-Interfaces nutzen können?

Das aktuelle Chatbot-Interface bietet begrenzte Bildschirmgröße, begrenzte Einzel-Nachrichtenlänge und sitzt meist unten rechts. Während man die UI-Vererbung von Old-School-Messengern wie ICQ schätzt: Warum sind wir noch nicht Vollbild für automatisierte Chatbots gegangen?

Von Vorhersage zu Management

Dass natürliche Konversation durch Mensch-Chatbot-Interaktion verzerrt wird, mag erklären, warum trotz der Intelligenz von NLP Interaktionen mit automatisierten Chatbots weiterhin gemischte Gefühle hervorrufen. Teils aufgrund der UI-Affordanz und teils aufgrund unseres erlernten Verhaltens, was es bedeutet, an natürlicher Konversation teilzunehmen, liegt Bedeutung in Stille, Turn-Overlap und konversationeller Reparatur.

Automatisierte Chatbot-Antworten müssen nicht unbedingt menschlich sein – sie müssen nur auf sehr menschliche Weise gemanagt werden.