KI-Agenten zwischen Effizienz, Kundenakzeptanz und Kontrollbedarf

KI-Agenten als nützliche aber skeptisch beäugte Helfer

Moderne KI-Agenten sind weit mehr als bloße Chatbots. Sie erledigen nicht nur Routineanfragen wie Fragen zu Lieferzeiten oder Produktdetails, sondern helfen auch Kundeninteraktion in strukturierte Daten umzuwandeln. Unternehmen, die diese Daten gezielt auswerten, gewinnen wertvolle Einblicke in Kundenbedürfnisse, Produktprobleme und ungenutzte Marktpotenziale.

Beispiele nennt Ian Tickle, SVP und General Manager International bei Freshworks. Beim Produktmanagement lassen sich etwa Designmängel oder unklare Beschreibungen aufdecken. Das Marketing erfährt, wie Kunden und Kundinnen über Produkte sprechen und kann daraus Strategien für authentische Kommunikation und effektive SEO-Strategien ableiten. Der Vertrieb erkennt frühzeitig, welche Produkte besonders gefragt oder schwer auffindbar sind. Und der Kundensupport kann durch die Analyse wiederkehrender Fragen Self-Service-Angebote verbessern und interne Abläufe effizienter gestalten.

»Unternehmen sollten Chats mit KI-Agenten nicht länger als kurzlebige Einzelfälle betrachten«, empfiehlt Ian Tickle, SVP und General Manager International bei Freshworks. (Bild: Freshworks)

»KI-Agenten, egal ob von Anbietern wie Freshworks, Salesforce oder Zendesk, sind damit mehr als nur eine Möglichkeit, Kosten zu sparen«, betont Tickle. »Sie ermöglichen direkte Einblicke in die Sichtweise der Kunden und Kundinnen. Ihre Äußerungen machen deutlich, was Menschen erwarten und was ihnen wichtig ist. In einer Geschäftswelt, in der Customer Experience zunehmend im Mittelpunkt steht, sind KI-Agenten eine der wertvollsten Informationsquellen.«

Kundenakzeptanz: Skepsis trotz Nutzen

Gerade in Deutschland zeigt sich jedoch, dass der technologische Fortschritt nicht automatisch mit gesellschaftlicher Akzeptanz einhergeht. Laut einer aktuellen Studie des Identity-Management-Spezialisten Okta stehen viele Verbraucher KI-Agenten kritisch gegenüber:

Über die Hälfte der Deutschen (54 Prozent) sorgt sich um die Sicherheit ihrer digitalen Identität. Für 44 Prozent ist die volle Kontrolle über ihre persönlichen Daten wichtig. Das ist der höchste Wert aller Länder, in denen die Umfrage durchgeführt wurde. In UK liegt er bei 42 Prozent, in Frankreich, den Niederlanden und den USA bei 37 Prozent. Nur 29 Prozent der Umfrageteilnehmer in Deutschland wären bereit, persönliche Informationen mit einem KI-Agenten eines Unternehmens zu teilen.

69 Prozent bevorzugen im Kundenkontakt Menschen gegenüber KI-Systemen. 34 Prozent halten eine menschliche Überprüfung von KI-Entscheidungen für notwendig. 33 Prozent fordern mehr Transparenz darüber, wie KI zu ihren Entscheidungen gelangt und welche Daten dabei verwendet werden und falls ein KI-Agent im Namen des Nutzers aktiv wird, wünschen sich 39 Prozent der Deutschen, dass jede Aktion oder Entscheidung zuvor verifiziert wird.

Diese Skepsis ist nicht mit KI-Feindlichkeit per se zu verwechseln. Denn viele der Befragten in Deutschland sehen durch KI ganz konkrete Vorteile in ihrem Alltag: Vor allem bei Übersetzungen (45 Prozent), Recherchen (36 Prozent), Schreibhilfen (35 Prozent), kreativen Aufgaben (26 Prozent) und Datenanalysen (25 Prozent) werden sie als nützlich eingestuft. Diese Zahlen zeigen: Die Akzeptanz hängt stark von der wahrgenommenen Kontrolle und Transparenz ab.

»Die diesjährigen Ergebnisse zeigen deutlich, dass deutsche Verbraucher beim Thema digitale Identität im Zusammenhang mit KI-Agenten besonders hohen Wert auf Vertrauen und Kontrolle legen«, sagt Sven Kniest, SVP Central & Eastern Europe bei Okta. »Unternehmen müssen diese Bedenken ernst nehmen und berücksichtigen, wenn sie KI-gestützte Services für deutsche Benutzer entwickeln.«

Kniest empfiehlt: »Wenn KI-Agenten immer stärker in betriebliche Prozesse eingebunden werden, tragen Unternehmen eine enorme Verantwortung: Sie müssen deren Einsatz transparent gestalten, ethisch ausrichten und im Einklang mit gesellschaftlichen Werten umsetzen – denn ohne Vertrauen kann keine Innovation ihr volles Potenzial entfalten.«

Unternehmen in der Verantwortung

Dem Wunsch nach Kontrolle und Messbarkeit versprechen erste Anbieter mit passenden Lösungen gerecht zu werden. Ein aktuelles Beispiel ist »Pendo Agent Analytics«. Damit sei erstmals eine umfassende Leistungsbewertung von KI-Agenten möglich – ähnlich wie bei menschlichen Mitarbeitenden, erklärt der US-Anbieter Pendo.

Zu den Funktionen gehören Tracking der Nutzung und Interaktionen, Identifikation nicht-konformer Verhaltensweisen, Analyse von Konversationstrends, Verknüpfung mit Geschäftsergebnissen sowie das Monitoring zur Einhaltung von Sicherheits- und Compliance-Vorgaben. Das funktioniere für selbst entwickelte Agenten ebenso wie für die von Drittanbietern.

Außerdem könnten Unternehmen mit Pendo Agent Analytics Fragen beantworten wie beispielsweise: »Werden meine Agenten genutzt – und wenn ja, wie häufig?«. »Welche Prompts werden verwendet?«. »Wie verhalten sich Benutzer nach einer KI-Interaktion auf meiner Plattform?«. Oder auch ganz einfach: »Liefert dieser Agent einen Mehrwert?«