Enterprise verstehen die Macht und das Potenzial von KI-Agenten. Sie bieten ständige Verfügbarkeit und können sich autonom bewegen, Daten analysieren und sammeln, um Aufgaben schnell und effizient zu erledigen. Aber um diese Gewinne zu realisieren, müssen Sie skeptische Verbraucher überzeugen. Um die Verbraucherstimmung in Bezug auf KI-Agenten besser zu verstehen, hat Auth0 eine globale Verbraucherumfrage bei Statista in Auftrag gegeben. Hier ist ein Überblick über das, was wir gelernt haben. (Alle Daten in diesem Artikel stammen aus der Umfrage.)
Die Ergebnisse, die in unserem neuesten Customer Identity Trends Report festgehalten sind, zeigten, dass die meisten Verbraucher (70 %) lieber mit Menschen als mit KI-Agenten kommunizieren möchten. Nur 16 % gaben an, dass sie KI-Agenten bevorzugen würden. Um das Beste aus agentischer KI herauszuholen, müssen Unternehmen das Vertrauen der Verbraucher aufbauen. Das beginnt mit der Bereitstellung einer sicheren und nahtlosen Experience, die den Kunden das bietet, wonach sie suchen.
Kunden bevorzugen vorerst Menschen
Es gibt eine Diskrepanz zwischen dem, was einige Unternehmen von agentischer KI erwarten, und dem, wozu viele Kunden bereit sind. Wir haben festgestellt, dass Verbraucher derzeit eher bereit sind, KI-Agenten zu nutzen, wenn diese für monotone und regelbasierte Aufgaben wie Sprachübersetzung, Recherche und Schreibhilfe eingesetzt werden. Benutzer berichteten über ein geringeres Interesse an der Nutzung von KI-Agenten für das Projektmanagement, die Kalender- und Terminplanung sowie die Entscheidungsfindung Support.
Von denjenigen, die lieber mit Menschen interagieren würden, gaben 64 % an, dass eine Person ihre Bedürfnisse besser verstehen würde. 38 % gaben an, dass der Umgang mit einem KI-Agenten frustrierend sein kann, und 29 % sagten offen, dass sie ihnen einfach nicht vertrauen.
Ein Mensch am anderen Ende der Telefonleitung scheint, so scheint es, ein gewisses Maß an Vertrauen zu vermitteln. Wenn Kunden nicht darauf vertrauen, dass die Agenten ihre Bedürfnisse verstehen oder die richtigen Informationen abrufen, um ihnen zu helfen, läuft ein Kundensupport-Agent Gefahr, eher ein Hindernis als eine Bereicherung zu sein.
Die Lösung für diese Herausforderung ist klar: Unternehmen müssen die Benutzererfahrung zu einem Eckpfeiler ihrer Bemühungen machen, um Vertrauen und Komfort bei den Verbrauchern aufzubauen. Die Interaktion zwischen KI-Agenten und Kunden sollte reibungslos und persönlich verlaufen. Es sollte auch schnell sein. Mehr als die Hälfte (55 %) der Befragten, die angaben, KI-Agenten gegenüber Menschen zu bevorzugen, gaben an, dass sie dies tun, weil Agenten ihre Anfragen schneller bearbeiten können. Zusätzlich äußerten 35 % der Kunden, die keine KI-Agenten verwenden, Bedenken bezüglich der Zuverlässigkeit der Agenten. Diese Zahlen sind ein Zeichen dafür, dass Developer sich auf die Optimierung der Agentenarchitektur und der Workflows konzentrieren sollten, um die Leistung und den Output der Agenten zu verbessern.
Sicherheit und Datenschutz sind die wichtigsten KI-Bedenken der Verbraucher.
Kein Gespräch über agentive KI ist vollständig, ohne die Sicherheit anzusprechen. Kunden und Developer haben ein gemeinsames Ziel: Beide wollen, dass agentische KI sicher ist. Viele Verbraucher sind noch nicht überzeugt, dass KI-Agenten ihre Sicherheits- und Datenschutzbedürfnisse respektieren werden. Die Mehrheit (60 %) der Befragten gab an, sie seien entweder "besorgt oder sehr besorgt" über die Auswirkungen von KI auf ihre digitale Privatsphäre und Sicherheit. Nur 9 % gaben an, dass dies von geringem oder keinem Belang sei.
Bildung kann diese Lücke teilweise schließen. Vierundvierzig Prozent derjenigen, die keine KI nutzen, sagten: "Ich vertraue KI-Agenten mit meinen personenbezogenen Daten nicht." Die explizite Offenlegung, auf welche sensiblen Daten der Agent zugreift und wie diese verwendet werden, kann ein mächtiger Schritt zum Aufbau von Vertrauen sein.
Menschen in den Prozess einzubeziehen, kann ebenfalls hilfreich sein, birgt jedoch das Risiko von Verzögerungen, menschlichen Fehlern und dem Austausch von KI-Verzerrungen gegen menschliche Verzerrungen. Positiv betrachtet kann dieser Ansatz Agenten schulen, die Feinheiten einer Anfrage besser zu verstehen und ihre Maßnahmen zu verfeinern. Developer können ihrerseits Schritte unternehmen, um sicherere KI-Anwendungen zu entwickeln und bereitzustellen.
Warum Identity-Sicherheit der Schlüssel zur Navigation im KI-Zeitalter ist
Wenn es um Sicherheit und Datenschutz geht, hängt so viel davon ab, die Identity-Sicherheit richtig zu gestalten. Überprivilegierte Agenten können zu Datenlecks führen und das Potenzial für böswillige Aktivitäten erhöhen. Stellen Sie sich einen KI-Agenten vor, der damit beauftragt ist, Produkte für Ihre Einkaufsliste vorzuschlagen und auf Ihre Krankenakten zuzugreifen, um eine Anfrage zu einem rezeptfreien Medikament zu beantworten. Stellen Sie sich nun vor, dass dieser Agent Opfer eines Prompt Injection-Angriffs durch einen Angreifer wird.
Die Leistungsfähigkeit von KI-Agenten verändert die Angriffsfläche, die Unternehmen schützen müssen. Es ist entscheidend, das Prinzip der minimalen Rechte zu implementieren und dynamische Aktualisierungen der Berechtigungen zu ermöglichen, um die Autorisierung bei Bedarf zu erteilen oder zu widerrufen.
Es gibt noch viel zu tun, aber es gibt Grund zum Optimismus für Enterprise. Unter den Befragten, die KI-Agenten Menschen vorziehen, gaben 51 % an, dass sie KI-Technologie als die Zukunft sehen. Für Unternehmen bieten KI-Agenten einen Weg zur Effizienz, aber um diesen zu beschreiten, müssen Enterprise-Leiter den Verbrauchern demonstrieren, dass sie eine User Experience bieten können, die schnell, zuverlässig und – am wichtigsten – sicher ist.
Laden Sie den vollständigen Bericht herunter, um weitere wesentliche Überlegungen zur Erfüllung des Versprechens von KI-Agenten zu entdecken, ohne das Vertrauen der Kunden zu kompromittieren.
