UX für KI: Warum so viele KI-Features scheitern

„Wir müssen jetzt auch was mit KI machen.“ In vielen Unternehmen kommt dieser Auftrag von ganz oben. Was genau, für wen und warum – das bleibt dabei häufig offen. Also wird ein Feature gebaut, weil es technisch geht. Es landet im Produkt, sieht erstmal beeindruckend aus, und dann passiert: wenig. Die Nutzenden verstehen nicht, was das Feature soll. Oder sie probieren es einmal aus, bekommen ein enttäuschendes Ergebnis und kommen nicht wieder.

Das ist nicht unbedingt ein KI-Problem. Es ist ein User-Experience-Problem. Und es ist der Grund, warum wir überzeugt sind: Gerade bei KI entscheidet ein nutzerzentriertes Vorgehen darüber, ob am Ende echter Mehrwert entsteht oder teures Chichi.

Dieser Artikel zeigt, warum auch bei KI-Produkten UX so wichtig ist, was KI-Produkte tatsächlich anders macht und wie sich der bewährte User-Centered-Design-Prozess anpassen lässt, damit KI-Features auch wirklich genutzt werden.

Warum viele KI-Produkte scheitern

Es lohnt sich, das Ausmaß ehrlich anzuschauen. Eine vielzitierte Untersuchung von MITs Project NANDA, „The GenAI Divide: State of AI in Business 2025“, kommt zu einem ernüchternden Ergebnis: Rund 95 Prozent der untersuchten generativen KI-Piloten in Unternehmen lieferten keinen messbaren Ertrag. Bemerkenswert ist die Begründung der Autoren. Es liegt demnach nicht an der Qualität der KI-Modelle, sondern daran, dass die Tools sich nicht an den Kontext anpassen, kein Feedback aufnehmen und sich über die Zeit nicht verbessern. Außerdem scheitert die Einbindung ins Unternehmen und in reale Arbeitsabläufe.

Die Studie ist zwar noch als vorläufig gekennzeichnet und nicht peer-reviewed, die Richtung deckt sich jedoch mit dem, was wir immer wieder von Kund:innen hören und in Projekten sehen. Bei der Anbindung von KI wird häufig zuerst die technische Machbarkeit priorisiert: „Was geht?“ statt „Was brauchen die Nutzenden?“. Das Ergebnis sind Features, die niemand nutzt, Vertrauensverlust und teure Fehlentwicklungen.

Der eigentliche Engpass liegt also selten im Modell. Er liegt in der fehlenden Nutzendenperspektive. Und genau da setzt UX an.

Warum KI-Produkte anders sind als klassische Software

KI-Produkte bringen einige Besonderheiten mit, die klassische UX-Annahmen einschränken.

Dieselbe Eingabe kann zu unterschiedlichen Ergebnissen führen. Für die Gestaltung und erst recht fürs Testen heißt das: Es gibt nicht mehr den einen festen Klickpfad, der zu einem festen Ergebnis führt. Zufall spielt immer mit.

Vertrauen wird zur eigenen Dimension. Bei klassischer Software funktioniert etwas oder nicht. Bei KI kommt eine Ebene dazu: Vertrauen die Nutzenden dem Ergebnis? Und vertrauen sie im richtigen Maß? Zu wenig Vertrauen führt dazu, dass gute Vorschläge ignoriert werden. Zu viel Vertrauen führt dazu, dass falsche Ergebnisse ungeprüft übernommen werden. Beides ist ein Gestaltungsproblem.

Nutzende werden zu Co-Autoren. Besonders bei generativer KI beeinflusst die Eingabe der Nutzenden das Ergebnis unmittelbar mit. Wer nicht weiß, wie man eine brauchbare Anfrage formuliert, bekommt schwache Ergebnisse und schreibt das dem Produkt zu, nicht der eigenen Eingabe.

Die Vorerfahrung schwankt enorm. Die Spanne reicht von Menschen, die täglich mit KI arbeiten und mühelos Prompts schreiben, bis zu solchen, die noch nie eine KI bewusst benutzt haben. Diese Spanne ist größer als bei klassischer Software und verschiebt sich laufend, weil sich die Technologie und die Gewöhnung der Menschen schnell verändern.

Mentale Modelle fehlen oder stimmen nicht. Viele Nutzende haben keine belastbare Vorstellung davon, was eine KI kann und was nicht. Sie erwarten entweder zu viel („die weiß alles“) oder zu wenig. In beiden Fällen passt die Erwartung nicht zum tatsächlichen Verhalten des Produkts.

Ein Zusatz, der die Sache weiter verkompliziert: „KI“ ist nicht gleich „KI“. Ob ein Feature auf prädiktiver, generativer oder klassifizierender KI beruht, verändert das Nutzungserlebnis grundlegend.

Bei aller Besonderheit gilt aber auch die Entwarnung: Es braucht keine völlig neue Disziplin. Vieles davon lässt sich mit bewährten UX-Prinzipien beantworten. Aber es braucht die konsequente Anwendung der vorhandenen Prinzipien auf ein neues Feld.

Der User-Centered-Design-Prozess (mit und ohne KI)

Der etablierte User-Centered-Design-Prozess funktioniert auch für KI-Produkte. Er wird nicht ersetzt, sondern in seinen einzelnen Phasen geschärft.

Wie sieht der klassische User-Centered-Design-Prozess aus? Er folgt dem sogenannten Double Diamond (in der untenstehenden Grafik dargestellt):

• Zuerst öffnet man den Problemraum (verstehen, was die Nutzenden wirklich brauchen)
• und schließt ihn wieder (das eigentliche Problem definieren).
• Dann öffnet man den Lösungsraum (Ideen entwickeln)
• und schließt ihn (die tragfähige Lösung bauen und prüfen).

In der Praxis heißt das: User Research, dann Konzeption und Design, dann Testing und Evaluation. Und da es sich um einen iterativen Prozess handelt, werden alle Phasen immer wieder durchlaufen. Während der Konzeptionsphase kann beispielsweise auffallen, dass weiterführende Research notwendig ist oder frühe Konzepte bereits getestet werden müssen, um abzusichern, dass man sich in die richtige Richtung bewegt.

Beim User-Centered-Design-Prozess für KI-Produkte legt sich über jede dieser Phasen eine KI-spezifische Schärfung:

• Aus User Research wird Acceptance Research: verstehen, wie Nutzende zu KI stehen und wo sie Mehrwert sehen.
• Aus Konzeption & Design wird ein KI-Konzept-Prozess samt KI-gerechtem Design: die richtigen Ideen finden, ehrlich auf KI-Tauglichkeit prüfen und für die Eigenheiten der KI gestalten.
• Aus Testing & Evaluation wird KI-Usage-Testing: prüfen, ob das Feature verstanden, akzeptiert und tatsächlich genutzt wird.

Der wichtigste Satz dazu lautet: KI beginnt mit Research, nicht mit Technik. Wer die Reihenfolge umdreht und mit der technischen Machbarkeit startet, endet mit hoher Wahrscheinlichkeit als eines der teuren KI-Features, die niemand benutzt.

Die drei Phasen des UCD-Prozesses für KI im Detail

Phase 1: Acceptance Research

Am Anfang steht die Frage, ob und wo die KI überhaupt gebraucht wird. Die Leitfragen dieser Phase: Wer sind die Nutzenden des geplanten Features? Wie stehen sie KI grundsätzlich gegenüber? Welche Funktionen bringen ihnen echten Mehrwert? Und wo gibt es Vertrauensbedenken?

Das Besondere bei KI ist, dass hier eine zusätzliche Ebene dazukommt. Es reicht nicht, die Aufgaben und Pain Points der Nutzenden zu kennen. Man muss auch ihre Haltung gegenüber KI für diesen bestimmten Use-Case verstehen – und die reicht von Begeisterung bis Ablehnung. Diese Spanne muss aktiv erhoben werden, sonst baut man an der Zielgruppe vorbei.

Zur ehrlichen Vorarbeit gehört auch der Blick auf Bias. Die Datengrundlage vieler KI-Modelle ist nicht neutral, und bestimmte Nutzendengruppen können dadurch systematisch benachteiligt werden. Wer das früh mitdenkt, verhindert, dass ein Feature für einen Teil der Nutzenden schlechter funktioniert als für den Rest.

Am Ende dieser Phase steht eine belastbare Grundlage dafür, welche Bedürfnisse tatsächlich existieren und wo eine KI ansetzen könnte. Und zwar, bevor Entwicklungsbudget investiert wird.

Phase 2: KI-Konzept-Prozess

Jetzt geht es an die Ideen und an die vielleicht wichtigste Frage im ganzen Prozess: Welche Bedürfnisse sollten wirklich von einer KI gelöst werden und welche besser nicht?

Denn nicht jede Aufgabe wird durch KI besser. Ein zentraler Schritt ist deshalb die ehrliche Prüfung der KI-Tauglichkeit: KI sollte nur dort zum Einsatz kommen, wo ihre spezifischen Stärken tatsächlich gebraucht werden. In vielen Fällen erfüllt ein regelbasiertes oder datenbankbasiertes Tool dieselbe Aufgabe günstiger, robuster und vorhersehbarer. Diese Ehrlichkeit spart nicht nur Geld, sie ist auch die Grundlage für ein Produkt, das später wirklich funktioniert.

Ist die Entscheidung für KI gefallen, verschiebt sich der Blick auf die Rahmenbedingungen: Welche Daten braucht die Idee, und sind diese in ausreichender Qualität verfügbar? Welche rechtlichen, Compliance- und Vertrauensfragen sind zu klären? Ein Punkt, der klassische Software-Konzeption von KI-Konzeption unterscheidet, ist der Umgang mit dem, was schiefgehen kann. Bei KI muss der „Unhappy Path“ von Anfang an mitgedacht werden: Was passiert, wenn die KI danebenliegt oder eine Falschauskunft gibt? Wo muss ein Mensch die Ergebnisse prüfen oder entscheiden – der vielzitierte „Human in the Loop“? Wie kommuniziert man den Nutzenden die Möglichkeiten und Grenzen der KI, ohne sie zu überfordern?

Für die konkrete Gestaltung gilt: Man muss das Rad nicht neu erfinden. Es gibt bereits etablierte Design-Patterns für die Mensch-KI-Interaktion (z. B. Microsoft Guidelines for Human-AI Interaction, Google Agentic Design Patterns), die konkrete Richtlinien für Erwartungssteuerung, Fehlerkommunikation und Feedback bieten.

Am Ende dieser Phase stehen konkrete, priorisierte KI-Ideen, die zu den Bedürfnissen der Nutzenden passen.

Phase 3: KI-Usage-Testing

Ein KI-Feature lässt sich nicht testen wie ein Check-out-Prozess. Weil die Ergebnisse variieren, weil sich der Nutzen oft erst über mehrere Interaktionen zeigt und weil Vertrauen in Momenten entsteht oder bricht, die im klassischen Klickpfad gar nicht auftauchen.

Wichtig ist zunächst, den Testgegenstand sauber zu trennen. Drei Dinge werden hier leicht vermischt, gehören aber auseinandergehalten: die Qualität des KI-Outputs, die Usability des Features und das mentale Modell der Nutzenden. Wer alles in einen Topf wirft, bekommt Ergebnisse, mit denen niemand arbeiten kann.

Vertrauen und Kontrolle werden zu eigenen Testdimensionen. Die vielleicht wichtigste KI-spezifische Frage lautet: Folgen die Nutzenden der KI bei guten Ergebnissen und korrigieren sie sie bei schlechten? Übernehmen sie einen falschen Output ungeprüft (Over-Reliance) oder verwerfen sie einen richtigen aus Misstrauen (Under-Reliance)?

Welche Testing-Methode die richtige ist, hängt vom Reifegrad der Idee ab:

• In der frühen Konzeptphase, wenn es um Verständnis und Erwartungen geht, eignen sich moderierte, qualitative Ansätze – auch schon lange bevor die KI funktionsfähig ist.
• Ist das Feature in Entwicklung, zeigen unmoderierte qualitative Tests, ob Nutzende ans Ziel kommen.
• Ist es live, liefern quantitative Methoden Akzeptanz- und Erfolgsraten.

Am Ende dieser Phase steht die belastbare Antwort darauf, was funktioniert und was die Nutzenden davon abhält, das Feature ein zweites Mal zu verwenden.

Lies dazu auch unseren Blogartikel: AI Experience Validation – Wie du KI-Features mit echten Usern testest

Fazit: KI braucht keine neue UX, aber konsequente UX

Wer die einzelnen Phasen zusammennimmt, sieht ein klares Muster. KI stellt die UX nicht auf den Kopf, aber sie stellt höhere Anforderungen an ihre konsequente Anwendung. Vier Punkte fassen das zusammen:

• Der User-Centered-Design-Prozess funktioniert auch für KI – der Prozess bleibt, seine Phasen werden geschärft.
• KI beginnt mit Research, nicht mit Technik.
• Ideen gehören konsequent nach Nutzen, Vertrauen, Compliance und Machbarkeit bewertet, bevor gebaut wird.
• Von Anfang an muss mitgedacht werden: Was passiert, wenn die KI Fehler macht und wo findet eine menschliche Kontrolle statt?

Am Ende führt alles auf den Punkt vom Anfang zurück: Der Unterschied zwischen einem KI-Feature, das echten Mehrwert stiftet, und einem, das nur beeindruckt, liegt nicht in der Technik. Er liegt darin, ob man die Nutzenden ernst nimmt – früh genug und ehrlich genug.