Kann das nicht einfach die KI? Warum Expert*innen noch immer wichtig sind

KI verändert die digitale Produktentwicklung und UX-Arbeit grundlegend, automatisiert viele Aufgaben, ersetzt aber keine Expert*innen. Tools liefern Output, jedoch kein echtes Verständnis. Bias, Halluzinationen und fehlender Kontext erfordern menschliche Kontrolle. Fachkräfte werden zu Kurator*innen, Strateg*innen und Ethiker*innen. Entscheidend bleiben kritisches Denken, Qualität und langfristige Verantwortung trotz wachsender Geschwindigkeit und Automatisierung.

Diese Frage stellen sich vermutlich inzwischen viele: Welche Aufgaben im Job wird KI zukünftig übernehmen und was verbleibt beim Menschen? Wird es Bereiche in der digitalen Produktentwicklung geben, die komplett automatisiert werden?
Dass sich einiges ändert, ist unbestritten. Das Internet wird schon bald ein anderes sein, als wir es aktuell kennen. Websites in der klassischen Form werden verschwinden, Inhalte sind bereits zu mehr als 50 % von KI generiert, Personalisierung wird verstärkt eingesetzt werden und Strategien der Suchmaschinenoptimierung müssen sich auf KI ausrichten. Was real und was von KI generiert ist, wird für Nutzer*innen zunehmend schwieriger zu unterscheiden .
Nicht nur „das Produkt“ selbst, sondern auch die Arbeitsweise zu dessen Entwicklung verändert sich also rasant. Werfen wir einmal einen Blick darauf, um die Veränderungen vor allem für Professionals der User Experience (UX) etwas konkreter einzuordnen.

1.1 Einleitung: Zur grundlegenden Funktionsweise von KI

Die gängigen Large Language Modelle (LLM) wie GPT (= Generative Pre-trained Transformer), das von Open AI entwickelte KI-Modell, das wir aus ChatGPT kennen, sind vortrainiert. Damit fließen in das Training immer Tendenzen, Haltungen, Sichtweisen und persönliche Perspektiven derer ein, die die Modelle entwickeln und mit Daten „füttern“. Selbst wenn man inzwischen in den KI-Unternehmen bemüht ist, diverse Teams für die Entwicklung von KI-Technologie einzusetzen, die zugrundeliegenden Daten sind nicht in allen Teilen der Welt gleichermaßen entstanden. So wird bestehendes Mehrheitswissen manifestiert, nicht diversifiziert.

GPT-Modelle können Inhalte wie Texte, Code oder auch Bilder generieren. Dabei greifen sie nicht nur auf ihre Trainingsdaten zurück, sondern lernen und verfeinern sich selbst auf Grundlage von Daten aus dem Netz (ohne dabei jedoch ihre Grundstruktur aus dem initialen Training zu verändern). Wenn diese Daten zu über 50 % bereits maschinengeneriert sind, lernt KI sozusagen von sich selbst. Was das für die Qualität bedeutet, lässt sich nur vermuten. Und nicht zuletzt transformieren LLMs Wort- und Wortteil-Bezüge und Bedeutungen, um Texte zu verarbeiten, zu „verstehen“ und auf dieser Grundlage Anfragen beantworten zu können. Dass dabei auch Unsinn herauskommen kann (= Halluzination), hat vermutlich jede*r bereits selbst erfahren. Die Halluzinationsrate liegt bei durchschnittlich mindestens 30% (über alle Arten von Anfragen gemessen – manche Themen funktionieren für KI deutlich besser als andere), was nicht gerade wenig ist.

Daher ist es unabdingbar, gängige Prompting-Strategien zu beherrschen, Qualitätsprüfungen einzubeziehen (kann auch über das Prompting bereits erfolgen) und die menschliche Rolle nicht auszublenden. Der korrigierende menschliche Eingriff in die Entwicklung und Arbeit von und mit KI wird auch Human-in-the-loop (HITL) genannt und stellt sicher, dass Menschen an bestimmten Punkten im Arbeitsprozess mit einem automatisierten System dafür verantwortlich sind, unter anderem Ethik, Genauigkeit und fachliche Korrektheit in der Entscheidungsfindung sicherzustellen.

1.2 KI demokratisiert Tools, nicht aber das Verständnis

KI-Tools wie Midjourney, Figma AI oder Chatbots machen es einfacher, etwas zu erstellen: einen Wireframe, einen Prototypen, eine Nutzer*innen-Journey. Aber:

• KI generiert Output, nicht Insight. Sie kann Daten zusammenfassen, Muster erkennen oder Varianten vorschlagen, aber sie versteht nicht, warum ein Konzept oder Design funktioniert oder scheitert. Das erfordert tiefes psychologisches, ästhetisches und strategisches Wissen, das nur Expert*innen haben.
• KI kennt keine Ethik oder Kontext. Ein Algorithmus weiß nicht, ob ein Design barrierefrei, inklusiv oder kulturell angemessen ist. Das zu bewerten, bleibt Aufgabe von Menschen mit Erfahrung und Empathie. Ein KI-Tool kann eine Vielzahl an Button-Varianten generieren. Aber nur eine UX-Expertin bzw. ein UX-Experte weiß, welche Variante warum die Conversion erhöht, weil sie zum Beispiel kognitive Last reduziert oder Vertrauen schafft.
• KI reproduziert Bias. Wenn die Trainingsdaten verzerrt sind (und das sind sie oft), verstärkt KI bestehende Probleme, wie zum Beispiel in der Repräsentation von Nutzer*innengruppen. Expert*innen erkennen diese Fallstricke und korrigieren sie.

 

1.3 Die „Illusion der Einfachheit“ ist gefährlich

Viele glauben: „Mit KI kann jetzt jeder gestalten.“ Das ist wie zu sagen: „Mit einem Pinsel kann jeder ein Meisterwerk malen.“ Tools senken die Einstiegshürde, aber sie senken nicht die Anforderungen an gute Arbeit.

• KI macht schnelles Design möglich, aber nicht gutes Design. Ein Prototyp in 10 Minuten? Ja. Ein Prototyp, der echte Nutzer*innenprobleme löst? Nein. Dafür braucht es Research, Iteration und kritische Reflexion und damit also Fähigkeiten, die Expert*innen über Jahre hin entwickeln und verfeinern.
• KI erspart keine Denkarbeit. Im Gegenteil: Sie verschiebt den Fokus von Ausführung hin zu Strategie. Expert*innen müssen damit die Flughöhe verändern und jetzt noch mehr und andere Fragen stellen als bisher, wie zum Beispiel:
  • Welche Daten sind relevant und welche führen uns in die Irre?
  • Wie interpretieren wir KI-Vorschläge?
  • Wo brauchen wir menschliche Kreativität, weil KI an Grenzen stößt?
  • … ?

Das Paradox: KI macht mehr Expertise nötig, weil die Komplexität der Entscheidungen steigt.

1.4 Die neue Rolle von Expert*innen: Von „Macher*innen“ zu „Kurator*innen“ und „Sense-Maker*innen“

KI verändert nicht das Ob der Expertise, sondern das Wie. Damit werden Expert*innen zu

• Kritischen Prüfer*innen, die bewerten, welche KI-Outputs brauchbar sind und welche nicht („Garbage in, garbage out.“),
• Vermittler*innen, die zwischen KI-Tools, Business-Zielen, Stakeholder*innen und den Bedürfnissen und Anforderungen von Nutzer*innen übersetzen,
• Strateg*innen, die entscheiden, wo KI eingesetzt wird und wo nicht. Denn nicht jedes Problem lässt sich mit KI lösen.
• Ethiker*innen, die hinterfragen, ob ein mit KI-Unterstützung erstelltes Konzept oder ein KI-generiertes Design fair, zugänglich und nachhaltig sind.

Konkrete Aufgaben, die KI nicht übernehmen kann:

Aufgabe	Warum Expert*innen unverzichtbar sind
Nutzer*innen-Research	KI kann Daten sammeln, aber nicht empathisch interpretieren.
Strategische Priorisierung	KI kennt keine Unternehmensziele oder Markenwerte.
Kreative Innovation	KI kombiniert Bestehendes, aber sie erfindet nicht neu.
Konfliktlösung im Team	KI schlichtet keine Meinungsverschiedenheiten zwischen Stakeholder*innen

 

1.5 Die Gefahr sind „KI-Washing“ und oberflächliche Lösungen

Wenn Unternehmen glauben, sie könnten mit KI auf Expert*innen verzichten, drohen generische Produkte. Alles sieht gleich aus, weil alle dieselben KI-Tools nutzen. Es entstehen oberflächliche Lösungen mit Designs, die aussehen, als wären sie nutzerzentriert, es aber nicht wirklich sind. Damit einhergehend droht Vertrauensverlust: Nutzer*innen merken schnell, wenn ein Produkt für sie, aber nicht mit ihnen entwickelt wurde. Wenn in Jobausschreibungen plötzlich „KI-Kenntnisse“ statt „UX-Erfahrung“ gefordert werden, geht es oft um Kostensenkung und weniger um Qualität.

1.6 Fazit: KI ist ein Werkzeug – Expertise bleibt der Kompass

KI wird die Arbeit von Design- und UX-Expert*innen verändern, aber nicht ersetzen. Im Gegenteil: Diejenigen, die KI strategisch nutzen, werden erfolgreicher, weil sie schneller iterieren, mehr Daten nutzen und komplexere Probleme lösen können.
Diejenigen, die glauben, KI erspare ihnen das Denken, werden scheitern, weil sie die falschen Fragen stellen oder Ergebnisse unkritisch übernehmen.

2 Der Kurzfrist-Druck vs. der Langfrist-Erfolg

KI verstärkt das Dilemma der Digital-Wirtschaft zwischen Kurzfrist-Druck und Langfrist-Erfolg, weil sie die Illusion nährt, man könne beides haben: Geschwindigkeit und Qualität ohne die nötige Expertise. Doch die Realität sieht anders aus.
KI-Tools sind wie ein Turbo für Prozesse, aber sie werden oft als Ausrede genutzt, um Expertise zu sparen. Das Problem:

• Kosten werden schnell sichtbar, Qualität oft erst später.
  Ein schlechter Prototyp, der mit KI in 2 Stunden „designt“ wurde, kostet heute vielleicht 200 €. Die Folgekosten (z. B. für Nachbesserungen, verlorene Nutzer*innen, Reputationsschäden) kommen erst in 6 Monaten im Unternehmen an und landen dann bei 20.000 €. Aber wer rechnet das schon im Vorhinein gegeneinander auf?
• KI wird zum „Feigenblatt“ für mangelnde Investitionen.
  Statt in Research oder UX zu investieren, heißt es: „Die KI macht das schon.“ Das ist, als würde man beim Hausbau auf den Architekten verzichten, weil der Hammer jetzt elektrisch ist. Am Ende kostet das mehr, nur tauchen die Kosten später und weniger sichtbar im laufenden Prozess auf.

Unternehmen, die auf kurzfristige Revenue setzen, tappen in die Revenue-Falle, in der „schnell“ oft „teuer“ bedeutet, denn:

• KI-generierte Lösungen sind selten skalierbar.
  Ein Chatbot, der heute „gut genug“ funktioniert, bricht morgen zusammen, wenn die Nutzer*innenzahlen steigen, weil niemand die Systematik, langfristige Funktionsweise und Tragfähigkeit dahinter durchdacht hat.
• Nutzer*innen merken sich schlechte Erfahrungen.
  Ein Produkt, das sich „billig“ anfühlt (weil es z. B. unpersönlich, unlogisch oder fehlerhaft ist), verliert langfristig Kundinnen und Kunden, selbst wenn es kurzfristig Geld bringt. Wie viele Apps hast du selbst schon nach einem frustrierenden Onboarding wieder gelöscht?
• Die Konkurrenz schläft nicht.
  Wer heute auf Qualität verzichtet, verliert morgen gegen Unternehmen, die beides hinbekommen: Tempo und Tiefe.

Viele Firmen merken erst im Krisenmodus, dass sie mit KI nur die Symptome behandelt haben, aber nicht die Ursachen. Die Aufgabe von Expert*innen ist damit auch, auf diese Aspekte aufmerksam zu machen und mögliche Qualitäts- und Kostenfallen frühzeitig zu identifizieren und anzumerken. Doch nicht alle lassen sich überzeugen. Manche Unternehmen wollen einfach nur „schnell und billig“ und akzeptieren damit die entsprechend möglichen Konsequenzen. Da hilft kein noch so gutes Argument. Ja, der Markt ist hart, aber:

• Gute Arbeit setzt sich langfristig durch, auch wenn es länger dauert.
• Unternehmen, die heute auf Qualität verzichten, werden morgen diejenigen sein, die verzweifelt Expert*innen suchen, weil ihre KI-Lösungen nicht skalieren.

Die Superkraft von Expert*innen ist es, die Fallstricke zu sehen, die andere möglicherweise übersehen.

3 Fazit

KI bietet viele Möglichkeiten, bisher zeitraubende und wenig wertschöpfende, ausführende Tätigkeiten zu automatisieren und spürbar zu beschleunigen. Damit werden Ressourcen für mehr Kopfarbeit frei. Und die braucht es, um KI-Tools sinnvoll zur Erreichung qualitativ guter und skalierbarer Lösungen mit unternehmerischer Wertschöpfung einzusetzen, da Entscheidungen in der Produktentwicklung immer komplexer werden. Auch sollte man nicht dem Trugschluss aufsitzen, dass alle Informationen und Aspekte der realen Welt in sprachlicher Form und 1:1 im Internet verfügbar sind. KIs können nicht rechnen und sie können nicht fühlen. Sie sind lediglich gut darin, viele Dinge sehr schnell und auf Basis vieler Daten zu tun. Was die richtigen Fragen sind, müssen noch immer Menschen entscheiden. Die Arbeit von UX- und anderen Fach-Expert*innen wird also nicht verschwinden, aber deutlich anders werden.

Zu den Autorinnen
Carmen Hartmann-Menzel ist Usability Engineer bei rocket-media und betreut hier namhafte Kunden aus Mittelstand und Industrie. Sie ist anerkannte Seminar-Trainerin nach dem Standard des „International Usability and User Experience Qualification Board (UXQB)“. Seit 20 Jahren lehrt sie in den Bereichen Design / UX an verschiedenen Hochschulen im In- und Ausland und wurde im September 2019 auf eine Professur an der Hochschule für Gestaltung Schwäbisch Gmünd im Studiengang „Interaktionsgestaltung“ berufen. Die Co-Pilotin zur Erstellung dieses Blog-Beitrags war Le Chat von Mistral.

 

Titelbild-Urheber: mangostar