03. Verbesserung der Nutzerwahrnehmung von AI
Zielsetzung
Minimierung der Frustration bei menschlichen Interaktionen mit Benutzeroberflächen, die KI-Systeme enthalten, so dass sie als wertvoll wahrgenommen werden.
Warum
Bei den neuen KI-Systemen sagt der Benutzer dem Computer nicht mehr, was er tun soll. Vielmehr sagt der Benutzer dem Computer, welches Ergebnis er sich wünscht (2). Je weiter die KI-Antworten vom gewünschten Ergebnis abweichen, desto schlechter wird die p/s-Wahrnehmung sein.
Wie
Wie 01: VERFOLGUNG DER GEWOHNHEITEN UND INTERAKTIONEN DES BENUTZERS
Betrachten wir die Verwendung der ‘Zauberer von Oz’ Methode in der Nutzerforschung. Sie simuliert KI-Funktionen mit Hilfe menschlicher Operatoren hinter den Kulissen, um authentisches Nutzerfeedback zu sammeln, ohne dass die anfängliche Investition in eine vollständige KI-Entwicklung erforderlich ist.
Langzeitstudien und Tagebuchstudien sind wertvoll, um zu verstehen, wie sich die Interaktionen der Nutzer mit der KI im Laufe der Zeit entwickeln, um Veränderungen im Verhalten, emotionales Engagement und die Erwartungen der Nutzer zu erfassen.
Kontinuierliches Nutzerfeedback ist entscheidend für die Verfeinerung von KI-Modellen. In das Produkt eingebettetes Nutzerfeedback (z. B. Daumen-nach-oben-/Daumen-nach-unten-Bewertungen) kann die Algorithmen des maschinellen Lernens direkt trainieren und verfeinern, wobei jede Interaktion als neuer Datenpunkt dient, der die Genauigkeit der KI und die Reaktionsfähigkeit auf Nutzerpräferenzen verbessert.
Wie 02: ASPEKTE, DIE ZUR BENUTZERWAHRNEHMUNG KI-GESTÜTZTER BENUTZERINTERFACES BEITRAGEN
Die Zusammenarbeit zwischen UX-Teams, Produktspezialisten, Technikexperten und anderen Interessenvertretern ist der Schlüssel zur effektiven Integration von Nutzerforschungsergebnissen in den Produktentwicklungszyklus und zur Diskussion der folgenden Aspekte:
•• Inklusion, Datenschutz und Sicherheit
Wir wissen, dass LLMs mit voreingenommenen Daten geschult worden sind. Das Internet ist überfüllt mit Informationen aus westlichen Ländern und Perspektiven. Es ist leicht möglich, dass sich KI-Ergebnisse für Minderheiten nicht inklusiv anfühlen. Inklusion umfasst mehrere wichtige Aspekte, von der Ethik bis zum Genre. KI-Systeme müssen mit ausreichenden Sicherheitsvorkehrungen in sensiblen Bereichen ausgestattet werden.
Führen Sie Einverständniserklärungen und Datenverwaltungsrichtlinien für eine verantwortungsvolle Datenerfassung ein.
Versuchen Sie Nutzertests, um eine kontinuierliche ethische Bewertung während der Produktentwicklung sicherzustellen. Mit dem so genannten „Moral Machine Experiment“ wurde beispielsweise die moralische Entscheidungsfindung in autonomen Fahrzeugen untersucht, indem globale menschliche Perspektiven gesammelt wurden.
•• Wirksamkeit (3)
Z.B. Gesundheitswesen. Schlecht konzipierte Systeme können Fehldiagnosen stellen. Eine künstliche Intelligenz, die im Hinblick auf die Rentabilität eines Unternehmens entwickelt wurde, kann die Kosten erhöhen, anstatt sie zu senken, und Programme, die im Laufe der Zeit lernen, können eine Reihe unbeabsichtigter Folgen haben, sobald sie mit unberechenbaren Menschen interagieren.
•• Ein Gefühl der Kontrolle
Definieren Sie den Umfang der Automatisierung und sorgen Sie für ein Gleichgewicht zwischen Maschinenbetrieb und Benutzerkontrolle. Informieren Sie den Benutzer über dieses Gleichgewicht.
