Die Mensch-Maschine-Partnerschaft wurde im Bereich der Robotik umfassend untersucht. Die Konzepte dieser Partnerschaft finden sich nun auch in digitalen Produkterlebnissen wieder, die als Co-Piloten, Agentenerlebnisse, KI-Companion und KI-Kollaborateure bezeichnet werden.
Autonomiestufen
Bedenke die 6 Stufen der in der Robotik definierten Autonomie, von keiner Autonomie (Stufe 0, Spamfilter) bis zur völligen Autonomie (Stufe 6, ein persönlicher Assistent, der in der Lage ist, verschiedene Aufgaben selbstständig zu bewältigen).
Die meisten KI-Systeme liegen heute zwischen Stage 1–5, halbautonome KI mit menschlichem Suggestions. Diese Systeme sind schwierig zu gestalten weil es sich um zwei sich gegenseitig anpassende Agenten handelt, das KI-System mit variabler Genauigkeit, abhängig von den Nutzungsbedingungen, und den menschlichen Benutzer, der mit variabler Aufgabenexpertise und KI ausgestattet ist Mentale Modelle.
Leistung von KI-Systemen im Vergleich zum Design
Sowohl bei nicht-autonomen als auch bei vollautonomen Systemen bleibt das mentale Modell des Benutzers relativ gleich und er erwartet, dass die KI einigermaßen intestine und unabhängig oder überhaupt nicht funktioniert. Vollautonome Systeme verlassen sich vollständig auf die Leistung des KI-Methods und benachrichtigen Benutzer nur bei Bedarf.
Die Mehrzahl der heutigen Anwendungsfälle betrifft jedoch teilautonome KI. Diese Systeme basieren hauptsächlich auf dem Design für (1) Moderation der Benutzererwartungen auf Grundlage der Systemleistungund 2) Ermöglichung unterschiedlicher Arbeitsabläufe abhängig vom Benutzervertrauen im System. Beispielsweise können Benutzer darauf vertrauen, dass KI unabhängig und ohne Aufsicht arbeitet, oder sie möchten Transparenz in KI-Systemen, um zu wissen, ob und wann sie durch eine gewisse Aufsicht eingreifen müssen, oder sie entscheiden sich, die Aufgabe ganz ohne KI zu erledigen.
Ein erfolgreiches Beispiel ist Roomba, der Roboterstaubsauger. Man kann Roomba frei herumfahren lassen (vollständig autonom), eingreifen, wenn er stecken bleibt (halbautonom) oder den Zeitplan von Roomba anhalten und stattdessen Räume manuell reinigen (keine Autonomie).
Selbst bei mäßiger KI-Leistung, wie z. B. wenn er einige Stellen verpasst oder stecken bleibt, bietet Roomba immer noch enormen Komfort. Es ist eine einzigartig einfache Mensch-Maschine-Partnerschaft, bei der die Absicht des Roboters offensichtlich ist, weil seine Bewegungen sichtbar sind.
Mit der Verbesserung der Systemleistung und der zunehmenden Nutzung des Produkts aus praktischen Gründen steigt auch das Vertrauen der Benutzer in das System.