Zwischen KI und menschlicher Kontrolle: Eine Frage der Genauigkeit?
Riema Kor Ali, Anna-Lena Schulz
Menschen vertrauen KI-Systemen zunehmend wichtige Entscheidungen an. Unklar bleibt jedoch, wann sie bereit sind, auf menschliche Kontrolle zu verzichten. Im Rahmen eines Folgeprojekts wurden nach Experiment 1 die Experimente 2 und 3 durchgeführt; hier werden ausschließlich die Ergebnisse von Experiment 2 berichtet. Untersucht wurde, ab welchem Genauigkeitsvorteil Personen im medizinischen Kontext ein rein KI-basiertes System gegenüber einem KI-System mit menschlicher Überprüfung bevorzugen. 600 über Prolific rekrutierte Teilnehmende (M = 35,7 Jahre, SD = 12,5; 50,2 % weiblich, 48,8 % männlich, 1,0 % divers) trafen jeweils vier Entscheidungen zwischen beiden Systemen. Der angegebene Genauigkeitsvorteil der reinen KI variierte zwischen 0 und 24 Prozentpunkten. Eine gemischte logistische Regression prüfte die Basispräferenz und den Einfluss des Genauigkeitsvorteils. Zusätzlich wurden Transparenz, Konsistenz, Manipulierbarkeit, Verantwortlichkeit und individuelles Verständnis als sekundäre Prädiktoren in bayesianischen Modellen untersucht. Bei gleicher Genauigkeit lag die modellgeschätzte Wahrscheinlichkeit, das System mit menschlicher Überprüfung zu wählen, bei 91 % (Intercept = 2,26, 95-%-Konfidenzintervall [1,97; 2,55]). Mit zunehmendem Genauigkeitsvorteil der reinen KI nahm diese Präferenz deutlich ab (OR = 0,15 pro zehn Prozentpunkte, 95-%-Konfidenzintervall [0,12; 0,19]). Der Indifferenzpunkt lag im präregistrierten Modell bei 11,9 Prozentpunkten; explorative Kurvenmodelle deuteten je nach Modell auf niedrigere Werte von etwa 6 bis 9 Prozentpunkten hin. Höhere wahrgenommene Transparenz, Konsistenz, Verantwortlichkeit und stärkeres Verständnis individueller Situationen gingen mit einer geringeren Präferenz für menschliche Überprüfung einher, höhere Manipulierbarkeit dagegen mit einer stärkeren Präferenz. Die Ergebnisse zeigen, dass Menschen menschliche Überprüfung selbst bei einem angegebenen Genauigkeitsnachteil bevorzugen können. Diese Präferenz nimmt jedoch deutlich ab, sobald die reine KI einen Genauigkeitsvorteil besitzt, und hängt zugleich von den wahrgenommenen Eigenschaften der KI ab.
