Mensch oder KI - Wer soll aus der Sicht von Betroffenen entscheiden?
Ana Maria Kerwien Lopez, Leandra Elena Bürks-Arndt, Leon Niklas Schwarzenberg, Paula Hannemann
Die zunehmende Integration von Künstlicher Intelligenz (KI) in gesellschaftlich relevante Entscheidungsprozesse wirft die Frage auf, in welchem Ausmaß Menschen KI-basierte Entscheidungsagenten akzeptieren und wünschen, insbesondere wenn sie selbst von den Entscheidungen betroffen sind. Ziel dieser Studie ist es daher zu untersuchen, welche Präferenzen Betroffene hinsichtlich menschlicher, KI-basierter oder hybrider (Mensch + KI) Entscheidungsagenten aufweisen und wie diese Präferenzen durch die Zuverlässigkeit der Agenten, den Entscheidungskontext sowie das wahrgenommene Risiko beeinflusst werden. Die Studie wurde präregistriert und die Datenerhebung erfolgte über die Online-Plattform Prolific. Teilnahmevoraussetzungen waren ein Mindestalter von 18 Jahren sowie englische Sprachkenntnisse. Insgesamt konnte eine Stichprobe von 4.000 Personen gewonnen werden. Die Teilnehmenden waren zwischen 18 und 94 Jahren alt. Im Rahmen eines experimentellen Online-Survey-Designs wurden den Teilnehmenden verschiedene fiktive Szenarien präsentiert, in denen eine Entscheidung mit potenziellen Auswirkungen auf ihr eigenes Leben getroffen werden musste. Für jedes Szenario konnten sie wählen, ob die Entscheidung durch einen menschlichen Agenten, einen KI-Agenten oder einen hybriden Agenten getroffen werden sollte. Dabei wurden die Zuverlässigkeit der Entscheidungsagenten sowie das Risiko der jeweiligen Situation systematisch variiert. Die bisherigen Ergebnisse zeigen ein klares Muster: Unabhängig von Risiko, Kontext und Zuverlässigkeit bevorzugten die Teilnehmenden mehrheitlich menschliche Entscheidungsagenten. Hybride Entscheidungsagenten wurden zwar häufiger gewählt als rein KI-basierte Systeme, blieben jedoch deutlich hinter menschlichen Entscheidern zurück. Selbst in Szenarien mit geringem Risiko und hoher Zuverlässigkeit des KI-Agenten entschieden sich die meisten Teilnehmenden für einen menschlichen Agenten. Insgesamt deutet dies auf eine ausgeprägte Skepsis gegenüber vollständig KI-basierten Entscheidungen hin. Die Ergebnisse tragen zum Verständnis gesellschaftlicher Akzeptanz von KI in sensiblen Entscheidungsbereichen bei und werfen Anschlussfragen nach den Ursachen dieser Präferenzen auf. Aufbauend auf den vorliegenden Befunden sollten zukünftige Analysen untersuchen, welche psychologischen und demografischen Faktoren die Präferenzen für unterschiedliche Entscheidungsagenten beeinflussen.
