Forschende der Universitäten Paderborn und Bielefeld haben heute eine spannende Studie vorgestellt, die sich mit der Wechselwirkung zwischen emotionalen Zuständen von Nutzer*innen und der Akzeptanz von Künstlicher Intelligenz (KI) befasst. Diese Studie ist Teil des Projekts A03(1) im Sonderforschungsbereich/TRR 318 „Constructing Explainability“. Ziel ist es, zu ermitteln, wie der emotionale Zustand der Nutzer*innen deren Umgang mit KI-Empfehlungen beeinflusst.

Die Studie mit dem Titel „User Arousal and Advice Taking“ wurde zur „4th World Conference on eXplainable Artificial Intelligence“ (XAI 2026) angenommen, was die Relevanz der Erkenntnisse unterstreicht. In den Ergebnissen zeigen die Forschenden auf, dass Menschen in einem mittleren emotionalen Erregungszustand kritischer mit KI-Empfehlungen umgehen. Anders sind die Resultate bei niedrigerer oder höherer Erregtheit, bei denen Empfehlungen häufiger angenommen werden.

U-förmige Beziehung zwischen Erregtheit und Akzeptanz

Die Studie beschreibt eine U-förmige Beziehung zwischen emotionaler Erregtheit und der Akzeptanz der Vorschläge von KI-Systemen. Hohe oder niedrige Erregtheit führt dazu, dass Nutzer*innen Empfehlungen eher übernehmen, während bei mittlerer Erregtheit die Akzeptanz sinkt. Dies wurde in einem Experiment mit 73 Teilnehmer*innen getestet, die in unterschiedliche emotionale Zustände versetzt wurden. Während die eine Gruppe eine lösbare Aufgabe bearbeitete, hatte die andere Gruppe es mit einer unlösbaren Herausforderung zu tun. Der Puls der Teilnehmer*innen wurde gemessen, um ihre emotionale Erregtheit objektiv zu erfassen.

Die Ergebnisse des Experiments deuten darauf hin, dass Menschen in einem Zustand mittlerer Erregtheit dazu neigen, KI-Empfehlungen kritischer zu hinterfragen. Diese Erkenntnisse sind nicht nur für die Theorie von Bedeutung, sondern könnten auch praktische Anwendungen in der Entwicklung von „arousal-sensitive“ XAI-Systemen haben, die den emotionalen Zustand der Nutzer*innen berücksichtigen.

Langfristige Anwendung und zukünftige Forschung

Eine wichtige Implikation der Studie ist die langfristige Anwendung der Erkenntnisse in medizinischen Szenarien, insbesondere in Situationen, in denen die Nutzer*innen unter Stress oder emotionaler Belastung stehen. Die Forscher planen, weitere Studien durchzuführen, um zu untersuchen, wie auch andere Faktoren, wie etwa Zeitdruck, die emotionale Erregtheit und die Akzeptanz von KI-Erläuterungen beeinflussen.

Werbung
Hier könnte Ihr Advertorial stehen
Ein Advertorial bietet Unternehmen die Möglichkeit, ihre Botschaft direkt im redaktionellen Umfeld zu platzieren

Für Interessierte gibt es die Möglichkeit, sich mit den Projektverantwortlichen in Verbindung zu setzen, um mehr über die laufenden Studien zu erfahren oder sogar daran teilzunehmen. Weitere Informationen finden Sie auf der Website der Universität Paderborn.

Diese wegweisende Forschung verspricht nicht nur neue Einsichten in das Verhalten von Nutzer*innen gegenüber KI-Empfehlungen, sondern auch einen bedeutenden Schritt in Richtung emotional intelligenterer Systeme, die den Nutzer*innen in entscheidenden Momenten tatsächlich hilfreich zur Seite stehen können.