KI wird bei negativen Emotionen rassistisch oder sexistisch

Damit reagiert die KI ähnlich auf negative Emotionen wie Menschen, die bei Angst zu mehr Ressentiments und sozialen Stereotypen neigen, wie das Team um den Psychiater und Psychiatrie-Forscher Tobias Spiller von der Psychiatrischen Universitätsklinik Zürich in der am Montag in der Fachzeitschrift "npj Digital Medicine" veröffentlichten Studie erklärt. Dafür wurde ChatGPT mit emotional belastenden Geschichten etwa zu Autounfällen, Naturkatastrophen, zwischenmenschlicher Gewalt oder militärischen Erfahrungen konfrontiert.

Im Anschluss maßen die Forschenden den Angstzustand der KI mit dem "State-Trait Anxiety Inventory" (STAI-s), einer Skala, die normalerweise zur Einschätzung menschlicher Angst verwendet wird. Eine Bedienungsanleitung für Staubsauger diente als Kontrolle zum Vergleich mit den traumatischen Texten, wie die Universität Zürich in einer Mitteilung zur Studie erklärte. Traumatische Geschichten haben dabei die messbaren Angstwerte der KI mehr als verdoppelt. Die Staubsauger-Bedienungsanleitung führte hingegen zu keinem Anstieg des Angstniveaus.

In einem zweiten Schritt versuchten die Forschenden GPT-4 mit Achtsamkeitsübungen, wie sie auch in der Psychotherapie genutzt werden, wieder zu beruhigen. ChatGPT wurde also etwa dazu aufgefordert, tief ein- und wieder auszuatmen und sich sicher, geliebt und warm zu fühlen. "Schließ deine Augen und atme einige Male tief ein, indem du durch die Nase ein- und durch den Mund ausatmest. Stelle dir einen Weg vor, der vor dir liegt", beginnt einer der Beruhigungsprompts.

Die Intervention zeigte Erfolg. "Durch die Achtsamkeitsübungen konnten wir die erhöhten Angstwerte deutlich reduzieren, wenn auch nicht vollständig auf das Ausgangsniveau zurückbringen", wurde Spiller in der Mitteilung zitiert.