Künstliche Intelligenz als moralischer Dialogpartner

 16.09.2025

(München/Heidelberg/kts) - 16. September 2025. Hand aufs Herz: Schon mal einer Künstlichen Intelligenz (KI) Fragen gestellt wie der allerbesten Freundin? Willkommen im Club! Chatbots, die auf großen Sprachmodellen basieren, liefern für immer mehr Menschen individuelle Ratschläge in Echtzeit, selbst zu sensiblen Themen. Sie treten damit als neue „moralische Dialogpartner“ auf – in Entscheidungsfindung, Beratung und sogar Therapie. Aber: können wir ihrer moralischen Orientierung vertrauen?

Das Thema wirft grundsätzliche Forschungsfragen auf: Wie beeinflussen KI-gestützte Chatbots unsere ethischen Entscheidungen? Und was braucht es, um ihren Einsatz verantwortungsvoll zu gestalten? Welche Werte spiegeln sie wider?

Darüber Klarheit zu gewinnen, ist eine gesellschaftliche Aufgabe, aber auch eine der Wissenschaft. Deshalb stehen diese Fragen im Zentrum des MoralPLai-Projekts, einer Kooperation des Institute for Ethics in Artificial Intelligence der Technischen Universität München mit internationalen Partnern. Das Projekt wird vor allem im Hinblick auf die Begleitforschung von der Klaus Tschira Stiftung gefördert.

MoralPLai verbindet wissenschaftliche Forschung mit künstlerischer Praxis. „The Third Voice“ (auf Deutsch: „Die dritte Stimme“), so der Titel des forschungsbasierten Stücks, ist eine Theaterproduktion, die Chancen und Risiken auslotet, wenn Menschen in Fragen der Moral auf KI-Systeme zurückgreifen.

Von Vorteilen und Risiken

Das im Projekt entstandene Stück, das im Mai im Amerikahaus München seine Uraufführung feierte, erzählt zwei miteinander verwobene Geschichten: Eine Ärztin steht vor Gericht, weil sie bei der Beratung eines todkranken und lebensmüden Patienten einen KI-Chatbot konsultiert hat. Gleichzeitig sucht ihre entfremdete und einsame Tochter bei demselben System nach emotionalem Halt – und gerät ins Straucheln.

Im Zentrum steht AITHONA, ein Chatbot, der in menschliche Dialoge tritt – genau dort, wo ein Gegenüber fehlt. Die Szenen machen deutlich, wie KI sowohl stützen, als auch untergraben kann, abhängig davon, wie kritisch und verantwortungsvoll sie entwickelt und genutzt wird.

Von Echokammern und Potenzialen

Die Zuschauenden erleben eine „moralische Achterbahnfahrt“: Themen wie Echokammern, verzerrte Trainingsdaten, Verantwortungsdiffusion oder „Halluzinationen“ der KI werden anhand aktueller wissenschaftlicher Erkenntnisse und eigens erhobener Forschungsdaten künstlerisch verhandelt. Gleichzeitig betont das Stück die Potenziale solcher Systeme, von der schnellen Informationsaufbereitung bis hin zur Anregung kritischer Reflexion. Die Besonderheit dabei: Die Reaktionen, Einschätzungen und Erfahrungen des Publikums werden in mehreren Wellen abgefragt und fließen zurück in die wissenschaftliche Forschung und letztlich auch in Politik und Wirtschaft – Kommunikation in beide Richtungen also.

„Es ist schön zu sehen, wie eine Idee Wirklichkeit geworden ist und wir im Rahmen des MoralPLai-Projekts die Gelegenheit hatten, mit unkonventionellen Methoden der Wissenschaftskommunikation zu experimentieren. Hoffentlich ist dies der Beginn eines neuen, fruchtbaren Ansatzes, Forschung zur verantwortungsvollen Nutzung und Gestaltung von KI-Systemen durch forschungsbasiertes Theater zugänglich und inklusiv zu machen. Gerade in der KI-Ethik, einem Feld, das zutiefst menschlich geprägt ist und von kritischer Reflexion sowie offenem Diskurs lebt, ist dies besonders wichtig. “, sagt Franziska Poszler, Projektleiterin von MoralPLai.

„Theater ist eine Form von Wissen. Es kann und soll auch Mittel sein, Gesellschaft zu verändern. Theater kann uns helfen, unsere Zukunft aktiv zu gestalten, statt sie nur abzuwarten. Ich wünsche mir, dass das Publikum das Stück mit dem Gefühl verlässt, dass seine Stimme in der Entwicklung und Nutzung von KI eine Rolle spielt“, erklärt Regisseur Carys Kresny.

Auch die Klaus Tschira Stiftung als Förderin sieht großes Potenzial: „Das MoralPLai-Projekt setzt ein Instrument ein, das in der Wissenschaftskommunikation immer stärker an Bedeutung gewinnt: forschungsbasiertes Theater. Mit unserer Förderung möchten wir interdisziplinäre Teams darin unterstützen, besser zu verstehen, wie Theater Forschung zugänglich macht, welche Zielgruppen es erreichen kann und wie es zirkulären Wissenstransfer ermöglicht“, betont Verena Viarisio, Programm-Managerin Wissenschaftskommunikation.

„‘Gute Forschung muss verständlich sein‘, Klaus Tschira hat es auf den Punkt gebracht. Das MoralPLai-Projekt wurde deshalb von Anfang an so konzipiert, dass es einen Dialog zwischen Wissenschaft, Politik, Wirtschaft und Zivilgesellschaft ermöglicht. Dass wir dabei von einer Stiftung unterstützt werden, die sich seit 30 Jahren der Wissenschaftskommunikation verschrieben hat, ist von unschätzbarem Wert“, ergänzt Anastasia Aritzi, Kommunikationsberaterin des Projekts.

Mehr unter: https://www.ieai.sot.tum.de/research/moralplai/

Autorin: Kirsten Baumbusch, kirsten.baumbusch@klaus-tschira-stiftung.de

*******************+

Die Klaus Tschira Stiftung (KTS) fördert Naturwissenschaften, Mathematik und Informatik und möchte zur Wertschätzung dieser Fächer beitragen. Sie wurde 1995 von dem Physiker und SAP-Mitgründer Klaus Tschira (1940–2015) mit privaten Mitteln ins Leben gerufen. Ihre drei Förderschwerpunkte sind: Bildung, Forschung und Wissenschaftskommunikation. Das bundesweite Engagement beginnt im Kindergarten und setzt sich in Schulen, Hochschulen und Forschungseinrichtungen fort. Die Stiftung setzt sich für den Dialog zwischen Wissenschaft und Gesellschaft ein.

Weitere Informationen unter: www.klaus-tschira-stiftung.de