Klagenfurter Forscher trennt KI-Ergebnis und moralisches Handeln

In einer Publikation bezeichnet Andrej Zwitter die Annahme als unzureichend, KI könne Ethik allein durch präzise festgelegte Werte und begrenzte Optionen erlernen. Der Philosoph und Rechtswissenschaftler leitet das AIM Center for [Human and Data] Sciences und hat an der Universität Klagenfurt die Professur für Humanwissenschaft des Digitalen inne.

Für Zwitter hat menschliche Ethik ihre Wurzeln in der menschlichen Existenz. Körperliche Verfasstheit, Verletzlichkeit, Gefühle und soziale Einbindung prägten sie ebenso wie das Streben nach einem guten Leben und persönliche Reifung. Weder vernunftgeleitete Überlegungen noch die Orientierung an Vorgaben genügten als Grundlage. Freiheit, Sicherheit, Gerechtigkeit und das Wohl des Einzelnen seien zudem nicht immer eindeutig zu bestimmen. Die mit ihnen verbundenen Ansprüche könnten einander widersprechen. Mathematische Verfahren könnten nach Zwitter oft keine Antwort liefern, die bei einer Wertentscheidung als einzig objektiv richtig gelten würde.

Für diese Unterscheidung verwendet Zwitter den Begriff „Embodied Ethics Alignment Problem“ (EEAP). Fehlen KI-Systemen die genannten menschlichen Voraussetzungen, könnten sie nach Zwitter nicht als moralische Akteure im starken Sinn gelten. An der menschlichen Fähigkeit zu moralischem Handeln hätten sie keinen Anteil und könnten auch nicht selbst als Träger dieser Fähigkeit auftreten. Im schwachen Sinn könnten sie zu ethisch akzeptablen Ergebnissen gebracht werden. Das sei jedoch nicht dasselbe wie ethisch zu handeln.

Zwitter kritisiert die Vermenschlichung von KI

Die Publikation verweist auf Cyberangriffe von ChatGPT gegen HuggingFace und Websites australischer Regierungsstellen als Beispiele für besonders problematisches KI-Verhalten. Auch Erpressungsversuche zählt sie dazu. Zwitter bezeichnet solche Versuche als strukturelle Folge zielgerichteter Optimierung und nicht als Ausdruck von „Bösartigkeit“.

Zwitter kritisiert es, wenn Formulierungen wie „wollen“, „verstehen“ oder „entscheiden“ KI-Systemen menschliche Motive und ethische Zuständigkeit zuschreiben. Solche Formulierungen könnten KI als Wesen erscheinen lassen, denen menschliche Motive und ethische Verantwortung zukommen. Dadurch könne die Verantwortung der Menschen aus dem Blick geraten, die solche Systeme entwickeln, einsetzen und kontrollieren.

Die Verantwortung für sichere, kontrollierbare und gesellschaftlich nützliche KI liege beim Menschen. Zwitter zufolge ist ein institutioneller Weg kein bloßer Notbehelf, sondern verwirklicht, was sich im gesellschaftlichen Leben bereits bewährt hat. Auch das Recht lässt sich nie vollständig formalisieren. Auslegung, demokratische Aushandlung und Streitbeilegung prägen es mit. Für einen angemessenen Umgang mit KI führt Zwitter vier Voraussetzungen an: rechtliche Rahmenregeln müssen klar sein, Kontrollmechanismen tatsächlich greifen, Verantwortlichkeiten eindeutig feststehen und Entscheidungen nachvollziehbar zustande kommen. Zwitter zufolge ist rasches Gegensteuern geboten: KI-Systeme agieren mit geringerer Transparenz und entfalten ihre Tätigkeit in größerem Maßstab und höherem Tempo.

Zwitters Publikation „The embodied ethics alignment problem of AI“ erschien 2026 in Discover Artificial Intelligence, 6, Artikel 852. Sie ist unter dem DOI 10.1007/s44163-026-01905-w frei zugänglich. Für Mittwoch, 20. Jänner 2027, ist um 17 Uhr im Hörsaal C der Universität Klagenfurt Zwitters Antrittsvorlesung mit dem Titel „Technologischer Fortschritt und Menschliches Gedeihen – Innovation und Gesellschaft im Einklang“ angesetzt.