Harrisburg (KNA) Bei heiklen ethischen Entscheidungen wie einer Organvergabe gewichten KI-Modelle die Kriterien anders als Menschen und zeigen keine Unentschlossenheit. Das fanden Forscher an der Pennsylvania State University heraus, wie die Hochschule auf ihrer Internetseite mitteilt. Demnach neigten Chatbots dazu, komplexe Abwägungen zu stark zu vereinfachen und in Dilemma-Situationen, in denen es keine ethisch einwandfreie Lösung gibt, ungerechtfertigt klare Optionen zu formulieren.

Für den Versuch hatten Wissenschaftler um den Informatikprofessor Hadi Hosseini verschiedenen großen Sprachmodellen die Aufgabe vorgelegt, aus mehreren hypothetischen Organempfängern einen auszuwählen, der die einzig verfügbare Spenderniere erhalten sollte. Die Antworten verglichen sie mit dokumentierten Entscheidungen in realen Vergabeverfahren.

Laut Hosseini wichen KI-Chatbots bei der Gewichtung der Voraussetzungen eines Patienten oft von menschlichen Wertvorstellungen ab. So konzentrierten sie sich auf einen einzigen Faktor, wie zum Beispiel Alkoholkonsum, anstatt unterschiedliche Aspekte gegeneinander abzuwägen.

Außerdem bot die KI auch dann ein rational begründetes Urteil, wenn nach menschlichem Ermessen nur ein Losentscheid möglich war. "Während Menschen erkennen, dass es möglicherweise keine eindeutig richtige Antwort gibt, wählen KI-Modelle selbstbewusst eine aus", sagte Hosseini.

Der bisherige Geschäftsführer von Mozilla.ai, der an der Untersuchung mitwirkte, teilte laut der Universität den Befund der Forscher: "Wenn wir knappe Ressourcen zuteilen - sei es eine Niere, ein Arbeitsplatz oder der Zugang zu einer anderen Ressource -, gibt es nicht immer eine einzige objektiv richtige Antwort", sagte John Dickerson. "Menschen erkennen diese Mehrdeutigkeit und integrieren sie durch offene Debatten in den Zuteilungsprozess. KI-Modelle tun dies oft nicht."