Studien zu KI: privat blindes Vertrauen, beruflich hohe Skepsis
Wie nutzt man KI richtig? Privat vertrauen Nutzer der Künstlichen Intelligenz zu schnell, gerade in moralischen oder ethischen Fragen, warnen Forscher. Im beruflichen Kontext zeigt sich hingegen oft ein anderes Bild.
Stuttgart (KNA) Im Privatleben nutzen Menschen Künstliche Intelligenz (KI) häufig zu vertrauensselig, während im Berufsleben etwa medizinische Fachexperten oft zu überhöhter Skepsis neigen. Das ist das Ergebnis von zwei am Montag von der Universität Hohenheim in Stuttgart veröffentlichten Studien.
Medizinische Fachkräfte nähmen etwa KI-Empfehlungen oft nicht ernst genug, "während private Nutzer der KI oft zu viel zutrauen, vor allem in Moralfragen", resümieren die Studienautoren. In beiden Fällen brauche es eine bewusste und reflektierte Nutzung der Technologie.
"Fachleute wie beispielsweise medizinisches Personal sind von ihren eigenen Fähigkeiten oft sehr überzeugt und begegnen dem Einsatz von KI im Berufsalltag eher mit Selbstüberschätzung und KI-Skepsis", so der Studienautor und Wirtschaftsethiker Matthias Uhl von der Uni Hohenheim. Das könne nachteilige Folgen haben. So überträfen hoch entwickelte KI-Systeme häufig bereits Medizin-Fachleute in der Bilderkennung. "Wenn es etwa darum geht, Röntgenbilder, MRTs oder andere medizinische Bilder zu beurteilen, ist die KI inzwischen meist besser als jeder Mensch."
Anders sei die Situation im Privatleben: "Wenn Nutzerinnen und Nutzer Chatbots als persönliche Berater für Lebensfragen verwenden, entwickeln sie häufig ein übermäßiges Vertrauen in die KI", kritisierte Uhl. Trotz Warnung von KI-Experten griffen Nutzer ganz selbstverständlich auf KI zurück, wenn es um moralische oder persönliche Orientierung gehe.
Dabei unterschätzten die Nutzer, wie stark die Antworten der KI die eigene Meinungsbildung beeinflussen. "Das überhöhte Vertrauen zeigt sich nicht zuletzt darin, dass Nutzerinnen und Nutzer im Nachhinein glauben, sie wären auch ohne Unterstützung zum gleichen Ergebnis gekommen." Die Sorge liege daher darin, dass die Beeinflussung durch die KI unbemerkt geschehe. "Diese fehlende Wahrnehmung ist problematisch", so Ethiker Uhl.
Chatbots hätten selber kein Wertesystem, nach dem sie ihre Entscheidungen ausrichten. "Je nach Prompt können sich die Moralvorstellungen der KI verschieben", so der Wissenschaftler.