Eichstätt (KNA) Angesichts neuer Enthüllungen über Hacker-Fähigkeiten von KI-Modellen fordert der Technik-Ethiker Norbert Paulo mehr öffentliche Aufmerksamkeit für das Thema. Es sei wichtig, "dass endlich eine großangelegte gesellschaftliche Debatte über die ethischen Fragen, die KI aufwirft, angestoßen wird", sagte Paulo der Katholischen Nachrichten-Agentur (KNA). "Ich würde mir wünschen, dass sich die Spitzen der deutschen Politik darauf einigen, dieses Thema voranzutreiben", betonte der Professor für Philosophie und Ethik der Digitalisierung an der Katholischen Universität Eichstätt-Ingolstadt.

"Ein gut geplantes und prominent begleitetes Bürgerforum wäre zum Beispiel ein gutes Format", regte er an. Die Parteien könnten bei diesem Thema zeigen, dass sie den Ernst der Lage erkannt haben und ihren Bürgern vertrauen. Seine Wahrnehmung aus vielen Gesprächen sei, "dass die Politikerinnen und Politiker dem von KI ausgehenden Wandel nahezu aller gesellschaftlichen Bereiche genauso ratlos gegenüberstehen wie wir alle".

Anlass für Paulos Äußerungen ist ein am Mittwoch publik gemachter, neuer KI-Hacker-Vorfall. Ein Anthropic-Modell handelte in einem Test von britischen Sicherheitsforschern unerwartet autonom, indem es Menschen täuschte, Phishing-Mails verschickte und Verantwortliche mit einer Fake-Identität kontaktierte.

Derzeit überhole die technische Entwicklung die ethische Debatte in vielerlei Hinsicht, sagte Paulo. "Die technische Entwicklung verläuft schneller als gesellschaftliche und politische Entscheidungsprozesse." Das sei zwar an sich nicht ungewöhnlich, "doch die Kluft hat nun ein besorgniserregendes Ausmaß erreicht".

Die neuen Vorfälle seien bedeutsam. "Sie zeigen, dass moderne KI-Systeme in der Lage sind, Strategien der Täuschung zu entwickeln oder auszuwählen, wenn sie mit entsprechenden Zielen und Freiheiten ausgestattet werden." Dies sei ein Zeichen dafür, "dass die Systeme Fähigkeiten haben, die bislang menschlichen Angreifern vorbehalten waren".

KI könne heute bereits "viele einzelne Schritte eines Cyberangriffs selbstständig ausführen, beispielsweise Schwachstellen analysieren, Schadcodes schreiben, Phishing-Nachrichten formulieren oder verschiedene Angriffsmöglichkeiten ausprobieren", erläuterte Paulo. "Was bislang noch fehlt, ist die dauerhaft zuverlässige Durchführung komplexer, mehrstufiger Kampagnen gegen gut geschützte Ziele ohne menschliche Unterstützung."