Heilbronn (KNA) Ein von KI-Modellen des US-Unternehmens OpenAI eigenständig ausgeführter Hackerangriff hat auch in Deutschland eine Debatte um Cybersicherheit ausgelöst. Der Heilbronner KI-Forscher Jochen Günther sagte am Freitag der Katholischen Nachrichten-Agentur (KNA): "Wir sehen bereits seit einiger Zeit Entwicklungen, die in die Richtung autonomer oder teilautonomer Angriffe gehen." Insofern sei dieser Vorfall ein nächster Schritt einer absehbaren Entwicklung. Die Leistungsfähigkeit von KI-Modellen, autonom komplexe Cyberangriffe durchzuführen, werde "auch weiterhin zunehmen", prognostizierte Günther.

Grundsätzlich gelte: "Wenn die Entscheidung über den besten Lösungsweg den Modellen überlassen wird, geschieht dies nicht immer im Sinne des Anwenders." An dieser Stelle brauche es mehr Forschung, "um Nachvollziehbarkeit und Kontrolle über das Handeln agentischer Systeme zu erhöhen". Auch daran forsche man an der Hochschule Heilbronn. Günther hat dort die Stiftungsprofessur für KI und Cybersicherheit inne.

Das US-amerikanische Softwareunternehmen OpenAI spricht selbst von einem "beispiellosen Cybervorfall": KI-Modelle der Firma sind demnach eigenständig aus einer Testumgebung ausgebrochen und haben über das Internet ein externes US-Unternehmen gehackt.

Moralisch-ethische Fragen seien in der KI-Forschung sehr häufig berührt, sagte Günther. Das fange bei der Frage an, inwiefern Modelle eine verzerrte Realität abbilden, und reiche bis hin zur Kontrollierbarkeit ihrer Aktionen und den gesellschaftlichen Auswirkungen. "Die aktuell technisch sehr rasante Entwicklung sollte die notwendige Auseinandersetzung mit diesen Aspekten nicht überholen, um einen verantwortungsvollen Einsatz der Technologie weiterhin zu gewährleisten", mahnte der KI-Forscher.

Zur Frage, ob Europa technisch unabhängig von US-Konzernen werden solle, sagte der Experte, es wäre "notwendig, wenn wir in Europa über eine größere technische Souveränität verfügen würden". Insbesondere dann, wenn man "Sicherheit im IT-Bereich nicht anderen Akteuren überlassen" wolle. Aktuell sehe man das etwa schon in der Beschränkung des Zugriffs auf das Modell "Claude Mythos" des US-Unternehmens Anthropic.

Mit Blick auf den Vorfall bei OpenAI sagte Günther weiter: "Dass es sich anlässlich des möglichen, bevorstehenden Börsengangs um einen Marketingaspekt handelt, halte ich eigentlich für ausgeschlossen - wenn auch das Unternehmen im Sinne eines Nachweises der Leistungsfähigkeit seiner Modelle davon sicherlich profitiert."