Vertrauenswürdigkeits-Plattform für KI-Lösungen und Datenräume

GIT SICHERHEIT: Herr Prof. Pohlmann, Sie haben gerade mit dem Forschungsprojekt „Vertrauenswürdigkeits-Plattform für KI-Lösungen und Datenräume“ begonnen. Können Sie bitte zunächst einmal kurz Ihr Institut und seine Forschungsschwerpunkte vorstellen?

Norbert Pohlmann: Das Institut für Internet-Sicherheit – if(is) ist eine wissenschaftliche Einrichtung der Westfälischen Hochschule, im Fachbereich Informatik. Unser Ziel ist es, einen Mehrwert für die Nutzer bezüglich Vertrauenswürdigkeit und Sicherheit im Internet zu kreieren. Aktuelle Forschungsschwerpunkte liegen in den Bereichen KI und Cyber-Sicherheit, 5G-Sicherheit, Sicherheit in Gesundheitswesen, technischer Datenschutz, Fake News, reaktive IT-Sicherheit wie Forensik und Analyse von Angriffsgruppen sowie – last but not least – Vertrauenswürdigkeit. An diesen Themen forschen circa 50 wissenschaftliche Mitarbeiter und studentische Hilfskräfte.


Wie notwendig ist eine solche Vertrauenswürdigkeits-Plattform, dass sie vom Bund gefördert wird – bzw. was genau verspricht man sich davon? Liegt dem Projekt auch ein Wunsch der Industrie zugrunde?

Norbert Pohlmann: Im Gegensatz zu Deutschland und Europa investieren die USA und einige asiatische Länder besonders viel Geld in die KI-Forschung. Aber die ethischen und moralischen Aspekte, die in Europa eine essenzielle Rolle spielen, werden in diesen Ländern – oft auch als kulturellen Gründen – nicht angemessen berücksichtigt. Mit der Vertrauenswürdigkeits-Plattform wollen wir eine Möglichkeit schaffen, europäische Werte im Rahmen der KI adäquat in den Fokus zu rücken – also das KI-Hersteller nicht nur ihre Fachkompetenz, sondern auch ihre Vertrauenswürdigkeit sowie insbesondere die ihrer KI-Lösung angemessen darstellen können. Das ermöglicht den Anwendungsunternehmen bei der Auswahl von KI-Lösungen, die für sie relevanten Aspekte der Vertrauenswürdigkeit besonders betrachten zu können. Da die Vertrauenswürdigkeits-Plattform auf einem wissenschaftlichen Modell basiert, können die hier dargestellten Vertrauenswürdigkeits-Aspekte helfen, Komplexität zu reduzieren und darüber Vertrauen aufzubauen. Der Zweck der Plattform ist, dass subjektiv empfundene Risiko der Anwenderunternehmen zu reduzieren. Dazu soll das Company Commitment dienen, indem die KI-Hersteller aufführen, was ihre KI-Lösung tut und was nicht, wo die Mehrwerte sind und welche verbleibenden Risiken beachtet werden müssen.

Aus ersten Umfragen hat sich als ein Ergebnis herauskristallisiert, dass die Anwenderunternehmen eine solche Hilfestellung goutieren, denn so können die Aspekte der Vertrauenswürdigkeit strukturell und klar bei der Auswahl Berücksichtigung finden.


Gibt es Vorbilder aus anderen Ländern?

Norbert Pohlmann: Von der Idee her gibt es ähnliche Initiativen, die das Thema aufgreifen – aber eine Vertrauenswürdigkeits-Plattform, die wirklich die Vertrauenswürdigkeit von KI-Anwendungen und Datenräumen darstellt, gibt es in dem Umfang wie wir dies tun, definitiv nicht.


Sie möchten Selbstauskünfte von den entsprechenden KI-Herstellern einholen – dies aber zum Teil auch validieren lassen. Wie wird das genau aussehen?

Norbert Pohlmann: Grundsätzlich geht es darum, über die Selbstauskunft eines Herstellers ein Company Commitment zu formulieren. Natürlich gibt es einige Stellschrauben, um die gemachten Aussagen zu verifizieren – in erster Linie über ein Reputationssystem, das als regulierendes System die Glaubwürdigkeit zwischen den Anwendern und Herstellern austarieren soll. Zudem sind im Rahmen des Artificial Intelligence Act (EU AIA) einige Anforderungen an die Hersteller verankert, etwa bezüglich Zertifizierungen von vertrauenswürdigen Instanzen wie dem TÜV, die dann natürlich auch auf der Vertrauenswürdigkeits-Plattform eingestellt werden können. Inwieweit sich weitere Validierungsmöglichkeiten pragmatisch umsetzen lassen, ist Teil unserer Forschung.


Ihr Projekt ist auf drei Jahre ausgelegt – und die ersten Schritte sind Sie ja bereits gegangen?

Norbert Pohlmann: Ja – wir haben bereits mit vollem Engagement begonnen und sind dabei zu erarbeiten, welche Fragen die KI-Hersteller im Sinne eines Company Commitments beantworten sollen, damit Anwender Vertrauen aufbauen können. Diese beziehen sich bei der KI-Lösung auf die Transparenz, Leistungsfähigkeit und Zweckprägnanz sowie bei den KI-Herstellern auf Zutrauen, Zuverlässigkeit, Integrität und IT-Sicherheit.

Vertrauen ist alles

Das Institut für Internet-Sicherheit – if(is) der Westfälischen Hochschule Gelsenkirchen startete Anfang des Jahres mit dem dreijährigen Forschungsprojekt „Vertrauenswürdigkeits-Plattform für KI-Lösungen und Datenräume“. Das Projekt wird im Rahmen der Innovationsoffensive KI mit insgesamt 1.692.590 Euro durch das Bundesministerium für Digitales und Verkehr gefördert.

Ziel ist es, eine Vertrauenswürdigkeits-Plattform so zu gestalten, dass es Anwendern ermöglicht wird, Vertrauen in Herstellerunternehmen sowie deren KI-Lösungen und Datenräume aufbauen zu können. Um diese Anforderung zu erfüllen, wird Herstellerunternehmen auf der Vertrauenswürdigkeits-Plattform die Möglichkeit eröffnet, sowohl die Vertrauenswürdigkeit ihres Unternehmens als auch die ihrer KI-Lösungen und Datenräume im Rahmen einer Vertrauenswürdigkeits-Agenda zu dokumentieren. Dieser Vorgang geschieht in Selbstauskunft, soll jedoch in einem gewissen Grad extern validiert werden. Daneben werden zusätzliche sinnvolle Nutzungsoptionen zur Verfügung gestellt – hierzu gehört unter anderem eine Indexstruktur, die einen komprimierten Vergleich aller Herstellerunternehmen basierend auf relevanten und standardisierten Kriterien bieten soll. Ergänzend dazu offeriert ein Reputationssystem den Anwendern von KI-Lösungen und Datenräumen die Möglichkeit, Hersteller bezüglich ihrer dargelegten Vertrauenswürdigkeits-Aspekte mithilfe von objektivierbaren Kriterien zu bewerten. Darüber hinaus werden branchenbezogen kooperativ mit relevanten Stakeholdern weitere Informationen bereitgestellt, die dazu beitragen, Vertrauen aufzubauen.

Weitere Informationen unter: www.vertrauenswürdigkeit.com