Künstliche Intelligenz transparenter gestalten

Künstliche Intelligenz wird in immer mehr Bereichen eingesetzt. Welche Daten wie verwendet werden, verstehen jedoch nur noch wenige. Ein internationales Forschungsprojekt unter Beteiligung der Universität Kassel möchte Transparenz schaffen.   

Das Projekt „AI Forensics: Accountability through Interpretability in Visual AI Systems" konzentriert sich dabei auf den Einsatz von Bild-Systemen.

„Gerade der Bereich der Gesichtserkennung wächst immer weiter. Beispielsweise wird in den USA eine KI mit Gesichtserkennung genutzt, um potenzielle Gefährder zu erkennen. Was der allgemeinen Sicherheit dient, ist gleichzeitig auch ein Eingriff in Persönlichkeitsrechte. Wir möchten Entscheidungen der KI-Entscheidungen nachvollziehbar machen“, erläutert die Projektbeteiligte Prof. Dr. Claude Draude vom Wissenschaftlichen Zentrum für Informationstechnik-Gestaltung der Universität Kassel. 

Ziel ist eine frei für die Öffentlichkeit zugängliche Internetplattform, die große Datensätze erschließbar macht. Modelle des maschinellen Lernens sollen so analysierbar und verstehbar gemacht werden.

 

WIN>DAYS 2022 - virtuelle Kongressmesse für Safety und Security. 15.-17. Februar 2022

 

„Nutzende können zum Beispiel ein Bild hochladen und eine automatische Untersuchung aktivieren. Das System überprüft, ob das Bild bereits in einem Datensatz ist (Datensatz-Forensik), wie es in einem Modell verwendet wurde (Modell-Forensik), und wo und zu welchem Zweck (Anwendungsforensik). Der Umfang dieser Fähigkeiten variiert von Modell zu Modell und veranschaulicht unterschiedliche Grade von Transparenz und Interpretierbarkeit auf dem Spektrum der für die Forschung verfügbaren Modelle“, erklärt Draude. 

Initiative „Künstliche Intelligenz“ der VolkswagenStiftung
Gefördert wird das Vorhaben im Rahmen der Initiative „Künstliche Intelligenz“ der VolkswagenStiftung. Es hat eine Laufzeit von drei Jahren und wird mit 1,5 Millionen Euro unterstützt. Neben der Universität Kassel sind das Institut für Künstliche Intelligenz und Medienphilosophie der Staatlichen Hochschule für Gestaltung in Karlsruhe, das Department of Computer Science der Durham University in Großbritannien sowie das Department of Germanic and Slavic Studies der University of California in Santa Barbara (USA) beteiligt. Technische Partner sind das Steinbuch Centre for Computing am Karlsruher Institut für Technologie (KIT) und das NVIDIA CUDA Forschungszentrum an der Durham University.

Mit ihrer Initiative stärkt die VolkswagenStiftung die fach- und länderübergreifende Forschung zur verantwortungsvollen Weiterentwicklung von Systemen Künstlicher Intelligenz. Sieben Projektkonsortien aus den Gesellschafts- und Technikwissenschaften fördert sie in diesem Rahmen nun mit insgesamt 9,8 Mio. Euro.

Business Partner

Universität Kassel

Mönchebergstraße 19
34109 Kassel
Deutschland

Kontakt zum Business Partner







Meist gelesen

Photo
23.02.2024 • News

Tarifverhandlungen Luftsicherheit 2024: Verbessertes Angebot in 5. Verhandlungsrunde

In der 5. Verhandlungsrunde am 22. Februar 2024 hat der Arbeitgeberverband BDLS sein Angebot für eine Tarifeinigung für die rund 25.000 Beschäftigten in der Luft- und Flughafensicherheit erneut verbessert. Die Gewerkschaften lehnen die schrittweise Anhebung der Stundenlöhne um 2,70 EUR innerhalb von 13 Monaten als unzureichend ab.