Fraunhofer SIT: Was bedeutet KI für Kriminalität?
Der Anwendertag IT-Forensik des Fraunhofer SIT in Darmstadt befasst sich mit Texten und Multimediadaten, die von KI erzeugt wurden.
Abituraufsätze von ChatGPT oder KI-generierte Fotos des Papstes in weißer Daunenjacke – solche Beispiele zeigen, dass künstliche Intelligenz (KI) das Potenzial hat, die menschliche Wahrnehmung und die Vertrauenswürdigkeit von digitalen Medien zu verändern. Welche Potenziale und Gefahren ergeben sich aus KI-generierten Medien? Wie lassen sich künstliche und menschengemachte Inhalte unterscheiden?
Seit ChatGPT auf dem Markt ist, sei das Thema künstliche Intelligenz in der breiten Öffentlichkeit angekommen, doch auch Kriminelle nutzten KI bereits für ihre Zwecke, und KI-generierte Daten stellten deshalb bereits jetzt für viele Bereiche eine große Herausforderung dar, sagt die IT-Forensikerin Ann-Katrin Riedel, Organisatorin des Anwendertags IT-Forensik und Wissenschaftlerin am Fraunhofer SIT. Unter dem Motto „KI-generierte Daten auf dem Prüfstand“ widmet sich der Anwendertag am 14. September deshalb den Chancen und Risiken, die sich aus KI-genierten Daten für verschiedene Bereiche ergeben, zum Beispiel für die Vertrauenswürdigkeit von Beweismitteln oder biometrischen Gesichtsbildern. Im Vortrag „Grenzen von ChatGPT in der Regulatorik“ beleuchtet Sarah Holschneider von der Eloquest GmbH die Einsatzmöglichkeiten von ChatGPT in der Finanzwirtschaftregulatorik.
Nicht nur Texte, auch synthetisch erzeugte Bilder, Audio- und Video-Daten können missbräuchlich zum Einsatz kommen – Deepfakes, also täuschend echt aussehende Manipulationen von Videos, sind zunehmend ein Problem in Videoverhandlungen bei Gericht. Hierüber sprechen Simone Salemi und Bianca Steffens vom Zentrum für Recht und Digitalisierung. Wie über Deepfakes auch Straftaten begangen werden können, etwa zur Vortäuschung einer falschen Identität im Video-PostIdent-Verfahren, und wie sich Deepfakes erkennen lassen, darüber spricht Ermittlerin und Cybercrime-Spezialistin Antje Marschall.
Auch die Manipulation von Audiodateien ist mit KI-Anwendungen einfach und schnell möglich geworden. Patrick Aichroth vom Fraunhofer IDMT zeigt in seinem Vortrag technische Ansätze, wie Audio-Fakes und Desinformationen erkannt und analysiert werden können. Weitere Vorträge behandeln die synthetische Generierung von Gesichtsbildern (Dominik Lawatsch, secunet Security Networks), sowie aktuelle Themen der Mediensynthese (Andreas Blattmann, Stability AI).
Der Anwendertag IT-Forensik wendet sich an IT-Sicherheitsexperten, Ermittelnde aus Sicherheitsbehörden und Unternehmen, Forschende aus IT-Sicherheit und KI sowie Experten und Anwender aus den Bereichen Data Science und Data Analytics. Die Veranstaltung findet am 14. September 2023 von 10 bis 19 Uhr in hybrider Form statt; eine Teilnahme ist online oder vor Ort möglich.
