Genetec über KI in der Sicherheitstechnik: Chancen, Grenzen und ein exklusiver Blick hinter die Kulissen

CEO Pierre Racz, Gründer und President, Genetec

© Genetec

Der Markt für physische Sicherheit befindet sich in einem rasanten Wandel – getrieben von geopolitischen Entwicklungen und technologischen Fortschritten. Andrew Elvish, Vice President Global Marketing bei Genetec, gab auf dem Global Press Summit, der im Februar am Genetec-Hauptsitz in Montréal stattfand, einen Überblick über den aktuellen Stand und die wahrscheinliche Zukunft des Marktes aus Sicht des Unternehmens. Im Interview mit GIT SICHERHEIT erläuterte CEO Pierre Racz insbesondere seine Sicht auf die Rolle der künstlichen Intelligenz in der Sicherheitsbranche.

GIT SICHERHEIT: Herr Racz, was ist derzeit der wichtigste Einfluss, den künstliche Intelligenz auf Ihre Produkte und Ihr Unternehmen ausübt?  

Pierre Racz: Zunächst muss man verstehen, dass sich der Begriff „KI“ im Laufe der Zeit stark verändert hat. Ich arbeite seit den 1980er-Jahren in diesem Bereich, als KI noch Logikprogrammierung bedeutete – Lisp, Prolog und Ähnliches. Später kamen neuronale Netze und Support Vector Machines hinzu. Technologien, die damals als KI galten, verwendetn wir schon seit 2003 in unseren Produkten. Mit dem Aufkommen tiefer neuronaler Netze um 2010 sind wir auf diese umgestiegen, und seit 2012 sind sie ein zentraler Bestandteil unserer Systeme. Seit einiger Zeit experimentieren wir auch mit großen Sprachmodellen.
Als Ingenieur ist für mich entscheidend, die Stärken und Schwächen der Werkzeuge zu kennen. Es ist wie beim Brückenbau: Wenn man schwere Lasten erwartet, verwendet man nicht Holz-, sondern Stahlträger. Das gilt auch für den Einsatz von KI: Man muss wissen, wo sie gut funktioniert – und wo nicht. Deshalb gestalten wir unsere Systeme so, dass Fehler möglichst geringe Auswirkungen haben. Praktisch bedeutet das: KI bleibt bei uns bei der finalen Entscheidungsfindung außen vor. Menschen liefern Urteilsvermögen und Kreativität – Maschinen übernehmen die schweren Arbeiten. 

Wie kann man sich das konkret vorstellen? 

Pierre Racz: KI ist besonders gut in dem, was man eine unscharfe, annäherungsweise Suche nennen könnte. Sie erkennt Muster und Ähnlichkeiten in großen Datenmengen, ist aber erstaunlich schlecht im Erfassen feiner Details. Das liegt daran, dass sie probabilistisch, also mit Wahrscheinlichkeiten arbeitet. Sie weiß nichts – sie schätzt. Was viele als „Halluzinationen“ bezeichnen, sind statistisch naheliegende, aber trotzdem falsche Ergebnisse.  

Sie haben in Ihrem Vortrag den Begriff „Impressionismus“ dafür verwendet…

Pierre Racz: Ja, das ist ein hilfreicher Vergleich. Vor der Fotografie versuchten Maler – vor allem solche des Realismus –, die Realität so exakt wie möglich abzubilden. Mit der Fotografie wurde das überflüssig, und darauf reagierte die Kunst. Die Impressionisten malten abstrakter, „pixeliger“, also eher mit großen Pinselstrichen, die erst aus der Entfernung ein Bild ergeben. Es werden keine Details wiedergegeben, sondern ein Eindruck vermittelt. KI funktioniert ähnlich: Sie erzeugt einen Eindruck der auf Trainingsdaten basiert und projiziert die Frage darauf. Das Ergebnis ist im Grunde eine Schätzung – manchmal erstaunlich gut, aber eben eine Schätzung.

Was erwarten Ihre Kunden heute vom Beitrag Künstlicher Intelligenz? 

Pierre Racz: Viele Kunden sind inzwischen skeptisch. Auf Messen preisen Anbieter KI begeistert an, aber Kunden sagen oft: „Geben Sie mir kein Verkaufsgetöse, geben Sie mir etwas Nützliches.“ Sie haben keine Zeit, ständig neue Technologien zu bewerten. Und es wächst das Bewusstsein, dass „KI-gestützt“ nicht automatisch wertvoll bedeutet. Im Gegenteil: Es kann ein Warnsignal sein. Manche verwenden „KI“ sogar als Synonym für schlecht gemachte Arbeit. Einige scherzen, KI sei wie ein fauler Praktikant mit schlechter Arbeitsmoral. 

Also ist KI eher ein Werkzeug als eine Lösung? 

Pierre Racz: Genau. Sie ist wie ein Taschenrechner: Er macht Sie nicht klüger oder dümmer – nur schneller, wenn Sie wissen, wie man ihn richtig nutzt. Zudem erkennen immer mehr Menschen KI-generierte Inhalte. Hat man die Muster einmal verstanden, sieht man sie überall – Wiederholungen, typische Formulierungen usw. Und grundsätzlich: KI innoviert nicht – sie imitiert. Sie kombiniert Bestehendes neu.

Wie wird KI die Sicherheitsbranche in den nächsten fünf bis zehn Jahren verändern?

Pierre Racz: Kurzfristig erwarte ich Probleme. Wir werden „schlampiger Sicherheit“ begegnen – Systemen, die im Labor gut funktionieren, aber in der Realität versagen. Das erzeugt eine falsche Sicherheit, die Angreifer ausnutzen werden. Ich rechne mit einigen ernsthaften Vorfällen. Es gibt sogar einen Begriff dafür: „AI slop“ – also minderwertige, schlecht implementierte KI.

Passiert das bereits?

Pierre Racz: Ja, aber noch ohne große, öffentlich bekannt gewordene Katastrophen. Aber es ist eben wie bei jeder neuen Technologie: Es braucht Zeit, um sie richtig einzusetzen. Als Elektrizität neu war, nutzte man sie für die absurdesten Dinge. Es dauert Jahrzehnte, bis sich sinnvolle Anwendungen durchsetzen. 

Sie erwähnten auch, dass Menschen KI leicht vermenschlichen.

Pierre Racz: Ja, das ist ein großes Problem. Menschen projizieren automatisch Intelligenz auf solche Systeme. Das war schon bei frühen Chatbots wie „Eliza“ so. Heute sind die Systeme komplexer, aber die grundlegende Einschränkung bleibt: Sie verstehen nicht wirklich. Und sie haben Schwierigkeiten mit Mehrdeutigkeiten, die Menschen intuitiv erfassen. 

Was sind für Sie bei Genetec die wichtigsten Vorhaben in den kommenden Jahren?

Pierre Racz: Unser Fokus liegt darauf, Kunden zu mehr betrieblicher Effizienz zu verhelfen. Viele stehen unter Budget- oder Regulierungsdruck und wollen wissen, wie Technologie ihnen dabei helfen kann, ihre Aufgaben trotzdem zu erfüllen. Interessanterweise sind etwa 50 % unserer Produktfunktionen direkt aus dem Feedback unserer Kunden entstanden. Die anderen 50 % sind Ideen, die wir selbst entwickeln – nicht alle davon sind nützlich. Unser Ansatz ist exploratives Problemlösen: eng mit Kunden arbeiten, Ideen testen, iterieren – ohne ihre Ressourcen zu verschwenden. 

Gibt es aktuelle Entwicklungen, die Sie nennen können?

Pierre Racz: Ein wichtiger Schwerpunkt ist unser hybrider Ansatz – die Brücke zwischen Cloud und On-Premise. Organisationen haben sehr unterschiedliche Anforderungen: Manche wollen alles in der Cloud, andere möglichst wenig, viele brauchen eine Mischung. Wir haben unsere Systeme so entwickelt, dass sie diese Flexibilität mit einer einzigen Codebasis unterstützen. So können wir uns an verschiedene Umgebungen anpassen, ohne Kunden in starre Architekturen zu zwingen.