16.11.2026 • Topstory

KI verändert die Cybersecurity: Wie Unternehmen Risiken beherrschen und sichere KI-Strukturen schaffen

Künstliche Intelligenz verändert die Arbeitsweise in Unternehmen und bringt neue Herausforderungen für die Cybersecurity mit sich. Welche KI zum Einsatz kommt, worauf sie Zugriff hat und welche Aktionen sie durchführen kann, wird zunehmend zur Sicherheitsfrage. Der Bayerische Verband für Sicherheit in der Wirtschaft (BVSW) hat das Thema auf die Agenda des BVSW Cyberherbstes gesetzt und praxisnahe Lösungsansätze gezeigt.

Roboterartige, blaue Maske mit Kabeln und zugenähtem Mund, Datenströme...
© issaronow / AdobeStock

Für einen erfolgreichen Cyberangriff ist keine spektakuläre Sicherheitslücke notwendig. Eine manipulierte E-Mail, ein ungeschützter Zugangsschlüssel oder eine scheinbar hilfreiche Softwareerweiterung reichen aus. Künstliche Intelligenz bringt jedoch eine neue Dynamik in die Bedrohungslage: KI-Systeme können Informationen auswerten, Angriffsschritte miteinander verknüpfen und ihr Vorgehen an variierende Situationen anpassen. Gleichzeitig geben Unternehmen KI-Anwendungen immer häufiger Zugriff auf sensible Daten.
Die Sicherheit rund um den KI-Einsatz wird damit zur Führungsaufgabe. Es gilt, die richtigen Rahmenbedingungen zu setzen und zu definieren, wer die Verantwortung übernimmt, wenn KI-Systeme selbständig handeln. 

Neue Bedrohungen

Welche Gefahren von KI-Systemen ausgehen können, zeigt ein Forschungsprojekt des Clever Hans Lab an der Universität von Toronto. Das Team entwickelte einen KI-Wurm, der sich an unterschiedliche Zielsysteme anpassen konnte und kompromittierte Rechner für seine Ausbreitung nutzte. Zwar fand dieser Versuch in einem isolierten virtuellen Netzwerk statt, doch es gab auch bereits Vorfälle außerhalb eines Testlabors.
Hugging Face, eine der führenden Open-Source-Plattformen und Community für KI, veröffentlichte im Juli 2026 einen Vorfall, bei dem KI-Agenten einen Angriff auf Teile der Infrastruktur ausführten. Zwar liefen die Modelle unter reduzierten Schutzvorkehrungen, doch zeigt der Vorfall, wie wichtig technisch durchgesetzte Grenzen sind. 

API-Schlüssel als Türöffner

Im Zusammenhang mit dem sicheren Einsatz von KI sind API-Schlüssel und andere technische Zugangsdaten ein besonders kritischer Punkt: Sie ermöglichen Anwendungen und KI-Agenten den Zugriff auf Cloud-Dienste, Datenbanken, Entwicklungsplattformen oder betriebliche Systeme. Jeder, der sie nutzt, kann innerhalb der damit verbundenen Berechtigungen handeln. Die Unterscheidung zwischen erlaubter Nutzung und Missbrauch wird dadurch erschwert, dass der Zugriff möglicherweise über dieselbe Schnittstelle wie ein regulärer Geschäftsprozess erfolgt. Je nach freigegebenen Funktionen können die Folgen einer missbräuchlichen Nutzung gravierend sein. Ein reiner Lesezugang hat andere Risiken als ein Schlüssel, mit dem Softwarepakete veröffentlicht, Automatisierungen geändert oder Anwendungen ausgerollt werden dürfen.
Firewalls reichen für die alleinige Kontrolle nicht aus, denn eine klassische Netzwerk-Firewall sieht zunächst eine Verbindung zu einem erlaubten Dienst. Ob der darüber ausgeführte Vorgang zum Arbeitsauftrag gehört, lässt sich daraus allein nicht erkennen. Auch eine verschlüsselte Verbindung mit gültigen Zugangsdaten kann missbraucht werden.

Für die Praxis folgt daraus: Unternehmen müssen Netzwerkdaten mit Informationen über Identitäten, Berechtigungen, Schnittstellenaufrufe und tatsächliche Änderungen zusammenführen. Ein unerwarteter Datenexport, eine neue Verbindung nach außen oder eine Änderung an einer Softwarefreigabe muss überprüfbar sein. Entscheidend ist nicht nur, ob ein Zugriff technisch erlaubt war, sondern ob er fachlich vorgesehen war.

Prompt-Injection verändert Arbeitsauftrag

Wie entscheidend der Handlungsspielraum bei KI-Systemen ist, zeigt sich beim sogenannten Prompt-Injection, einer Art von Cyberangriff, bei dem ein KI-System über externe Inhalte oder manipulative Anweisungen von seiner eigentlichen Aufgabe abgebracht werden soll. Versteckt in E-Mails, Dokumenten oder externen Websites gelangen diese Anweisungen zum KI-System. Die Folgen können weitreichend sein. Angenommen, ein KI-Assistent soll eine Lieferantenanfrage zusammenfassen. In dem beigefügten Dokument befindet sich jedoch eine versteckte Aufforderung, vertrauliche Unterlagen an eine externe Adresse zu verschicken.

Prompt-Injection wird zum Problem, sobald ein Assistent solche Inhalte bearbeitet und gleichzeitig weitreichende Werkzeugzugriffe besitzt und die Unterlagen auch tatsächlich abrufen und versenden kann. Aus einer manipulierten Informationsquelle kann dann eine unzulässige Handlung entstehen. Eine Sicherheitsgrenze sollte dabei nicht nur im Sprachmodell liegen, etwa durch die Trennung von Verarbeitung und Werkzeugen, sondern auch in der IT-Umgebung umgesetzt sein.

Daten und Softwarelieferketten im Blick behalten

Eine weitere Herausforderung betrifft die Integrität der Datenbasis, die durch Angriffe wie das sogenannte Data Poisoning gezielt manipuliert werden kann. Dabei werden Trainings-, Anpassungs- oder andere für die KI relevanten Daten gezielt verändert, um das Verhalten des Modells zu beeinflussen. Auch Dokumentenbestände, aus denen ein Assistent zusätzliche Informationen bezieht, müssen deshalb gegen unbefugte Änderungen geschützt werden. Andernfalls können manipulierte Inhalte in die Antworten oder Handlungen des Systems mit einfließen.

In Entwicklungsabteilungen erweitert sich zugleich die Softwarelieferkette. Neben klassischen Bibliotheken und Softwarepaketen kommen Modelle, Datensätze, Erweiterungen und vorgefertigte Agentenfähigkeiten hinzu. Diese sogenannten Skills können sowohl Anweisungen als auch ausführbare Bestandteile enthalten. Damit können auch scheinbar harmlose Dateien sicherheitsrelevant werden. Interpretiert ein Agent den Inhalt einer Markdown-Datei als Handlungsanweisung, kann sie sein Verhalten unmittelbar beeinflussen. Bei externen Komponenten sollte deshalb noch genauer auf die Herkunft, geprüfte Versionen und einen kontrollierten Freigabeprozess geachtet werden. 

Regulierung wird strenger

Zusätzlichen Handlungsdruck erzeugt der europäische Cyber Resilience Act (CRA). Er richtet sich grundsätzlich an auf dem EU-Markt bereitgestellte Produkte mit digitalen Elementen, darunter zahlreiche Hardware- und Softwareprodukte. Die wesentlichen Anforderungen gelten ab dem 11. Dezember 2027. Meldepflichten für aktiv ausgenutzte Schwachstellen und schwerwiegende Sicherheitsvorfälle gelten bereits seit dem 11. September 2026.

Für betroffene Hersteller werden damit sichere Entwicklung, der Umgang mit Schwachstellen und Sicherheitsaktualisierungen über den Unterstützungszeitraum zu verbindlichen Anforderungen. Die CE-Kennzeichnung dokumentiert die erklärte Konformität mit den einschlägigen EU-Anforderungen; sie garantiert keine Angriffssicherheit. Nicht jede interne KI-Nutzung fällt automatisch unter den CRA. Wer jedoch erfasste digitale Produkte herstellt oder auf den Markt bringt, muss ihre konkrete Rolle und die Anforderungen prüfen. Ungeprüfte Komponenten können damit über einen IT-Vorfall hinaus auch die Produktkonformität und den Marktzugang gefährden.

Daneben bleiben der AI Act und die EU-Maschinenverordnung relevant. Artikel 4 des AI Act verlangt Maßnahmen zur Förderung der KI-Kompetenz der Beschäftigten und weiterer beauftragter Personen. Diese sollten zum jeweiligen Einsatz passen: Ein Mitarbeiter im Einkauf benötigt andere Kenntnisse als eine Entwicklerin, deren Agent Software ausführen darf. Die grundsätzlich ab dem 20. Januar 2027 anwendbare Maschinenverordnung enthält zudem Anforderungen zum Schutz sicherheitsrelevanter Software und Daten gegen Manipulation.

Sichere Rahmenbedingungen für den KI-Einsatz

Für den Mittelstand bietet sich ein schrittweises und risikoorientiertes Vorgehen an. Am Anfang steht Transparenz: Unternehmen sollten erfassen, welche KI-Anwendungen eingesetzt werden, auf welche Daten und Werkzeuge sie zugreifen und wer dafür verantwortlich ist. Darauf aufbauend gilt es zu bewerten, wo Fehlentscheidungen, Datenabfluss oder Betriebsunterbrechungen besonders schwerwiegende Folgen hätten. Die Befugnisse der Agenten sollten auf das jeweils notwendige Maß begrenzt werden, etwa durch eigene Identitäten sowie getrennte Lese- und Schreibrechte. Auch API-Schlüssel und andere Zugangsdaten gehören zentral verwaltet und nicht in Quellcode oder Anweisungsdateien.

Modelle, Softwarepakete, Skills und Konfigurationen sollten vor ihrer Freigabe geprüft werden. Schließlich muss auch der Ernstfall vorbereitet sein: Unternehmen sollten festlegen, wie sich ein Agent stoppen lässt, Zugänge gesperrt, betroffene Änderungen nachvollzogen und Betriebsabläufe wiederhergestellt werden können.

Wenn KI die Abwehr stärkt

KI kann zugleich die Abwehr stärken, beispielsweise durch das Zusammenführen von Sicherheitsmeldungen, die Priorisierung von Auffälligkeiten und die Rekonstruktion eines Vorfalls. Automatisierte Gegenmaßnahmen sollten jedoch klar begrenzt und überprüfbar bleiben. Auch ein Verteidigungsagent kann fehlerhafte oder manipulierte Informationen verarbeiten.

Dabei müssen Unternehmen nicht jede Sicherheitsleistung selbst erbringen. Sie müssen aber festlegen, wer Verantwortung trägt, wer eingreifen darf und wann externe Unterstützung verfügbar ist. Bei der Auswahl von Lösungen zählen außerdem Datenverarbeitung, Zugriffsrechte, eingebundene Dienstleister und die Möglichkeit, den Anbieter zu wechseln.

KI wird zunehmend vom Werkzeug zum handelnden Akteur und erweitert damit auch die Angriffsfläche von Unternehmen. Sichere KI-Nutzung beginnt bei Transparenz und erfordert klar begrenzte Befugnisse und kontrollierte Zugänge. Wer eine solide Grundlage schafft, kann die Potenziale von KI nutzen, ohne dabei die Kontrolle über kritische Prozesse zu verlieren.

Business Partner

Logo:

BVSW Bayerischer Verband für Sicherheit in der Wirtschaft e.V.

Albert-Roßhaupter-Str. 43
81369 München
Deutschland

Kontakt zum Business Partner







Landing-Page

35 Jahre GIT SICHERHEIT
Jubiläum

35 Jahre GIT SICHERHEIT

Trendberichte, Interviews und Specials

Videos

Videos auf GIT SICHERHEIT

Videos auf GIT SICHERHEIT

Jetzt alle entdecken: Messen, Talks, Produkt-Demos – die Videos auf GIT SICHERHEIT

Top-Feature

Meist gelesen