KI: Fortschritt mit Nebenwirkungen

Die Sicherheitsbranche hat mit dem Einzug Künstlicher Intelligenz (KI) in den letzten Jahren zweifellos einen deutlichen technologischen Entwicklungssprung gemacht. Doch je intelligenter die Systeme werden, desto größer werden auch die Sorgen um Datenschutz, Kontrollverlust und regulatorische Lücken. SECURITY INSIGHT analysiert den aktuellen Stand zwischen Nutzen und Risiko.

Die Sicherheitstechnik erlebt derzeit einen grundlegenden technologischen Wandel. Mit der zunehmenden Integration künstlicher Intelligenz verändern sich Systeme, Prozesse und Schnittstellen in allen Bereichen. In der Videoüberwachung ermöglicht KI deutlich präzisere Auswertungen. Statt starrer Regelerkennung kommen heute selbstlernende Videoanalyse-Algorithmen zum Einsatz, die Bewegungsmuster in ihrer Umgebung adaptiv erfassen und zwischen normalen und auffälligen Verhaltensweisen unterscheiden können. Während klassische Bewegungserkennung bereits auf Schatten oder reflektierende Oberflächen anspringt, ermöglichen KI-gestützte Systeme eine semantische Bildinterpretation: Sie erkennen beispielsweise, ob ein Objekt eine Person, ein Fahrzeug oder ein Tier ist – und wie sich diese innerhalb des Szenarios verhalten.

Moderne KI-Modelle identifizieren etwa „Loitering“ (das verdächtige Verweilen an einem Ort), erkennen Personen in Echtzeit oder analysieren automatisiert Flucht- und Menschenströme bei Großveranstaltungen. Führende Hersteller bieten inzwischen in der Kamera integrierte KI-Module an, die mit neuronalen Netzen auf Edge-Geräten laufen und somit völlig unabhängig von zentraler Rechenleistung operieren. Auch bei der forensischen Auswertung bringen KI-basierte Suchfunktionen enorme Effizienzgewinne ¹.

Vernetzte Intelligenz und ganzheitliche Sicherheitsarchitekturen
KI-Systeme agieren heute nicht mehr isoliert, sondern als vernetzter Bestandteil komplexer Sicherheitsarchitekturen. So werden beispielsweise Videoanalysen mit akustischen Sensoren, Zutrittskontrollen und Brandschutzeinheiten kombiniert, wodurch umfassende, in Echtzeit aktualisierte Lagebilder entstehen. Pilotprojekte zeigen, dass KI-gesteuerte Sicherheitsroboter Gelände eigenständig überwachen, Unregelmäßigkeiten melden und Situationen dokumentieren ². Und in der Gefahrenmeldetechnik werden optische, Wärme- und Gassensor-Daten genutzt, um Rauch, Hitze oder Leckagen frühzeitig zu erkennen, wodurch präventive Maßnahmen automatisiert ausgelöst werden.

Gleichzeitig hat sich KI auch in der IT-Sicherheit etabliert. Algorithmen analysieren Kommunikationsnetzwerke und identifizieren Cyberattacken. Gerade im Umfeld kritischer Infrastrukturen bietet dies gegenüber statischen Konzepten einen wesentlichen Vorteil. Diese Systeme entwickeln sich fortwährend weiter und ziehen aus Echtzeitdaten Rückschlüsse, was einerseits Chancen eröffnet, aber auch neue Verantwortungsfragen aufwirft ¹.

Rechtlicher Rahmen: EU AI Act und nationale Umsetzung
Mit der Verordnung (EU) 2024/1689, bekannt als „AI Act“, wurde im August 2024 erstmals ein umfassender, risikobasierter Rechtsrahmen für KI in Kraft gesetzt. Anwendungen mit inakzeptablem Risiko, wie Social Scoring oder Methoden zur unbemerkt emotionalen Beeinflussung, sind verboten ³. Hochrisiko-Anwendungen wie biometrische Echtzeiterkennung oder automatisierte Zutrittskontrollen dürfen nur betrieben werden, wenn strikte Anforderungen erfüllt sind: Risikobewertung, Konformitätsprüfungen, menschliche Kontrolle, Transparenz und Dokumentation ⁴.

Für Anbieter in der Sicherheitsbranche bedeutet diese Verordnung enorme Herausforderungen, denn KI-Lösungen müssen systematisch klassifiziert, getestet und zertifiziert werden. Bei Verstößen drohen empfindliche Strafen von bis zu 35 Millionen Euro oder 7 Prozent des globalen Umsatzes ⁵. Ergänzend arbeiten Normungsorganisationen wie das DIN und Forschungsinstitute wie Fraunhofer IKS an Standards und Prüfverfahren für als hochriskant eingestufte KI-Systeme, um Technik, Sicherheit und Recht in Einklang zu bringen⁶.

Besonders relevant sind dabei auch zwei weitere Regulierungsinitiativen, die tief in die Sicherheitsarchitektur von Unternehmen eingreifen. Die NIS-2-Richtlinie, die seit Oktober 2024 in nationales Recht überführt werden soll und rund 30.000 kritische Einrichtungen in Deutschland erfasst ⁶ sowie das geplante KRITIS-Dachgesetz, das zwar immer noch nicht verabschiedet ist, aber sicher kommen wird, weil es auf einer Richtlinie der EU basiert, die umgesetzt werden muss. Das KRITIS-Dachgesetz soll im Unterschied zu NIS2, das sich vor allem auf die Systemhärtung von IT-Systemen konzentriert auch einen einheitlichen Rahmen für die physische Resilienz Kritischer Infrastrukturen schaffen ⁷. Es zielt auf sektorenübergreifende Mindeststandards, Meldepflichten und Prüfmechanismen ab und wird mittelfristig auch Betreiber ohne IT-relevante KRITIS-Zuordnung stärker in die Verantwortung nehmen.

Erhöhte Anforderungen zum Schutz Kritischer Infrastrukturen
Mit dem zunehmenden Einsatz von KI sind die Anforderungen an kritische Infrastrukturen noch einmal deutlich gestiegen. Die unabhängige Arbeitsgruppe AG KRITIS warnt, dass die Versorgungssicherheit durch Cyber- und Systemausfälle nicht ausreichend abgesichert sei, und fordert bundeseinheitliche Schutzstandards sowie ein robusteres Resilienzkonzept ⁸.
Auf der anderen Seite bietet der Einsatz von KI viel Potenzial für den Betrieb sicherheitskritischer Anlagen. In Leitstellen oder Rechenzentren können intelligente Systeme technische Daten in Echtzeit auswerten, frühzeitig auf Unregelmäßigkeiten hinweisen und automatisch Reaktionen einleiten, bevor es zu größeren Störungen oder gar kompletten Ausfällen kommt.
Die zunehmende Automatisierung bringt wiederrum auch neue Risiken mit sich. KI-Systeme, die sicherheitsrelevante Entscheidungen treffen, könnten gezielt manipuliert oder mit täuschenden Eingangsdaten irregeführt werden, etwa durch gezielt veränderte Bilder oder Signale, die von der KI falsch interpretiert werden. Solche Manipulationen könnten dazu führen, dass Bedrohungen übersehen oder Fehlalarme ausgelöst werden. Betreiber kritischer Infrastrukturen stehen damit vor der Herausforderung, KI-Technologien nicht nur zu nutzen, um Risiken besser zu beherrschen, sondern gleichzeitig ihre Robustheit, Überprüfbarkeit und Widerstandsfähigkeit konsequent abzusichern.

Balance zwischen Fortschritt und Verantwortung
KI hat in der Sicherheitsbranche vieles verändert, und sie wird das auch weiterhin tun. Die Systeme werden schneller, genauer und vernetzter. Sie helfen dabei, komplexe Situationen besser zu erfassen, Fehlalarme zu reduzieren und kritische Infrastrukturen vorausschauend abzusichern. Doch mit den Möglichkeiten wachsen auch die Herausforderungen für Hersteller und Betreiber, vor allem im Hinblick auf Datenschutz und möglichen Kontrollverlust.

Die gesetzlichen Initiativen, vom AI Act bis zum KRITIS-Dachgesetz, zeigen, dass die Politik Handlungsbedarf sieht. Für Unternehmen heißt das: Wer KI einsetzt, muss sie nicht nur beherrschen, sondern auch erklären können. Und das ist vielleicht die größte Aufgabe der kommenden Jahre: Technik zu gestalten, die nicht nur leistungsfähig ist, sondern auch nachvollziehbar und vertrauenswürdig bleibt.

Autor: Andreas Albrecht

Quellen:

¹ IT‑P Blog: „KI in der Sicherheitsbranche“ – https://www.it-p.de/blog/ki-sicherheitsbranche/
² Security Robotics: „The Next Big Thing – KI‑Nutzung im Sicherheitsbereich“ – https://security-robotics.de/aktuelles/the-next-big-thing-ki-nutzung-im-sicherheitsbereich
³ Europäisches Parlament: „KI‑Gesetz – erste Regulierung der künstlichen Intelligenz“ – https://www.europarl.europa.eu/topics/de/article/20230601STO93804/ki-gesetz-erste-regulierung-der-kunstlichen-intelligenz
⁴ EQS Compliance Blog: „AI‑Gesetz der EU“ – https://www.eqs.com/de/compliance-wissen/blog/ai-gesetz-der-eu/
⁵ Fraunhofer IKS: „KI‑Gesetz und Hochrisikosysteme“ – https://www.iks.fraunhofer.de/de/leistungen/ki-gesetz-hochrisiko-systeme.html
⁶ Wikipedia: „NIS-2-Richtlinie“ – https://de.wikipedia.org/wiki/NIS-2-Richtlinie
⁷ BMI: „Entwurf eines Gesetzes zur physischen Sicherheit Kritischer Infrastrukturen (KRITIS-Dachgesetz)“ – https://www.bmi.bund.de/SharedDocs/gesetzgebungsverfahren/DE/kritis-dachgesetz.html
⁸ AG KRITIS: „Stellungnahme zum Schutz Kritischer Infrastrukturen“ – https://ag.kritis.info/