Die Rolle des Menschen in SecOps: unverzichtbar trotz KI

Penetrationstests: Menschliche Hacker vs. KI

Ethische Hacker, die dafür verantwortlich sind, die Cyberabwehr eines Unternehmens durch simulierte Angriffe auf die Probe zu stellen, bekommen zunehmend Konkurrenz durch KI-basierte Penetrationstests. Diese Tools sind in der Lage, Netzwerke und Anwendungen in einem Bruchteil der Zeit zu analysieren und Schwachstellen aufzudecken. Darüber hinaus können sie Social-Engineering-Angriffe simulieren und umfassende Berichte in Sekundenschnelle erstellen. Trotz dieser Effizienz gibt es jedoch zahlreiche Bereiche, in denen KI an ihre Grenzen stößt.

Ein entscheidendes Problem ist der große Anteil an Falschmeldungen. KI-Tools neigen dazu, Bedrohungen zu identifizieren, die in Wirklichkeit gar nicht existieren. Auf der anderen Seite neigen solche Tools bisweilen dazu, tatsächliche Bedrohungen zu übersehen. Solche Fehler können für Unternehmen teuer werden, insbesondere wenn sie zu unnötigen Ausfallzeiten oder sogar zu Schäden an Systemen führen. Ein weiterer Schwachpunkt der KI ist ihr mangelndes Verständnis für den Kontext. Während ein menschlicher Penetrationstester die rechtlichen und ethischen Grenzen seiner Arbeit stets im Blick hat, fehlt es KI-Tools oft an dieser Sensibilität. Dies kann dazu führen, dass sie unbeabsichtigt Systemausfälle verursachen oder gegen gesetzliche Bestimmungen verstoßen.

Bedrohungsanalyse: Datenflut und menschliche Intuition

Moderne Sicherheitsoperationen stehen vor der Herausforderung, immer größere Datenmengen zu bewältigen. Warnmeldungen strömen in einem nie dagewesenen Tempo herein, und die Fähigkeit, diese Daten effizient zu analysieren, ist entscheidend für die Cyberabwehr. Hier kommt die KI ins Spiel: Sie kann große Datenmengen in kürzester Zeit verarbeiten, Verhaltensmuster analysieren und Abweichungen erkennen, die auf eine Bedrohung hindeuten könnten.

Doch trotz dieser beeindruckenden Fähigkeiten bleibt die menschliche Intuition unersetzlich. KI-Systeme können zwar potenzielle Bedrohungen identifizieren, aber die Interpretation dieser Daten und die daraus resultierenden strategischen Entscheidungen liegen weiterhin in menschlicher Hand. Sicherheitsanalysten bringen ihr intuitives Verständnis in die Bedrohungsanalyse ein, was KI-Systemen bisher (noch) fehlt. Außerdem sind es die Menschen, die die KI-Modelle entwickeln, trainieren und kontinuierlich verbessern.

Regulatorische Compliance: DSGVO und die Rolle der KI

In Europa, insbesondere in Deutschland, ist die Einhaltung von Datenschutzgesetzen wie der DSGVO von zentraler Bedeutung. Die DSGVO stellt strenge Anforderungen an den Schutz personenbezogener Daten, und Unternehmen sind verpflichtet, sicherzustellen, dass ihre Datenverarbeitung diesen Vorschriften entspricht. KI kann in diesem Zusammenhang eine wertvolle Unterstützung bieten.

Durch die Analyse von Unternehmenspraktiken, Lieferkettenaktivitäten und Umweltbelastungen kann KI beispielsweise einem multinationalen Konzern helfen, seine Strategien so zu gestalten, dass Nachhaltigkeit gefördert und Compliance-Risiken minimiert werden. KI-gestützte Tools können kontinuierlich überwachen, ob Anwendungen, Daten oder Zugriffe den DSGVO-Vorschriften entsprechen, und potenzielle Verstöße frühzeitig erkennen. Zudem können KI-Tools erste Entwürfe von Risikobewertungen und Richtlinien erstellen, die dann von Menschen verfeinert werden.

Trotz dieser Vorteile bleibt menschliches Fachwissen unverzichtbar. Die Erstellung umfassender Compliance-Berichte, die die Einhaltung der DSGVO dokumentieren, erfordert ein Maß an Nuancierung und Voraussicht, das KI bisher nicht bieten kann. Menschen sind in der Lage, die Auswirkungen neuer Vorschriften zu bewerten und Empfehlungen für Anpassungen zu geben, die über die rein technische Compliance hinausgehen. Besonders wichtig ist dies in Branchen, die regelmäßig neue gesetzliche Anforderungen umsetzen müssen.

Bedrohungserkennung: Der schmale Grat zwischen Vertrauen und Kontrolle

Ein weiterer Bereich, in dem KI eine zentrale Rolle spielt, ist die Bedrohungserkennung. KI-Systeme können große Mengen an Netzwerkaktivitätsdaten in Echtzeit überwachen und verdächtige Muster identifizieren, die auf einen Angriff hindeuten könnten. Diese Fähigkeit zur kontinuierlichen Überwachung und Analyse ist heute besonders wertvoll, da Cyberangriffe immer ausgeklügelter und zahlreicher werden.

Doch trotz dieser Vorteile gibt es auch hier Grenzen. KI-Systeme sind nicht unfehlbar und können sogenannte "Halluzinationen" produzieren, insbesondere wenn sie mit fehlerhaften oder voreingenommenen Daten trainiert wurden. Aus diesem Grund ist es entscheidend, dass menschliche Sicherheitsanalysten auch weiterhin die Kontrolle behalten. Sie müssen die Ausgaben der KI validieren und die endgültigen Entscheidungen treffen, welche Bedrohungen eine tiefere Untersuchung und möglicherweise eine sofortige Reaktion erfordern.

„Eine vollständig automatisierte Sicherheitsorganisation wird in absehbarer Zeit wohl unwahrscheinlich bleiben. Menschen werden weiterhin eine zentrale Rolle spielen, sei es bei der Entwicklung und Überwachung von KI oder bei der endgültigen Entscheidungsfindung.“

Lars Christiansen, Tanium

Management von Security Operations Centers (SOCs)

Das Management von Security Operations Centers (SOCs), die oft das Herzstück der Sicherheitsinfrastruktur eines Unternehmens bilden, wird auch in Zukunft eine Aufgabe für Menschen bleiben. Während KI in der Lage ist, große Mengen an Sicherheitsdaten zu verarbeiten und Routineaufgaben zu automatisieren, bleibt die kreative und strategische Leitung eines SOCs fest in menschlicher Hand.

In einem gut geführten SOC werden Sicherheitsanalysten durch KI-Tools unterstützt, um die Gefahr einer Alarmmüdigkeit (Alert Fatigue) zu reduzieren, welche durch die ständige Flut von Sicherheitswarnungen entstehen kann. KI kann dazu beitragen, dass Sicherheitsorganisationen eine konstant starke Sicherheitslage aufrechterhalten. Dennoch bleibt die Gesamtleitung des SOCs eine Aufgabe, die die menschliche Kreativität und strategische Denkweise erfordert. Diese Fähigkeiten sind entscheidend für die Anpassungsfähigkeit und Reaktionsschnelligkeit in der sich ständig verändernden Bedrohungslandschaft.

Experten wie Randy Lariar, Practice Director für SOC-Technologie bei Optiv, sind der Ansicht, dass Menschen auch in Zukunft eine zentrale Rolle im SOC-Management spielen werden. Er betont, dass zwar einige der niedrigschwelligen Automatisierungen durch KI zunehmend vertraut werden, aber die hochrangigen Sicherheitsteams weiterhin die KI-Entscheidungen sehr genau überwachen werden. Die Idee eines vollständig automatisierten SOCs sei zwar faszinierend, aber in der Praxis noch lange nicht realisierbar.

Mensch und Maschine – eine notwendige Symbiose

Obwohl die Integration von KI in die IT-Sicherheit viele Vorteile bietet, bleibt die Rolle des Menschen unverzichtbar. Sei es bei der Interpretation von Bedrohungsdaten, der Durchführung von Penetrationstests, der Sicherstellung der DSGVO-Compliance oder dem Management eines SOCs – die menschliche Intuition, Kreativität und strategische Entscheidungsfindung sind Fähigkeiten, die KI nicht ersetzen kann.

Eine vollständig automatisierte Sicherheitsorganisation wird in absehbarer Zeit wohl unwahrscheinlich bleiben. Menschen werden weiterhin eine zentrale Rolle spielen, sei es bei der Entwicklung und Überwachung von KI oder bei der endgültigen Entscheidungsfindung. Diese Symbiose von Mensch und Maschine ist nicht nur notwendig, sondern auch die effektivste Methode, um den wachsenden Herausforderungen der Cybersicherheit auch in Zukunft auf Augenhöhe begegnen zu können.

Über den Autor:
Lars Christiansen ist Area VP EMEA Central bei Tanium.

Die Autoren sind für den Inhalt und die Richtigkeit ihrer Beiträge selbst verantwortlich. Die dargelegten Meinungen geben die Ansichten der Autoren wieder.