Gorodenkoff - stock.adobe.com
Generative KI und Security: Auf den Einsatz vorbereiten
Generative KI-Assistenten könnten das Security Operations Center und die Arbeit von IT-Teams grundlegend verändern. Aber nicht, wenn SecOps-Teams nicht darauf vorbereitet sind.
Es ist unschwer vorstellbar, wie eine generative KI mit breitem Funktionsumfang die überlasteten und unterbesetzten Sicherheitsteams bei der Verwaltung der sich schnell verändernden Cybersicherheitsumgebungen entscheidend unterstützen könnte.
Immerhin können Systeme wie ChatGPT bereits passablen Code schreiben. In ein paar Jahren sollten sie in der Lage sein, Sicherheitsrichtlinien zu aktualisieren, Ad-hoc-Systemintegrationen zu skripten und die Mitarbeiter des Security-Teams bei ihrer Arbeit zu unterstützen. Sie können Aufgaben von Mitarbeitern übernehmen und so Unternehmen beziehungsweise Teams entlasten, die nicht genügend Mitarbeiter finden oder sich diese leisten können. Vorausgesetzt, der Software-Ansatz erweist sich tatsächlich als kostengünstiger.
Natürlich gibt es immer noch einige heikle Probleme - zum Beispiel die Tatsache, dass einige KI-Systeme Informationen erfinden, einschließlich falscher Zitate aus echten oder erfundenen Quellen. Niemand möchte einen Sicherheitsassistenten, der über das Vorhandensein oder Nichtvorhandensein einer Bedrohung lügt oder darüber, ob er sich mit einer bestätigten Bedrohung befasst hat.
Abgesehen von der Frage, wann ChatGPT und ähnliche generative KI-Tools wirklich für einen weit verbreiteten Einsatz im Bereich der Cybersicherheit bereit sein werden, sind im Vorfeld weitere Fragen zu klären. Dazu gehören die folgenden.
Sind die Mitarbeiter bereit, generative KI in SecOps einzusetzen?
In einer idealen Welt wären generative KI-Tools so effektiv und benutzerfreundlich, dass SecOps-Mitarbeiter keine spezielle Schulung benötigen, um sie in bestehende Sicherheitsabläufe zu integrieren. Es ist wenig überraschend, dass dem nicht so ist.
Es ist nicht in Gänze klar, welche neuen Kenntnisse Security-Praktiker alle benötigen werden, um generative KI für SecOps-Zwecke einzusetzen. Zumindest aber sollten die Mitarbeiter in den folgenden Bereichen gut geübt sein:
- Klare und unmissverständliche Anfragen formulieren. Die Qualität der Ergebnisse eines KI-Assistenten hängt wesentlich von der Qualität der Eingaben des menschlichen Bedieners ab. Effektives Prompt Engineering maximiert die Wahrscheinlichkeit, dass die Software hilfreiche Antworten liefert.
- Prüfen Sie die Ergebnisse generativer KI sorgfältig und kritisch. Glauben Sie nicht alles, was Sie lesen - selbst, wenn es von generativer KI der Enterprise-Klasse stammt. SecOps-Praktiker brauchen die Fähigkeit zum kritischen Denken, um Fehler und Ungereimtheiten in den KI-Ergebnissen zu erkennen und die Ergebnisse angemessen anzuwenden.
- Berücksichtigung der Grenzen von KI-gestützten Assistenten. SecOps-Teams müssen bedenken, wann und wie komplexe, mehrstufige und verzweigte Prozesse die Fähigkeiten generativer KI-Tools übersteigen könnten - mit potenziell katastrophalen Folgen.
So werden die KI-Assistenten der nahen Zukunft wahrscheinlich nicht über die nötige Raffinesse verfügen, um zu erkennen, wie der Kontext ihre Antworten beeinflussen sollte. Stellen Sie sich vor, ein SecOps-Team weist seinen KI-Assistenten an: „Schalten Sie sofort jeden PC ab, auf dem sich Malware X befinden könnte.“ Wenn die KI diese Anweisung befolgt, fährt sie jedoch unter Umständen den PC des CEO während einer wichtigen Präsentation vor dem Vorstand herunter.
In Erwartung eines solchen Szenarios könnte das Sicherheitsteam stattdessen die folgende kontextabhängige Aufforderung erstellen: „Fragen Sie immer um Erlaubnis, bevor Sie die PCs der Führungsebene herunterfahren. Schalten Sie sofort alle anderen PCs ab, auf denen sich Malware X befinden könnte.“
Theoretisch könnte die generative KI irgendwann so weit ausgereift sein, dass sie komplexe, kontextbezogene Entscheidungen genauso gut und zuverlässig treffen kann wie der Mensch. Anfänglich wird jedoch das Problem des Zauberlehrlings bestehen bleiben - Fälle, in denen der Assistent ohne angemessene Aufsicht Chaos anrichtet, indem er Zaubersprüche ausspricht, für die ihm die Kenntnisse und die Fähigkeiten fehlen, sie angemessen zu verstehen und zu kontrollieren. Dieses Problem hat bisher jede bisherige Automatisierungsgeneration geplagt, und es gibt keinen Grund zu der Annahme, dass generative KI davon ausgenommen sein wird.
Unterstützt die vorhandene Umgebung generative KI?
Die frühen generativen KI-Tools werden wahrscheinlich am besten in SecOps-Umgebungen funktionieren, die geordnet und vorhersehbar sind. Wenn die Mitarbeiter des operativen Bereichs beispielsweise eine Umgebung geschaffen haben, in der die Tools problemlos zwischen dem PC eines leitenden Angestellten und dem eines Angestellten auf Einstiegsebene unterscheiden können - vielleicht auf der Grundlage einer Datenbank -, wird die generative KI in der Lage sein, intelligenter zu handeln.
Je weniger geordnet, konsistent und gut dokumentiert die Umgebung jedoch ist, desto mehr müssen sich die SecOps-Teams auf die KI verlassen, um das richtige Verhalten abzuleiten, was ein potenzielles „Hit-or-Miss“-Angebot ist. Auch hier gilt, dass die Fähigkeit von KI-Assistenten, Schlussfolgerungen zu ziehen, zwar vielversprechend ist, aber in der Anfangsphase wahrscheinlich noch nicht ausgereift sein wird.
Mit Hilfe der generativen KI könnte die Umgebung geordneter und überschaubarer werden, indem sie ein für Menschen unvorstellbares Maß an Konsequenz, Geduld, Ausdauer und Konzentration auf die Aufgaben anwendet. KI-Assistenten könnten sich letztlich als besser geeignet erweisen als frühere Generationen der Automatisierung, um Folgendes zu tun:
- Anhand von Netzwerkprotokollen, SMTP-Daten, veralteten Konfigurationsdatenbanken und -verzeichnissen sowie anderen Systemen ein genaues Abbild der Umgebung zu erstellen und zu pflegen.
- Intelligente Fragen zu stellen, um Informationen über die Umgebung zu erhalten, die bislang fehlen.
- Vorschläge zu erarbeiten, um die Umgebung einfacher verwaltbar zu machen.
Auf diese Weise kann generative KI dazu beitragen, das Sicherheitsmanagement eines Unternehmens zu optimieren.
