Wie generative KI das Sicherheitsrisiko Phishing beeinflusst

KI-Phishing-Angriffe

Auf der Angriffsseite erhöht die generative KI die Effektivität und die Wirkung einer Vielzahl von Cyberbedrohungen und Phishing-Angriffen. Dabei gilt es folgende Punkte zu beachten.

Allgemeine Phishing-Angriffe

Generative KI kann herkömmliche Phishing-Angriffe - über E-Mails, Direktnachrichten und gefälschte Websites - realistischer gestalten, indem sie Rechtschreib- und Grammatikfehler eliminiert und einen überzeugend professionellen Schreibstil anwendet.

Große Sprachmodelle (Large Language Models, LLMs) können auch Echtzeitinformationen von Nachrichtenagenturen, Unternehmenswebsites und anderen Quellen aufnehmen. Die Einbeziehung aktueller Details in Phishing-E-Mails könnte sowohl die Glaubwürdigkeit der Nachrichten erhöhen als auch ein Gefühl der Dringlichkeit erzeugen, dass die Zielpersonen zum Handeln zwingt.

Und schließlich können KI-Chatbots kompromittierte Geschäfts-E-Mails und andere Phishing-Kampagnen viel schneller erstellen und verbreiten, als es Menschen je könnten, was die Angriffsfläche vergrößert.

Spear Phishing

Spear-Phishing-Angriffe nutzen Social Engineering, um bestimmte Personen mit Informationen anzusprechen, die auf Websites sozialer Medien, bei Datendiebstählen und aus anderen Quellen gesammelt wurden. KI-generierte Spear-Phishing-E-Mails sind oft sehr überzeugend und können die Empfänger täuschen.

Auf der Black Hat USA 2021 präsentierte beispielsweise die Government Technology Agency von Singapur die Ergebnisse eines Experiments, bei dem das Sicherheitsteam simulierte Spear-Phishing-E-Mails an interne Nutzer verschickte. Einige waren von Menschenhand verfasst, andere wurden von der GPT-3-Technologie von OpenAI generiert. Es klickten deutlich mehr Menschen auf die Links in den von der KI generierten Phishing-E-Mails als in den von Menschen geschriebenen E-Mails.

In der heutigen Zeit ist die LLM-Technologie weit verbreitet und immer ausgefeilter. Generative KI kann - in Sekundenschnelle - sensible Informationen über eine Organisation oder eine Person sammeln und kuratieren und diese nutzen, um sehr gezielte und überzeugende Nachrichten zu erstellen und sogar Telefonanrufe und Videos zu fälschen.

Vishing

Vishing oder Voice Phishing nutzt Telefonanrufe, Sprachnachrichten und Voicemails, um Menschen dazu zu bringen, vertrauliche Informationen preiszugeben. Wie andere Arten von Phishing versuchen auch Vishing-Angriffe in der Regel, ein Gefühl der Dringlichkeit zu erzeugen, indem sie beispielsweise auf einen wichtigen Termin oder ein kritisches Kundenproblem hinweisen.

Bei einem herkömmlichen Vishing-Betrug sammelt der Cyberkriminelle Informationen über ein potenzielles Opfer und ruft an oder hinterlässt eine Nachricht, die vorgibt, ein vertrauenswürdiger Kontakt zu sein. So begann beispielsweise ein massiver Ransomware-Angriff auf MGM Resorts Berichten zufolge damit, dass ein Angreifer den IT-Service-Desk anrief und sich als MGM-Mitarbeiter ausgab. Dem böswilligen Hacker gelang es, das IT-Team dazu zu bringen, das Passwort des Mitarbeiters zurückzusetzen, wodurch die Angreifer Zugang zum Netzwerk erhielten.

Die generative KI verändert Vishing-Angriffe in zweierlei Hinsicht:

Wie bereits erwähnt, kann die KI-Technologie die Recherchephase für Angreifer effizienter und effektiver gestalten. Ein LLM wie GPT-3 oder GPT-4 kann nahezu sofort Informationen aus dem gesamten Internet für Social-Engineering-Zwecke sammeln.

Angreifer können außerdem generative KI nutzen, um die Stimme eines vertrauenswürdigen Kontakts zu klonen und gefälschte Audiodaten zu erstellen. Stellen Sie sich beispielsweise vor, ein Mitarbeiter erhält eine Sprachnachricht von jemandem, der genau wie der kaufmännische Leiter klingt, und bittet um eine dringende Überweisung.

Wie man sich vor KI-Phishing-Angriffen schützen kann

Generative KI macht Cybersecurity-Fachleuten und Endnutzern gleichermaßen das Leben schwer. Aber KI-Tools können auch die Schutzmaßnahmen auf folgende Weise verstärken.

Wie man KI-Phishing-Angriffe erkennt

Es heißt, dass man jemanden kennen muss, um ihn zu erkennen. Daher überrascht es nicht, dass KI-Tools besonders gut geeignet sind, um KI-gestützte Phishing-Versuche zu erkennen. Aus diesem Grund sollten Sicherheitsverantwortliche den Einsatz von generativer KI für die E-Mail-Sicherheit in Betracht ziehen.

Allerdings müssen die CISOs auch die Betriebskosten im Auge behalten. Der Einsatz eines KI-Modells zur Überwachung aller eingehenden Nachrichten könnte zwar einen großen Beitrag zur Verhinderung von KI-Phishing-Angriffen leisten, die Kosten dafür könnten sich jedoch als unverhältnismäßig hoch erweisen.

In Zukunft werden die Modelle jedoch wahrscheinlich effizienter und kostengünstiger werden, da sie zunehmend kuratiert und angepasst werden - auf der Grundlage kleinerer Datensätze, die sich auf bestimmte Branchen, Demografien, Standorte und so weiter konzentrieren.

Schulung der Anwender

Generative KI-Modelle können Sicherheitsschulungen wesentlich individueller, effizienter und effektiver gestalten.

So könnte ein KI-Chatbot beispielsweise automatisch einen Trainingsplan für jeden einzelnen Nutzer anpassen, um die Schwachstellen jedes Einzelnen auf der Grundlage von historischen oder Echtzeitdaten zu verbessern.

Darüber hinaus könnte die Technologie die Lernmodalität ermitteln, die für jeden Mitarbeiter am besten geeignet ist - persönlich, per Audio, interaktiv, per Video etc. ­ und die Inhalte entsprechend präsentieren. Durch die Maximierung der Effektivität von Sicherheitsschulungen auf granularer Ebene könnte generative KI das allgemeine Cyberrisiko erheblich reduzieren.

Kontextbezogene Verteidigungsmaßnahmen

KI und Tools für maschinelles Lernen können schnell eine Vielzahl von Bedrohungsdaten sammeln und verarbeiten, um zukünftige Angriffe vorherzusagen und zu verhindern sowie aktive Bedrohungen zu erkennen. Beispielsweise könnte KI historische und aktuelle Vorfälle in einer Vielzahl von Unternehmen anhand der folgenden Merkmale analysieren:

• Arten von Cyberangriffen.
• Geografische Zielregionen,
• Anvisierte Organisationsbereiche.
• Die betroffenen Abteilungen.
• Welche Arbeitnehmer sind betroffen?

Anhand dieser Informationen könnte generative KI erkennen, welche Arten von Angriffen für ein bestimmtes Unternehmen am wahrscheinlichsten sind, und dann automatisch Sicherheitstools entsprechend trainieren. So könnte KI beispielsweise bestimmte Malware-Signaturen für eine Antiviren-Engine markieren, die Blockliste einer Firewall aktualisieren oder obligatorische sekundäre oder tertiäre Authentifizierungsmethoden für risikoreiche Zugriffsversuche auslösen.

Die generative KI verändert unsere vernetzte Welt unbestreitbar in rasantem Tempo. Sicherheitsverantwortliche müssen sich darüber im Klaren sein, wie böswillige Angreifer KI und maschinelle Lerntechnologien einsetzen. Dementsprechend können sie die Technologie zur Stärkung des Verteidigungsmodells nutzen.