Wenn man über die Rolle der künstlichen Intelligenz in der Cybersicherheit spricht, ist es wichtig, zunächst die kurzfristigen Auswirkungen zu berücksichtigen, da diese am offensichtlichsten sind und weil es sich um Neuland handelt, das die Fähigkeit erfordert, über den unmittelbaren Hype hinauszugehen. Aus diesem Grund wird angenommen, dass KI eine entscheidende Rolle bei groß angelegten Desinformationskampagnen auf Social-Media-Plattformen spielt. Diese Kampagnen können vor, während und nach globalen Großereignissen wie geopolitischen Konflikten und Wahlen stattfinden, die das Vertrauen in die Fähigkeit, Fakten zu überprüfen, in Frage stellen. Obwohl es an konkreten Beweisen mangelt, deuten Open-Source-Informationen auf einen wachsenden Trend zum Einsatz von KI in Desinformationskampagnen hin.
Darrell West, Senior Fellow am Center for Technology Innovation der Brookings Institution, warnte kürzlich vor den möglichen Auswirkungen dieses Anwendungsfalls und sagte: „Bei den nächsten Wahlen wird es einen Tsunami an Fehlinformationen geben; Grundsätzlich kann jeder künstliche Intelligenz nutzen, um gefälschte Videos und Audio zu erstellen, und es wird fast unmöglich sein, echte von gefälschten zu unterscheiden.“
Dies spiegelt sich auch in der Entstehung von Deepfakes wider. Auch wenn Deepfakes nicht direkt mit der traditionellen Cybersicherheit in Zusammenhang stehen, werden sie zunehmend mit Social-Engineering-Angriffen kombiniert. Diese Schnittstelle zwischen Technologie und Manipulation gibt Sicherheitsexperten Anlass zur Sorge, insbesondere da Algorithmen zunehmend verfeinert werden, um traditionelle Abwehrmechanismen zu umgehen, die nicht in der Lage sind, die ausgefeiltesten Angriffe zu vereiteln.
Mittelfristige Auswirkungen – Effektivere Instrumente
Mittelfristig gehen wir davon aus, dass Bedrohungsakteure ihre Tools mithilfe von KI weiter verfeinern. Sie könnten beispielsweise KI-Modelle trainieren, um die Vermögenswerte eines Unternehmens zu identifizieren, die dem Internet ausgesetzt sind, während ihre jeweiligen Dienste ausgeführt werden, um potenziell vorhandene Schwachstellen zu erkennen.
Wir gehen davon aus, dass die Komplexität der Bedrohungen weiter zunimmt und generative KI zunehmend von Cyberkriminellen eingesetzt wird, um ihre Fähigkeiten zu verbessern. Es ist wichtig zu beachten, dass diese Technologien, wie z. B. Sprachmodelle, derzeit zur Unterstützung bestehender Vorgänge verwendet werden, jedoch noch nicht vollständig zur Erstellung von Malware oder zur Durchführung groß angelegter böswilliger Kampagnen eingesetzt werden.
Diese Technologien werden jedoch höchstwahrscheinlich in naher Zukunft zur Verbesserung von Angriffen eingesetzt, beispielsweise zur Optimierung und Verfeinerung der Texte von Spear-Phishing-E-Mails, die durch die Verwendung korrekter geografischer Angaben, Fachsprache und auch grammatikalisch korrekter Texte überzeugender werden könnten Muttersprachler anzusprechen.
Darüber hinaus können wir in naher Zukunft mit dem potenziellen Einsatz generativer KI für Aufklärungszwecke rechnen, um Informationen über bestimmte Opfer zu sammeln, vor einer Kompromittierung vorzugehen, wie z. B. Netblock-Bereiche, offene Dienste/Ports, und auch beim Scannen von Schwachstellen zu helfen.
Langfristige Auswirkungen – KI-gestützte Sicherheits-Copiloten
Mit Blick auf die Zukunft gehen wir davon aus, dass Bedrohungsakteure ihre eigenen KI-gestützten Sicherheits-Co-Piloten entwickeln. Diese Co-Piloten könnten Cyberkriminelle in verschiedenen Phasen der Angriffskette unterstützen, etwa bei der lateralen Bewegung und der Privilegienausweitung in kompromittierten Umgebungen. Obwohl dieses Konzept noch nicht vollständig verwirklicht ist, gibt es in Untergrundforen und sozialen Netzwerken wachsende Aufmerksamkeit und Diskussion darüber, wie Angreifer KI-Technologie ausnutzen können.
KI und die Zukunft der Cybersicherheit
Zusammenfassend lässt sich sagen, dass KI im Bereich der Cybersicherheit eine immer wichtigere Rolle spielen wird. Die Weiterentwicklung der Technologie wird wahrscheinlich die Art und Weise verändern, wie Sicherheitsexperten und SOC-Mitarbeiter ihre Rollen angehen. Während kurzfristig mit einem Einsatz für Desinformations- und Deepfake-Kampagnen zu rechnen ist, wird sich die Entwicklung mittelfristig auf die Weiterentwicklung der Tools entlang der gesamten Angriffskette konzentrieren, beispielsweise für Aufklärung und Spear-Phishing. Schließlich könnten wir auf lange Sicht das Aufkommen von KI-gestützten Sicherheits-Copiloten erleben, die dazu dienen, gefährliche Aktivitäten noch effektiver zu gestalten.
All dies unterstreicht die Notwendigkeit, dass Sicherheitsexperten wachsam bleiben und sich an die sich entwickelnde Bedrohungslandschaft anpassen müssen. Da sich die Cybersicherheitsbranche weiter weiterentwickelt, ist klar, dass KI sowohl bei defensiven als auch bei offensiven Strategien eine treibende Kraft sein wird. Unternehmen und Sicherheitsverantwortliche haben die Aufgabe, auf dem Laufenden zu bleiben, ihre Abwehrmaßnahmen ständig anzupassen und bereit zu sein, KI-gestützten Bedrohungen wirksam entgegenzuwirken.
