Künstliche Intelligenz: Wenn Maschinelles Lernen zum Gegner wird

In Zukunft werden Technologien, basierend auf Künstlicher Intelligenz (KI), mehr und mehr der Betrugsbekämpfung dienen, in Unternehmen Geschäftsprozesse noch besser bewerten, Testverfahren optimieren und neue Lösungen für bestehende Probleme entwickeln.

Was nach digitalem Allheilmittel für die Menschheit und ihren Wirtschaftskreislauf klingt, ist in der Realität nur eine Seite der Medaille. Durch die immer stärkere Digitalisierung von Industrie, kritischer Infrastruktur und Anwendungen im Privatbereich entstehen durch den Einsatz von künstlicher Intelligenz aber auch neue Risiken.

Die Schattenseite

Unternehmen, die Machine-Learning(ML)-Technologien nutzen, sind zweifellos ein attraktives Ziel für Angreifer. Ein denkbares Szenario wäre, mit fingierten Datensätzen ins System einzudringen, es so manipulieren, dass Algorithmen beispielweise falsche Entscheidungen treffen oder Überwachungssysteme lahmlegen und dem Unternehmen damit erheblich schaden.

Dieses so genannte gegnerische maschinelle Lernen, wenn also ML-basierte Technologien mittels gefälschten Inputs verändert werden, ist vor allem im Bereich der Cybersicherheit ein heisses Thema. Künstliche Intelligenz weckt Begehrlichkeiten und auch Cyberkriminelle sehen das Potenzial, ML zu ihren Gunsten zu missbrauchen. Sie sind damit in der Lage, neue Malware oder Phishing-Kampagnen zu kreieren und zu verbreiten. Sie können aber auch ihre Opfer direkt ins Visier nehmen, wertvolle Daten abzapfen, nach Zero-Day-Schwachstellen suchen und sie ausnützen sowie gekaperte Infrastrukturen wie Botnets missbrauchen.

Spammer und Emotet öffnen die Büchse der Pandora

Dass diese Gedankenspiele nicht mehr so realitätsfern sind, zeigen aktuelle Spam-Kampagnen eindrucksvoll. Hier werden ML-basierte Übersetzungsdienste eingesetzt, um die Nachrichten sprachlich zu optimieren und sie in die unterschiedlichsten Länder zu verschicken. Auch der derzeit weit verbreitete Downloader Emotet missbraucht ML-Technologien, um Anwender noch gezielter zu attackieren.

Dabei umgeht er sogar geschickt Honeypots und Botnet-Tracker. Emotet sammelt die Daten seiner potenziellen Opfer und sendet sie an den C&C-Server des Angreifers. Anhand der ausgewerteten Informationen wird anschliessend die Payload für die Malware individuell „errechnet“. Darüber hinaus ist die Schadsoftware in der Lage, zwischen menschlichen Bediener und virtueller Maschine unterscheiden, die vor allem von Forschern verwendet werden.

Das „Wettrüsten“ geht weiter

Künstliche Intelligenz und Machinelles Lernen entpuppt sich nicht nur für Unternehmen, sondern auch für Hacker als neues, lukratives Geschäftsfeld. Der Wettlauf zwischen Cyber-Security und Cyberkriminellen geht also mit KI in eine neue Runde. Ohne maschinelles Lernen wären die Betreiber von Emotet derzeit gar nicht in der Lage, solche teuren und aufwendigen Selbstverteidigungsmechanismen in einer Malware umsetzen zu können. Umso bewusster ist man sich darüber, dass Maschinelles Lernen nicht nur Vorteile bringt und die Risiken mit der Zeit zunehmen werden. Aus diesem Grund existieren neben ML-basierten Technologien eine Vielzahl an hocheffektiven Erkennungsmodulen wie DNA-Detection, Advanced Memory Scanner, Network Attack Protection und UEFI-Scanner. Nur ein mehrschichtiger Schutz und menschliches Know-how können verhindern, dass Cyber-Security ins Leere läuft.

Autor: Thomas Uhlemann, Security Specialist, ESET