Google deckt Bemühungen von Cyberkriminellen zur Manipulation des KI-Chatbots Gemini auf

Da die künstliche Intelligenz immer ausgefeilter wird, suchen Cyberkriminelle nach Möglichkeiten, sie für ihre Zwecke zu manipulieren.

Ein neuer Bericht von Google zeigt, dass staatlich gesponserte Hackergruppen und andere Bedrohungsakteure versucht haben, den KI-Chatbot Gemini auszunutzen, allerdings ohne Erfolg.

Die Analyse von Google ergab, dass Hacker versuchten, die Sicherheitsfunktionen von Gemini mit einfachen Techniken zur Manipulation von Eingabeaufforderungen zu umgehen, z. B. durch Umformulierung von Befehlen oder deren wiederholte Übermittlung. Auch wenn diese Versuche fehlschlugen, zeigt der Bericht das wachsende Interesse an KI-gestützten Cyberangriffen.

Neben einfachen Ausbruchsversuchen haben von der Regierung unterstützte Hackergruppen den Einsatz von Gemini für das Sammeln von Informationen, die Erforschung von Schwachstellen und automatisiertes Scripting untersucht.

Iranische Cyber-Akteure haben Berichten zufolge KI eingesetzt, um Phishing-Kampagnen zu erstellen und Verteidigungsexperten zu überwachen, während chinesische Agenten sie zur Unterstützung bei der Programmierung und für einen tieferen Systemzugang genutzt haben. Nordkoreanische Hacker haben KI in ihre Angriffsplanung integriert und sogar Themen wie Kryptowährungen und militärische Strategien erforscht.

Trotz dieser Versuche bestätigt Google, dass die Sicherheitsfilter von Gemini jeglichen Missbrauch verhindert haben. Angesichts der Tatsache, dass allein nordkoreanische Hacker im Jahr 2024 digitale Vermögenswerte in Höhe von $1.3 Milliarden stehlen werden, wird erwartet, dass die Rolle der KI bei Cyber-Bedrohungen zunehmen wird, was Bedenken hinsichtlich künftiger Schwachstellen weckt.