Google deckt Bemühungen von Cyberkriminellen zur Manipulation des KI-Chatbots Gemini auf

Da die künstliche Intelligenz immer ausgefeilter wird, suchen Cyberkriminelle nach Möglichkeiten, sie für ihre Zwecke zu manipulieren.

Ein neuer Bericht von Google zeigt, dass staatlich gesponserte Hackergruppen und andere Bedrohungsakteure versucht haben, den KI-Chatbot Gemini auszunutzen, allerdings ohne Erfolg.

Die Analyse von Google ergab, dass Hacker versuchten, die Sicherheitsfunktionen von Gemini mit einfachen Techniken zur Manipulation von Eingabeaufforderungen zu umgehen, z. B. durch Umformulierung von Befehlen oder deren wiederholte Übermittlung. Auch wenn diese Versuche fehlschlugen, zeigt der Bericht das wachsende Interesse an KI-gestützten Cyberangriffen.

Neben einfachen Ausbruchsversuchen haben von der Regierung unterstützte Hackergruppen den Einsatz von Gemini für das Sammeln von Informationen, die Erforschung von Schwachstellen und automatisiertes Scripting untersucht.

MEHR LESEN:

Krypto-Hacks fallen um 44%, aber CeFi bleibt das größte Ziel

Iranische Cyber-Akteure haben Berichten zufolge KI eingesetzt, um Phishing-Kampagnen zu erstellen und Verteidigungsexperten zu überwachen, während chinesische Agenten sie zur Unterstützung bei der Programmierung und für einen tieferen Systemzugang genutzt haben. Nordkoreanische Hacker haben KI in ihre Angriffsplanung integriert und sogar Themen wie Kryptowährungen und militärische Strategien erforscht.

Trotz dieser Versuche bestätigt Google, dass die Sicherheitsfilter von Gemini jeglichen Missbrauch verhindert haben. Angesichts der Tatsache, dass allein nordkoreanische Hacker im Jahr 2024 digitale Vermögenswerte in Höhe von $1.3 Milliarden stehlen werden, wird erwartet, dass die Rolle der KI bei Cyber-Bedrohungen zunehmen wird, was Bedenken hinsichtlich künftiger Schwachstellen weckt.

Alexander Zdravkov

Alexander arbeitet seit drei Jahren in der Krypto-Industrie und hat sich in dieser Zeit durch seine aktive Beteiligung an der Beobachtung der Marktdynamik und technologischen Innovationen einen Namen gemacht. Sein Interesse an Kryptowährungen und neuen Technologien ist nicht nur eine berufliche Verpflichtung, sondern eine tiefe persönliche Leidenschaft. Er verfolgt täglich die Nachrichten aus der Branche, analysiert Trends und ist begeistert von jedem neuen Schritt in der Entwicklung von Blockchain-Lösungen. Sein Enthusiasmus treibt ihn dazu an, ständig zu lernen und sein Wissen zu teilen, da er die Zukunft in der digitalen Finanzwelt und deren Rolle in der globalen Transformation sieht.