Google разкри опит за кибератака срещу АI чатботът Gemini

С усъвършенстването на изкуствения интелект киберпрестъпниците търсят начини да го манипулират за лични цели.

Нов доклад на Google разкрива, че спонсорирани от държавата хакерски групи и други участници в заплахи са се опитали да използват AI чатбота Gemini, но без успех.

Анализът на компанията установи, че хакерите са се опитали да заобиколят функциите за сигурност на Gemini, използвайки основни техники за манипулиране, като например преформулиране на команди или многократното им подаване. Въпреки че тези усилия не са успели, докладът подчерта нарастващия интерес към кибератаките, задвижвани от изкуствен интелект.

Освен обикновените опити за бягство от затвора, подкрепяни от правителството хакерски групи са проучвали възможностите за употреба на Gemini за събиране на разузнавателна информация, проучване на уязвимости и автоматизирано писане на скриптове.

Съобщава се, че ирански киберпрестъпници са използвали изкуствен интелект за изготвяне на фишинг кампании и наблюдение на експерти в областта на отбраната, докато китайски агенти са разчитали на него за помощ при кодиране и по-дълбок достъп до системата. Севернокорейските хакери са интегрирали AI в планирането на атаките си, като дори са проучвали теми като криптовалути и военна стратегия.

Въпреки тези опити Google потвърждава, че филтрите за сигурност на Gemini са предотвратили всякаква злоупотреба. Все пак, предвид факта, че само севернокорейските хакери са откраднали $1.3 милиарда в дигитални активи през 2024 г., се очаква ролята на изкуствения интелект в киберзаплахите да нарасне, което поражда опасения за бъдещи уязвимости.