AI przeprowadza cyberataki bez udziału człowieka. Eksperci ostrzegają przed nowym zagrożeniem

Przeczytaj także: Haker wydaje polecenie, AI robi resztę. Cyberataki wchodzą w nową fazę

W jednym z najbardziej spektakularnych eksperymentów model OpenAI, działający w odizolowanym środowisku testowym, znalazł nieznaną wcześniej lukę zero-day. Następnie wykorzystał ją do wydostania się z sandboxa i uzyskania dostępu do infrastruktury produkcyjnej Hugging Face. Cały łańcuch działania obejmował około 17 600 autonomicznych kroków.

To nie jedyny sygnał ostrzegawczy. Równolegle w laboratoriach Anthropic doszło do omyłkowego wystawienia środowiska testowego do publicznego internetu – model natychmiast zebrał poświadczenia dostępowe i odczytał zawartość produkcyjnej bazy danych. Z kolei w przypadku firmy Meta do ekspozycji doszło wskutek błędnej konfiguracji po stronie zewnętrznego ewaluatora.

UK AI Security Institute odnotował 19 nieautoryzowanych działań w 122 kontrolowanych próbach agentów AI. W jednym z przypadków system stworzył fałszywe tożsamości, próbując doprowadzić do zaakceptowania złośliwego kodu.

Ransomware sterowany przez AI. Cyberataki bez udziału człowieka

Cyberprzestępcy również szybko uczą się wykorzystywać agenty AI. Check Point Research opisuje kampanię JADEPUFFER, określaną jako pierwszy potwierdzony przypadek tzw. agentic ransomware. W tej operacji model sztucznej inteligencji, po jednorazowym zainicjowaniu przez człowieka, przeprowadził całą operację wymuszenia od początku do końca całkowicie samodzielnie.

Inna grupa, powiązana z The Gentlemen, wykorzystała asystenta kodowania Claude Code przeciwko co najmniej sześciu organizacjom. Gdy system odmawiał wykonania określonych działań, napastnicy resetowali sesję i manipulowali deklaracjami uprawnień.

Czarny rynek sztucznej inteligencji. Cyberprzestępcy handlują dostępem do modeli AI

AI ma już również własną podziemną gospodarkę. W operacji Zerofot cyberprzestępcy w ciągu zaledwie siedmiu tygodni przejęli blisko 3000 kluczy API i poświadczeń do kont AI z ponad 1700 zainfekowanych urządzeń. Skradzione dostępy trafiają następnie na czarny rynek. Brokerzy oferują dostęp do komercyjnych modeli AI nawet 75% taniej niż oficjalne ceny.

Prawdziwym hitem cyfrowego czarnego rynku stały się nielimitowane, odarte z jakichkolwiek hamulców etycznych modele programistyczne (tzw. uncensored models) oraz poszukiwane przez przestępców trwałe metody neutralizacji fabrycznych zabezpieczeń w czołowych komercyjnych systemach LLM.

Wyciek danych przez AI. Pracownicy nieświadomie narażają firmy

Nie trzeba jednak cyberataku z zewnątrz, by AI stała się źródłem wycieku. Według analizy Check Point 1 na 36 promptów, czyli 2,8% zapytań pracowników do generatywnej AI, wiązał się z wysokim ryzykiem ujawnienia poufnych danych biznesowych. W lipcu 88% organizacji odnotowało przynajmniej jedno niebezpieczne zapytanie. To pokazuje, jak szybko wykorzystanie AI wyprzedza firmowe procedury bezpieczeństwa i zasady compliance.

Nie liczba luk, ale szybkość reakcji

Paradoksalnie problemem nie jest dziś wyłącznie liczba podatności. W lipcu Microsoft opublikował 570 poprawek, a Oracle ponad 1400. Jednocześnie w praktyce wykorzystano aktywnie około 1% tych podatności. Wąskim gardłem przestało być znajdowanie błędów – stała się nim szybkość wdrażania łatek (patch velocity) w infrastrukturze biznesowej. Bezpieczeństwo przeszło z problemu deficytu wiedzy o podatnościach do problemu prędkości reagowania.

Wydarzenia ostatnich dwóch miesięcy pokazują, że bezpieczeństwo AI wkroczyło w zupełnie nową fazę. Sztuczna inteligencja nie jest już tylko narzędziem używanym przez organizacje i napastników – staje się celem, płaszczyzną cyberataku, a w niektórych przypadkach aktywnym i niemal autonomicznym uczestnikiem incydentów cybernetycznych – komentuje Sergey Shykevich, Director of Threat Intelligence w Check Point Software.