Meta AI ułatwiła hakerom przejmowanie kont. Jak do tego doszło?

Przeczytaj także: Twoje konto zostało zhakowane? Co zrobić po ataku, aby odzyskać kontrolę. Poradnik krok po kroku

Jak doszło do awarii bezpieczeństwa w Meta AI?

W ostatnich tygodniach w mediach pojawiły się informacje o poważnej luce w systemach Meta AI, która umożliwiła cyberprzestępcom przejmowanie kont użytkowników na Instagramie oraz innych platformach należących do Meta. Choć początkowo przypuszczano, że to efekt tzw. halucynacji chatbota, specjaliści ds. cyberbezpieczeństwa szybko zweryfikowali tę teorię.

W rzeczywistości problem okazał się znacznie głębszy. Koncern Meta od dłuższego czasu rozwijał algorytmy sztucznej inteligencji, które miały usprawnić procesy obsługi klienta, w tym resetowanie haseł, zgłaszanie nadużyć czy odzyskiwanie dostępu do profili. Kluczowym potknięciem okazało się jednak nadanie AI realnych uprawnień operacyjnych. Zamiast pełnić funkcję wyłącznie doradczą, system mógł samodzielnie inicjować procedury krytyczne, takie jak zmiana powiązanego z kontem adresu e-mail czy wysyłanie bezpośrednich linków resetujących.

Na czym polegał błąd architektoniczny w systemie Meta?

Eksperci z Check Point Research jednoznacznie wskazują, że sedno problemu nie tkwiło w prostej manipulacji tekstowej (tzw. prompt injection). Awaria miała podłoże czysto procesowe i konstrukcyjne.

• Brak twardych punktów autoryzacji: System AI podejmował decyzje na podstawie kontekstu i tonu prowadzonej rozmowy, a nie w oparciu o niezależną i rygorystyczną weryfikację tożsamości.
• Uprawnienia wykonawcze: Algorytm posiadał bezpośredni dostęp do funkcji administracyjnych bazy danych.
• Zacieranie granic bezpieczeństwa: Jeśli napastnik brzmiał wystarczająco przekonująco, chatbot uznawał go za prawowitego właściciela profilu i wykonywał krytyczne operacje systemowe.

W praktyce oznaczało to, że tradycyjne i powszechnie stosowane zabezpieczenia – takie jak hasła, dwuskładnikowe uwierzytelnianie (2FA) czy weryfikacja sygnałów urządzenia – mogły zostać całkowicie pominięte, ponieważ sztuczna inteligencja stawała się niezależną „bramką” z pominięciem tych procedur.

W jaki sposób hakerzy przejmowali konta na Instagramie?

Cyberprzestępcy opracowali powtarzalny i skuteczny schemat działania, wykorzystujący podatność wdrożonego agenta AI. Proces ten przebiegał w kilku krokach:

1. Atakujący wprowadzali nazwę użytkownika ofiary, korzystając jednocześnie z sieci VPN, aby sztucznie dopasować swoją lokalizację geograficzną do sygnałów uznawanych przez system za zaufane.
2. Następnie manipulowali systemem analizy twarzy oraz samym chatbotem podczas konwersacji.
3. Pod wpływem perswazji, Meta AI inicjowała zmianę adresu e-mail przypisanego do profilu.
4. System automatycznie uruchamiał procedurę resetu hasła i wysyłał link na nowy, kontrolowany przez hakerów adres, co prowadziło do całkowitej utraty dostępu do konta przez ofiarę.

Ofiarami tych działań padły m.in. profile o bardzo dużej wartości rynkowej i wysokiej rozpoznawalności.

Czym są agenci AI i jakie ryzyko generują dla firm?

Opisany incydent idealnie obrazuje szersze, globalne wyzwanie rynkowe. Przedsiębiorstwa coraz chętniej wdrażają tzw. agentów AI, czyli zaawansowane systemy, które nie tylko generują odpowiedzi na pytania, ale posiadają autonomię i wykonują realne akcje w imieniu użytkowników bądź organizacji. Sytuację tę komentuje Steve Giguere, główny rzecznik ds. bezpieczeństwa AI w Check Point:

Kluczowym problemem niekoniecznie jest to, że AI zignorowała instrukcje lub została zmanipulowana przez sprytny komunikat. Wydaje się raczej, że AI była w stanie zainicjować lub ułatwić wrażliwe działania odzyskiwania kont bez wystarczającej, niezależnej weryfikacji. Innymi słowy, awaria bezpieczeństwa mogła dotyczyć samego procesu, a nie modelu.

Wdrażanie systemów agentowych nakłada na zespoły odpowiedzialne za cyberbezpieczeństwo zupełnie nowe obowiązki. Jak dodaje ekspert:

Sztuczna inteligencja nie musi być narażona na ataki, jeśli otrzyma uprawnienia wykraczające poza zabezpieczenia. W miarę jak organizacje wdrażają coraz więcej systemów agentowych, zespoły ds. bezpieczeństwa muszą oceniać nie tylko to, co sztuczna inteligencja potrafi powiedzieć, ale także to, co potrafi zrobić.

Meta oficjalnie potwierdziła istnienie opisanej luki i wdrożyła już odpowiednie poprawki programistyczne, zabezpieczając konta dotknięte tym procederem. Przypadek ten wywołał jednak poważną dyskusję w sektorze technologicznym na temat granic zaufania i metod projektowania bezpiecznych systemów opartych o sztuczną inteligencję.