Czy AI zagraża bezpieczeństwu danych? Obawy coraz większe

Przeczytaj także: Jak chronić bezpieczeństwo danych, gdy nawet silne hasło cyberprzestępcy kradną w kilka sekund?

Dane na celowniku

Według raportu PARP „Sztuczna inteligencja w firmach: gotowość do adopcji, kompetencje i potrzeby”, jednymi z największych obaw firm (zarówno tych planujących wdrożenia, jak i już korzystających z AI) są naruszenie ochrony danych firmowych oraz ryzyko błędnych decyzji algorytmicznych (po 39%).

Co ciekawe, perspektywa zmienia się wraz z poziomem wiedzy i doświadczenia. W firmach, które już korzystają z AI, lęk przed wyciekiem danych wzrasta do poziomu 47%. Przedsiębiorstwa obawiają się również wysokich kosztów zabezpieczeń (36%) oraz utraty kontroli nad tym, w jaki sposób algorytmy są tworzone.

Paweł Kulpa, Cybersecurity Architect z Safesqr, zauważa, że największe wyzwania związane z cyberbezpieczeństwem wynikają z nieznajomości tematu i braku odpowiednich procedur w organizacji.

Największym problemem z perspektywy cyberbezpieczeństwa nie jest to, że AI ukradnie dane, ale to, że pracownicy firm karmią algorytmy informacjami wrażliwymi, a firmy nie mają nad tym procesem żadnej kontroli. Do publicznych modeli językowych często wrzucane są poufne dokumenty, na przykład w celu przygotowania podsumowania. Pracownicy nie zdają sobie sprawy, że te dane stają się częścią bazy, na której trenowany jest model językowy.

Ekspert podkreśla, że skuteczną odpowiedzią na te zagrożenia jest połączenie odpowiedniej technologii z jasno określonymi procedurami bezpieczeństwa:

Zdecydowanie lepszym rozwiązaniem jest wdrożenie własnych, lokalnych, zamkniętych modeli AI, które zachowują przepływ danych wewnątrz organizacji oraz połączenie tego z systemami DLP monitorującymi ruch zewnętrzny. Takie narzędzia potrafią wykryć próbę wysłania wrażliwych informacji poza firmę szybciej niż jakikolwiek audytor.

Fundamenty ważniejsze niż innowacje

Gotowość do adopcji AI jest bezpośrednio skorelowana ze stanem infrastruktury IT. Firmy chętniej wdrażają nowe rozwiązania, jeśli dysponują bezpiecznym i stabilnym systemem (44%) oraz nowoczesnym zapleczem technicznym (42%).

Choć 23% badanych już wykorzystuje AI do wykrywania nieprawidłowości, a kolejne 28% planuje takie kroki, wciąż kuleje strona formalna. Jedynie 41% firm wdrażających AI posiada wypracowane kompleksowe procedury bezpieczeństwa.

Procedury

Firmy, które poważnie podchodzą do tematu, stawiają przede wszystkim na edukację oraz wsparcie zewnętrzne. Najpopularniejsze działania ochronne koncentrują się na systematycznym szkoleniu pracowników w zakresie bezpiecznej obsługi systemów AI, co deklaruje 44% organizacji. Równie istotna okazuje się ścisła współpraca z zewnętrznymi ekspertami ds. cyberbezpieczeństwa oraz wdrażanie zaawansowanych środków ochrony przed nieautoryzowanym dostępem do systemów, pozwalające budować wielowarstwową barierę ochronną wokół firmowych zasobów.

Firmy często szukają w AI magicznych rozwiązań, zapominając o higienie cyfrowej – zauważa Paweł Kulpa. – Tymczasem największym wyzwaniem jest fakt, że cyberprzestępcy już używają AI do personalizowania ataków phishingowych na masową skalę. Zanim wdrożymy zaawansowaną sztuczną inteligencję, musimy mieć solidne podstawy: wieloskładnikowe uwierzytelnianie (MFA), efektywnie działające zarządzanie uprawnieniami (IAM), segmentację sieci i jasne procedury reagowania na incydenty.

AI w bezpieczeństwie powinno być drugą linią obrony i systemem, który analizuje anomalie w zachowaniu użytkowników i blokuje je w czasie rzeczywistym, ale tylko pod warunkiem, że pierwsza linia, czyli świadomy pracownik i szczelny system, działa bez zarzutu.

Wnioski dla biznesu

Obawy przed AI wynikają często z braku dojrzałości cyfrowej. Przedsiębiorstwa, które zaczynają od małych, bezpiecznych projektów, w których nie są angażowane dane wrażliwe, szybciej oswajają technologię i budują przewagę konkurencyjną. Kluczem do sukcesu nie jest unikanie AI, lecz postawienie na bezpieczeństwo na każdym etapie jej wdrażania, od szkolenia kadr po regularne audyty.

Raport „Sztuczna inteligencja w firmach: gotowość do adopcji, kompetencje i potrzeby” został opracowany przez Polską Agencję Rozwoju Przedsiębiorczości we współpracy z Uniwersytetem Jagiellońskim. Badanie łączy analizę danych zastanych, badania jakościowe oraz szeroko zakrojone badanie ilościowe wśród pracodawców.