Jak sztuczna inteligencja zmienia cyberbezpieczeństwo: szanse i nowe zagrożenia?
Sztuczna inteligencja odgrywa coraz większą rolę w cyberbezpieczeństwie. Z jednej strony pomaga firmom szybciej wykrywać podejrzane działania, analizować zagrożenia i reagować na incydenty. Z drugiej daje cyberprzestępcom nowe możliwości, od tworzenia bardziej przekonujących wiadomości phishingowych po podszywanie się pod pracowników i przełożonych za pomocą technologii deepfake.
Samo zagrożenie związane z AI nie ogranicza się tylko do działań cyberprzestępców. Ryzyko pojawia się również wewnątrz organizacji, między innymi w związku z udostępnianiem poufnych danych publicznym chatbotom czy możliwością manipulowania firmowymi narzędziami AI. Dlatego coraz ważniejsze staje się nie tylko wykorzystywanie sztucznej inteligencji do ochrony systemów, ale także świadome zarządzanie zagrożeniami wynikającymi z jej stosowania.
Jak AI pomaga chronić firmę?
Sztuczna inteligencja pomaga chronić markę przesiewając logi i alerty, których zespół nie jest w stanie przejrzeć ręcznie, i wskazuje te, które wymagają reakcji.
| Zadanie | Co robi AI? | Co zostaje po stronie człowieka? |
|---|---|---|
| Wykrywanie anomalii | Wskazuje nietypowe zachowania, np. logowanie z nowego kraju w nocy. | Ocena, czy to atak. |
| Triage alertów (segregacja alertów) | Łączy powiązane alerty i nadaje im priorytet. | Decyzja o eskalacji. |
| Ochrona poczty i komputerów | Wyłapuje podejrzane wiadomości i zachowania programów. | Konfiguracja reguł. |
| Reagowanie na incydenty | Automatycznie izoluje stację albo blokuje konto. | Zatwierdzanie działań o dużym wpływie. |
Według raportu IBM Cost of a Data Breach 2024 firmy, które szeroko stosowały AI i automatyzację w bezpieczeństwie, płaciły za naruszenie średnio o 2,22 mln USD mniej. AI nie zastąpi jednak zespołu. Bez dostępu do logów i bez ludzi, którzy oceniają wyniki, przepuści atak albo zaleje firmę fałszywymi alarmami.
Jak przestępcy wykorzystują sztuczną inteligencję?
Przestępcy wykorzystują AI głównie do ataków, które już znamy, tylko szybciej i bardziej przekonująco:
- Phishing bez błędów. Poprawna polszczyzna i ton dopasowany do odbiorcy. Literówki przestały ostrzegać.
- Deepfake. Głos i obraz podrobione na podstawie publicznych nagrań, np. wywiadu czy webinaru.
- Szybsze rozpoznanie celu. Automatyczne zbieranie informacji o firmie i pracownikach.
- Pomoc przy złośliwym kodzie. Obchodzenie zabezpieczeń publicznych modeli albo modele bez ograniczeń.
Znajomy głos ani poprawna wiadomość nie potwierdzają więc tożsamości. Pilne przelewy i zmiany numerów kont warto weryfikować innym kanałem.
Jakie ryzyka AI tworzy wewnątrz firmy?
- Wycieki danych (shadow AI). Pracownicy wklejają umowy, dane klientów czy kod do publicznych chatbotów. Samsung ograniczył korzystanie z generatywnej AI w 2023 roku, po tym jak inżynierowie wkleili do ChatGPT poufny kod.
- Prompt injection. Polecenie ukryte w mailu albo dokumencie może skłonić firmowego asystenta AI do działania na korzyść atakującego. OWASP stawia to zagrożenie na pierwszym miejscu listy Top 10 dla aplikacji opartych na modelach językowych.
- Zbyt szerokie uprawnienia. Asystent AI podłączony do poczty i plików powinien mieć tylko taki dostęp, jakiego potrzebuje.
- Ślepe zaufanie. Kod i konfiguracja wygenerowane przez AI mogą zawierać luki bezpieczeństwa.
Sam zakaz łatwo obejść prywatnym kontem. Lepiej działa jasna polityka: które narzędzia są dozwolone, jakich danych nie wolno do nich wklejać i kto zatwierdza nowe integracje.
Jak wdrożyć narzędzia bezpieczeństwa z AI?
Narzędzia ochrony bezpieczeństwa korzystana i działania w obrębie sztucznej inteligencji należy rozpocząć od samego problemu, nie od etykiety „AI-powered”. Dobrze prowadzone wdrożenia narzędzi bezpieczeństwa obejmują:
- Cel: jakie zagrożenia narzędzie ma wykrywać i które systemy chronić.
- Dane: logi z poczty, kont, serwerów i chmury, bez których AI nie ma czego analizować.
- Kalibrację: progi i reguły dopasowane do firmy, żeby ograniczyć fałszywe alarmy.
- Reakcję: kto obsługuje alerty i co system robi sam.
- Test: czy narzędzie wykrywa symulowany atak.
- Przegląd: sprawdzanie skuteczności po zmianach w środowisku.
7 pytań do zespołu IT w zakresie bezpieczeństwa w erze AI
- Czy nasze narzędzia bezpieczeństwa wykorzystują AI, a jeśli tak, to do czego?
- Kto przegląda alerty i ile z nich okazuje się fałszywymi alarmami?
- Z jakich narzędzi AI korzystają pracownicy i czy mamy na to zasady?
- Jakich danych nie wolno wklejać do publicznych chatbotów?
- Do jakich systemów i danych mają dostęp nasze asystenty AI?
- Jak potwierdzamy pilne przelewy i zmiany numerów kont?
- Czy pracownicy wiedzą, że głos i wideo da się dziś podrobić?
Brak jasnej odpowiedzi na powyżej wymienione pytania nie oznacza incydentu. Pokazuje jednak, od czego zacząć.
Podsumowanie: AI wzmacnia tego, kto lepiej ją wykorzysta
Sztuczna inteligencja nie zmieniła zasad cyberbezpieczeństwa, tylko ich tempo, i to po obu stronach. Tenesys pomoże dobrać i wdrożyć narzędzia bezpieczeństwa dopasowane do Twojego środowiska, podłączyć je do właściwych danych i ustalić, kto reaguje na alerty.
Należy zatem zadać sobie pytanie, czy narzędzia z wbudowaną sztuczną inteligencją wykryją atak, który ona sama pomogła przygotować.