Portal technologiczny
Sztuczna Inteligencja

Jak sztuczna inteligencja zmienia cyberbezpieczeństwo: szanse i nowe zagrożenia?

Jak sztuczna inteligencja zmienia cyberbezpieczeństwo: szanse i nowe zagrożenia?

Sztuczna inteligencja odgrywa coraz większą rolę w cyberbezpieczeństwie. Z jednej strony pomaga firmom szybciej wykrywać podejrzane działania, analizować zagrożenia i reagować na incydenty. Z drugiej daje cyberprzestępcom nowe możliwości, od tworzenia bardziej przekonujących wiadomości phishingowych po podszywanie się pod pracowników i przełożonych za pomocą technologii deepfake.

Samo zagrożenie związane z AI nie ogranicza się tylko do działań cyberprzestępców. Ryzyko pojawia się również wewnątrz organizacji, między innymi w związku z udostępnianiem poufnych danych publicznym chatbotom czy możliwością manipulowania firmowymi narzędziami AI. Dlatego coraz ważniejsze staje się nie tylko wykorzystywanie sztucznej inteligencji do ochrony systemów, ale także świadome zarządzanie zagrożeniami wynikającymi z jej stosowania.

Jak AI pomaga chronić firmę?

Sztuczna inteligencja pomaga chronić markę przesiewając logi i alerty, których zespół nie jest w stanie przejrzeć ręcznie, i wskazuje te, które wymagają reakcji.

ZadanieCo robi AI?Co zostaje po stronie człowieka?
Wykrywanie anomaliiWskazuje nietypowe zachowania, np. logowanie z nowego kraju w nocy.Ocena, czy to atak.
Triage alertów (segregacja alertów)Łączy powiązane alerty i nadaje im priorytet.Decyzja o eskalacji.
Ochrona poczty i komputerówWyłapuje podejrzane wiadomości i zachowania programów.Konfiguracja reguł.
Reagowanie na incydentyAutomatycznie izoluje stację albo blokuje konto.Zatwierdzanie działań o dużym wpływie.

Według raportu IBM Cost of a Data Breach 2024 firmy, które szeroko stosowały AI i automatyzację w bezpieczeństwie, płaciły za naruszenie średnio o 2,22 mln USD mniej. AI nie zastąpi jednak zespołu. Bez dostępu do logów i bez ludzi, którzy oceniają wyniki, przepuści atak albo zaleje firmę fałszywymi alarmami.

Jak przestępcy wykorzystują sztuczną inteligencję?

Przestępcy wykorzystują AI głównie do ataków, które już znamy, tylko szybciej i bardziej przekonująco:

  • Phishing bez błędów. Poprawna polszczyzna i ton dopasowany do odbiorcy. Literówki przestały ostrzegać.
  • Deepfake. Głos i obraz podrobione na podstawie publicznych nagrań, np. wywiadu czy webinaru.
  • Szybsze rozpoznanie celu. Automatyczne zbieranie informacji o firmie i pracownikach.
  • Pomoc przy złośliwym kodzie. Obchodzenie zabezpieczeń publicznych modeli albo modele bez ograniczeń.

Znajomy głos ani poprawna wiadomość nie potwierdzają więc tożsamości. Pilne przelewy i zmiany numerów kont warto weryfikować innym kanałem.

Jakie ryzyka AI tworzy wewnątrz firmy?

  • Wycieki danych (shadow AI). Pracownicy wklejają umowy, dane klientów czy kod do publicznych chatbotów. Samsung ograniczył korzystanie z generatywnej AI w 2023 roku, po tym jak inżynierowie wkleili do ChatGPT poufny kod.
  • Prompt injection. Polecenie ukryte w mailu albo dokumencie może skłonić firmowego asystenta AI do działania na korzyść atakującego. OWASP stawia to zagrożenie na pierwszym miejscu listy Top 10 dla aplikacji opartych na modelach językowych.
  • Zbyt szerokie uprawnienia. Asystent AI podłączony do poczty i plików powinien mieć tylko taki dostęp, jakiego potrzebuje.
  • Ślepe zaufanie. Kod i konfiguracja wygenerowane przez AI mogą zawierać luki bezpieczeństwa.

Sam zakaz łatwo obejść prywatnym kontem. Lepiej działa jasna polityka: które narzędzia są dozwolone, jakich danych nie wolno do nich wklejać i kto zatwierdza nowe integracje.

Jak wdrożyć narzędzia bezpieczeństwa z AI?

Narzędzia ochrony bezpieczeństwa korzystana i działania w obrębie sztucznej inteligencji należy rozpocząć od samego problemu, nie od etykiety „AI-powered”. Dobrze prowadzone wdrożenia narzędzi bezpieczeństwa obejmują:

  1. Cel: jakie zagrożenia narzędzie ma wykrywać i które systemy chronić.
  2. Dane: logi z poczty, kont, serwerów i chmury, bez których AI nie ma czego analizować.
  3. Kalibrację: progi i reguły dopasowane do firmy, żeby ograniczyć fałszywe alarmy.
  4. Reakcję: kto obsługuje alerty i co system robi sam.
  5. Test: czy narzędzie wykrywa symulowany atak.
  6. Przegląd: sprawdzanie skuteczności po zmianach w środowisku.

7 pytań do zespołu IT w zakresie bezpieczeństwa w erze AI

  1. Czy nasze narzędzia bezpieczeństwa wykorzystują AI, a jeśli tak, to do czego?
  2. Kto przegląda alerty i ile z nich okazuje się fałszywymi alarmami?
  3. Z jakich narzędzi AI korzystają pracownicy i czy mamy na to zasady?
  4. Jakich danych nie wolno wklejać do publicznych chatbotów?
  5. Do jakich systemów i danych mają dostęp nasze asystenty AI?
  6. Jak potwierdzamy pilne przelewy i zmiany numerów kont?
  7. Czy pracownicy wiedzą, że głos i wideo da się dziś podrobić?

Brak jasnej odpowiedzi na powyżej wymienione pytania nie oznacza incydentu. Pokazuje jednak, od czego zacząć.

Podsumowanie: AI wzmacnia tego, kto lepiej ją wykorzysta

Sztuczna inteligencja nie zmieniła zasad cyberbezpieczeństwa, tylko ich tempo, i to po obu stronach. Tenesys pomoże dobrać i wdrożyć narzędzia bezpieczeństwa dopasowane do Twojego środowiska, podłączyć je do właściwych danych i ustalić, kto reaguje na alerty.

Należy zatem zadać sobie pytanie, czy narzędzia z wbudowaną sztuczną inteligencją wykryją atak, który ona sama pomogła przygotować.