ENISA opublikowała w lipcu zestaw materiałów o cyberbezpieczeństwie w erze modeli frontier AI. Agencja nie opisuje jednej konkretnej katastrofy. Zamiast tego wskazuje, że nowe systemy mogą wzmacniać istniejące zagrożenia: przyspieszać rozpoznanie celu, tworzenie kodu, socjotechnikę i automatyzację rutynowych działań.

Nie trzeba czekać na autonomiczny atak

Ważne jest słowo 'mogą'. Model językowy nie zamienia automatycznie każdego użytkownika w sprawcę włamania. Potrzebne są dane, narzędzia, dostęp i decyzje człowieka. Błędem byłoby jednak czekać na dowód w postaci pełnej autonomii. W praktyce duża część szkody może wynikać z obniżenia progu dla wielu mniejszych nadużyć.

Ta sama technologia pomaga też obrońcom: może porządkować alerty, szukać anomalii, wspierać analizę kodu i przyspieszać odpowiedź na incydent. Problem polega na asymetrii. Firma wdraża narzędzie w środowisku, za które odpowiada. Atakujący potrzebuje tylko jednej słabej konfiguracji, jednego pracownika, który uwierzy w dobrze napisaną wiadomość, albo jednego niezałatanej luki.

Wdrożenie modelu jest decyzją o uprawnieniach

Dlatego bezpieczeństwo AI nie jest wyłącznie sprawą twórców modeli. Dotyczy też organizacji, która podłącza model do dokumentów, poczty, kodu lub systemów klientów. Wtedy kluczowe stają się uprawnienia, rejestry działań, testy przed wdrożeniem i możliwość szybkiego odcięcia dostępu. Model może być świetny w streszczaniu, ale nie powinien przez przypadek dostać prawa do podejmowania nieodwracalnych decyzji.

ENISA podkreśla rolę władz, obrońców i dostawców usług. To trafne, ale nie zwalnia mniejszych firm z podstaw. Wiele incydentów nie zaczyna się od wyrafinowanej AI, tylko od słabego hasła, braku wieloskładnikowego logowania, nieprzeszkolonego pracownika albo kopii zapasowej, której nikt nie sprawdzał. Nowa technologia podnosi stawkę za stare zaniedbania.

Najlepszą odpowiedzią nie jest zakaz używania modeli, lecz ćwiczenie konkretnych scenariuszy. Co dzieje się, gdy ktoś prosi asystenta o dane klienta? Kto zatwierdza połączenie z zewnętrznym narzędziem? Jak rozpoznać, że wygenerowany raport zawiera fałszywe założenie? Te pytania są mniej efektowne niż hasło 'AI security', ale prowadzą do decyzji, które da się sprawdzić.

Do Sedna: zaawansowana AI może zmienić cyberbezpieczeństwo nie jednym wielkim przełomem, lecz milionem drobnych przyspieszeń. Organizacja, która dziś wie, jakie dane oddaje narzędziom i kto kontroluje ich uprawnienia, będzie w lepszej pozycji niż ta, która czeka na pierwszą spektakularną porażkę.