7 lipca Komisja Europejska opublikowała plan działania dotyczący cyberbezpieczeństwa i sztucznej inteligencji. Dokument ma pomóc państwom, firmom i instytucjom publicznym korzystać z AI, a jednocześnie ograniczać nowe ryzyka. Nie tworzy wszystkiego od zera. Odwołuje się do istniejących ram: AI Act, NIS2, Cyber Resilience Act, DORA i Cyber Solidarity Act.

Jedna technologia, dwie strony

Najprostszy błąd w rozmowie o cyberbezpieczeństwie polega na traktowaniu AI jak jednego narzędzia. Model używany do segregowania zgłoszeń w centrum bezpieczeństwa nie robi tego samego co system wspierający analizę kodu, a jeszcze inaczej działa narzędzie generujące treści. Ryzyko zależy od zadania, danych, dostępu do systemów i od tego, czy człowiek ma czas zatrzymać błędną decyzję.

Po stronie obrony AI może być przydatna przede wszystkim tam, gdzie człowiek jest zasypywany sygnałami. Zespół bezpieczeństwa nie potrzebuje kolejnych tysięcy alarmów, lecz pomocy w ustaleniu, które z nich prowadzą do realnego zdarzenia. Dobrze zaprojektowany system może łączyć informacje i wskazywać priorytety. Nie powinien jednak samodzielnie odłączać krytycznej infrastruktury tylko dlatego, że jego ocena jest prawdopodobna.

Po stronie ataku przewaga polega na skali i szybkości. Fałszywa wiadomość może być lepiej dopasowana do odbiorcy, a analiza publicznie dostępnych danych może pomóc napastnikowi wybrać cel. Nie oznacza to, że każdy atak stanie się automatyczny. Najgroźniejsze są często działania łączące narzędzia z ludzką wiedzą o organizacji, pośpiechu i błędach w procesach.

Automatyzacja potrzebuje hamulca

Komisja zapowiada wzmacnianie zdolności oceny modeli zanim zostaną szeroko udostępnione na rynku UE. To ważne, ale samo testowanie nie jest pieczątką 'bezpieczne na zawsze'. Model może być aktualizowany, trafić do nowego zastosowania albo połączony z systemem, którego twórcy wcześniej nie brali pod uwagę. Bezpieczeństwo musi być procesem obserwacji, zgłaszania problemów i możliwości wycofania ryzykownej funkcji.

Co ma z tego mała organizacja

Dla małej firmy najważniejsze nie będą najpewniej europejskie skróty nazw ustaw. Będzie nim to, czy dostawca narzędzia jasno mówi, jakie dane trafiają do modelu, gdzie są przetwarzane i kto odpowiada za błąd. Organizacja, która wkleja do zewnętrznego narzędzia poufne dane klientów, nie potrzebuje najpierw strategii AI. Potrzebuje prostych zasad dostępu i świadomości zespołu.

Dla urzędów i infrastruktury krytycznej stawka jest jeszcze wyższa. Automatyzacja może skrócić reakcję na incydent, ale też stworzyć nowe pojedyncze punkty awarii. Dlatego człowiek powinien nie tylko 'nadzorować' system w teorii. Musi mieć informacje, uprawnienia i ćwiczoną procedurę, by przejąć decyzję wtedy, gdy model zawodzi.

Do Sedna: najlepsza polityka wobec AI w cyberbezpieczeństwie nie obiecuje, że technologia sama rozwiąże problem. Daje organizacjom narzędzia, zasady i odpowiedzialność. Szybkość modelu jest cenna, ale zaufanie powstaje dopiero wtedy, gdy wiadomo, kto podjął decyzję i jak można ją sprawdzić.