Eurogrupa włączyła sztuczną inteligencję i cyberbezpieczeństwo do rozmowy o gospodarce oraz finansach cyfrowych. Sam fakt, że temat trafił do ministrów finansów, nie tworzy nowego prawa. Pokazuje jednak zmianę perspektywy: AI jest już nie tylko sprawą laboratoriów i firm technologicznych, ale częścią stabilności systemu finansowego.
Trzy scenariusze dla AI w finansach
Pierwszy scenariusz jest optymistyczny. Modele pomagają wykryć podejrzaną transakcję, uporządkować dokumenty, szybciej odpowiadać klientowi i szukać ryzyk w ogromnej liczbie danych. W takim zastosowaniu AI nie musi podejmować ostatecznej decyzji; może skrócić drogę człowieka do informacji, którą i tak powinien ocenić.
Drugi scenariusz jest trudniejszy. Model wykorzystany do oceny klienta może powielać nierówności ukryte w danych historycznych albo reagować źle na sytuację, której wcześniej nie widział. W finansach problemem nie jest tylko to, czy wynik jest skuteczny średnio. Jest nim też pytanie, czy da się wyjaśnić odmowę, zakwestionować ją i naprawić błąd, zanim dotknie setek tysięcy osób.
Trzeci scenariusz dotyczy bezpieczeństwa. AI może pomóc obrońcom szybciej wykrywać anomalie, ale pomaga również przestępcom tworzyć bardziej wiarygodne oszustwa, podszywać się pod głos lub automatyzować rozpoznanie celu. Sektor finansowy ma tu szczególną odpowiedzialność, ponieważ zaufanie klienta można stracić jednym udanym oszustwem, a odzyskuje się je latami.
Prawo do wyjaśnienia jest częścią bezpieczeństwa
Dobra regulacja nie powinna wymagać, by każdy model był prosty jak kalkulator. Powinna jednak wymagać, by instytucja wiedziała, gdzie model działa, jakie dane wykorzystuje, kto jest właścicielem decyzji i co dzieje się, gdy system zawiedzie. Człowiek w procesie ma sens tylko wtedy, gdy naprawdę może zatrzymać decyzję, a nie jedynie potwierdzić ją jednym kliknięciem.
Dla klienta najważniejszym testem będzie przejrzystość. Czy wie, że rozmawia z automatem? Czy może poprosić o kontakt z człowiekiem? Czy zrozumie, z jakiego powodu jego sprawa została odrzucona lub oznaczona jako ryzykowna? Technologia może skrócić czas oczekiwania, ale nie powinna skracać prawa do wyjaśnienia.
Do Sedna: AI w finansach będzie wartościowa wtedy, gdy zwiększy zdolność systemu do wykrywania ryzyka bez odbierania ludziom możliwości odwołania i zrozumienia decyzji. Szybkość jest zaletą, ale w sektorze zaufania nie może być ważniejsza od możliwości zatrzymania błędu.