Raport Specjalny – IT@BANK 2023 | AI | Zagrożeń nie da się wykluczyć

Marcin Złoch

Sztuczna inteligencja ułatwia klientom banków korzystanie z usług. Wykorzystywana jest m.in. w obsłudze klienta i procesach wewnętrznych, a także coraz szerzej w ocenie ryzyka i na potrzeby CRM. Nie tylko ułatwia klientom korzystanie z usług bankowych, umożliwia też przygotowanie dla nich najlepszej oferty. Pracowników banku wspiera w codziennej pracy, wykonując za nich proste i najbardziej czasochłonne czynności. Wpływa na poprawę efektywności i zwiększa bezpieczeństwo w różnych obszarach funkcjonowania banku. Jednak pomimo niewątpliwych zalet sztuczna inteligencja niesie ze sobą także zagrożenia.

Dlatego Parlament Europejski przegłosował stosowne regulacje, tzw. AI Act. Najważniejszą ich częścią są kategorie ryzyka związane ze stosowaniem sztucznej inteligencji – minimalne, ograniczone, wysokie oraz niedopuszczalne. Szczególne znaczenie dla rozwoju systemów AI mają dwie ostatnie. Kategoria wysokiego ryzyka dotyczy sytuacji, w której sztuczna inteligencja może mieć negatywny wpływ na bezpieczeństwo osób i państw (w tym bezpieczeństwo militarne) oraz prawa człowieka i jego wolności.

Z punktu widzenia bezpieczeństwa najważniejsza w AI Act jest kategoria niedopuszczalne ryzyko. Systemy przyporządkowane do niej mają być całkowicie zakazane w Unii Europejskiej. Chodzi o wyjątkowo wrażliwe dane, które mogą być wykorzystane do nadużyć w sferze bezpieczeństwa i praw obywateli. Twórcy AI Act uznali, że poznawczo-behawioralne manipulowanie ludźmi, scoring (klasyfikowanie ludzi na podstawie ich zachowań, statusu społeczno-ekonomicznego lub cech osobistych), a także skanowanie twarzy w czasie rzeczywistym, są niedopuszczalną aktywnością sztucznej inteligencji. W tym ostatnim przypadku unijni urzędnicy zapowiadają pewne odstępstwa, związane głównie ze ściganiem przestępstw.

SI w bankowości

Rosnący wpływ sztucznej inteligencji (SI) niesie nowe wyzwania związane z bezpieczeństwem – zarówno dla banków, jak i ich klientów.

– Bezpieczeństwo danych to od zawsze priorytet w bankowości, ale obecnie w erze SI powinno być zdefiniowane na nowo. Banki powinny skoncentrować się na zabezpieczaniu danych klientów przed atakami hakerów, którzy mogą próbować za pomocą algorytmów SI wyłudzać informacje – twierdzi Paweł Klimiuk, kierownik Zespołu Modelowania AI w Departamencie Analityki Danych PKO Banku Polskiego.

Wykorzystywanie zaawansowanych algorytmów szyfrowania oraz monitorowanie dostępu do danych to kluczowe środki bezpieczeństwa, jakie należy zagwarantować. Ciągły rozwój SI wymaga także nieustannego szkolenia pracowników, by byli świadomi nowych zagrożeń i potrafili zidentyfikować podejrzane działania.

Bardzo ważna jest również edukacja klientów. Kampanie informacyjne w zakresie pojawiąjących się trendów związanych z wykorzystaniem sztucznej inteligencji do nadużyć lub wyłudzeń to ważny element działań podnoszących bezpieczeństwo. Trafna identyfikacja i zatrzymanie problemu po stronie klienta zdecydowanie ogranicza skalę problemów do rozwiązania po stronie banku. Również sama SI może nam pomóc w walce z niepożądanym jej wykorzystaniem. Wykrywanie anomalii za pomocą modeli sztucznej inteligencji, typowanie podejrzanych wzorców zachowań pozwala w pełni zautomatyzować i zabezpieczyć ...