Raport Specjalny | IT@BANK 2024 | Regulowanie inteligencji

Prof. dr hab. Stanisław Kasiewicz
Sekretarz naukowy Alterum Ośrodek Badań i Analiz Systemu Finansowego

Podstawowy tekst Rozporządzenia Parlamentu Europejskiego i Rady z dnia 21 kwietnia 2021 r. ustanawiające zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniające niektóre akty ustawodawcze Unii liczy 50 tys. słów, zawiera 113 artykułów, ma 13 załączników i 180 akapitów. Nie licząc już innych dokumentów, takich jak: ocena wpływu (92 strony), badanie wspierające rozporządzenie (205 stron) i 13 aneksów.

Na dodatek przepisy regulacyjne coraz częściej wymagają oceny przestrzegania przepisów w takich niedookreślonych obszarach, jak: uczciwość, sprawiedliwość, zaufanie, odpowiedzialność czy proporcjonalność zachowań podmiotów regulowanych. Z pewnością do tych nowych kategorii, które pojawiły się w regulacjach rynku cyfrowego, zaliczyć należy wyjaśnialność zastosowanych algorytmów z obszaru AI w bankach.

Kontrowersje wokół istoty i roli wyjaśnialności algorytmów w regulacji EU AI Act

Wyjaśnialność (explainability) ma silne konotacje z takimi terminami, jak: przejrzystość (transparentność), wytłumaczalność, identyfikowalność, odpowiedzialność, interpretowalność czy zrozumienie. Przy tym spotyka się liczne jej definicje. Wyjaśnialna sztuczna inteligencja pomaga opisać model AI i ujawnić potencjalne błędy. Odgrywa również rolę w charakteryzowaniu dokładności, uczciwości, przejrzystości i wyników modelu w procesach decyzyjnych opartych na niej.

Grupa ekspertów wysokiego szczebla (HLEG) utworzona przez Komisję Europejską w 2018 r. określiła, że wyjaśnialność dotyczy „umiejętności wyjaśnienia zarówno kwestii technicznych procesów systemu AI oraz związanych z nimi decyzji ludzkich (np. obszary zastosowań systemu)”. F. Walke, L. Bennek, T. J. Winkler z licznych omawianych definicji cytują taką, że wyjaśnialność opisuje pożądaną właściwość systemu AI, zgodnie z którą czynniki, które doprowadziły do zautomatyzowanej decyzji AI, mogą być zrozumiane przez człowieka.

Europejski Inspektor Ochrony Danych publikuje raport, w którym definiuje wyjaśnialność sztucznej inteligencji (XAI) jako zdolność jej systemów do dostarczania jasnych i zrozumiałych wyjaśnień ułatwiających podejmowanie rekomendowanych działań i decyzji. Jej głównym celem jest zachowanie tych systemów zrozumiałymi dla ludzi poprzez wyjaśnienie podstawowych mechanizmów procesów decyzyjnych.

D. S. Gunning formułuje idealną wersję wyjaśnialności AI, która powinna obejmować umiejętność wyjaśnienia kompetencji i zrozumienia systemu, wyjaśniać przeszłe działania, trwające procesy i nadchodzące etapy oraz ujawnić odpowiednie informacje, na których opierają się jego działania.

Rola wyjaśnialności jest ważna z kilku powodów. Po pierwsze, buduje zaufanie do banków wdrażających produkty AI. Po drugie, pozwala redukować niepożądane ich słabości, takie jak: istnienie uprzedzeń, nieścisłości lub halucynacji (czyli zjawiska polegającego na tym, że generuje ona fałszywe czy wręcz absurdalne odpowiedzi). Po trzecie, ogranicza ryzyko ponoszenia zbędnych kosztów wynikających z wdrażania nietrafionych projektów. Po czwarte, pomaga uzyskać zgodność AI z wymaganiami regulacyjnymi. Po piąte, wzmacnia potencjał konkurowania banków w warunkach przyspieszonej rywalizacji związanej z postępującą drugą falą napływu nowych technologii. Dlatego wskazane jest, aby już na początku procesu określić zakres ...