EBA o przyznawaniu kredytów z udziałem robota, wykorzystującego ML

Znajdziemy tam wiele cennych wskazówek dotyczących takich aspektów jak ocena różnych kategorii ryzyk czy wymogi w zakresie rozwiązań organizacyjnych (wewnętrznych).

To co jednak zwróciło moją uwagę i o czym chciałbym dzisiaj napisać to rozdział zatytułowany „Technology-enabled innovation for credit granting”.

Pokazuje on, że przed technologią w usługach finansowych nie da się już uciec, o czym pisałem m.in. przy okazji rozważań nad zautomatyzowanymi rozwiązaniami do uzyskania scoringu kredytowego. Przejdźmy więc przez rekomendacje EBA.

Same wytyczne w tym zakresie nie są nadmiernie rozbudowane, więc w artykule poruszę kilka aspektów wskazanych przez unijnego nadzorcę w cały dokumencie ‒ zautomatyzowany proces podejmowania decyzji czy infrastruktura danych, co jest niestety trochę rozczarowujące.

Z drugiej strony dość ogólne wytyczne dają większą elastyczność przy wdrażaniu rozwiązań – ważny jest duch, a nie 100% odzwierciedlenie oczekiwań, przy zapewnieniu zgodności z prawem i regulacjami.

I jeszcze ważna uwaga. Wytyczne są istotne, a przynajmniej powinny być nie tylko z punktu widzenia banków, ale również innych podmiotów, które „pożyczają”, w tym coraz popularniejszych platform pożyczkowych.

Czytaj także: Czy sztuczna inteligencja będzie zawierała umowy, zgodnie z prawem?

Co musi zrobić instytucja stosująca nowe technologie?

Kilka rzeczy. Po pierwsze należy uwzględnić w całym procesie zarządzania ryzykiem i procesach kontrolnych, w tym we właściwych procedurach i polityka, te kategorie ryzyk, które są powiązane z określonymi technologiami.

Oznacza to, że musimy uwzględnić nie tylko ryzyka „inherentne” dla ryzyka kredytowego, ale także ryzyka operacyjne czy bezpieczeństwa, bo przecież przykładowo przy stosowaniu Big Data i uczenia maszynowego mamy zupełnie „nowe” ryzyka związane przykładowo z niewłaściwym dopasowaniem danych czy ewentualnym udziałem podmiotów trzecich (cyberbezpieczeństwo).

Czytaj także: W jaki sposób banki oceniają zdolność kredytową w czasach pandemii COVID-19?

EBA rekomenduje tutaj, aby te rozwiązania były dopasowane zarówno do modelu biznesowego, ekspozycji kredytowych oraz złożoności metod (innowacji) stosowanych na danym etapie „kredytowania”.

Dalej EBA rekomenduje, aby zarząd w odpowiedni sposób rozumiał z czego instytucja korzysta, z jakiej technologii i jak wpływa to cały proces udzielania kredytów.

To pokrywa się z metodyką KNF dla członków zarządów i rad nadzorczych. Nie oznacza to więc, że tylko CIO (Chief Information Officer) powinien rozumieć „co tu się dzieje”, ale również pozostali członkowie zarządu, którzy odpowiadają m.in. za realizację strategii czy ryzyko w działalności.

Czytaj także: Nowy dokument KNF: Metodyka oceny odpowiedniości członków organów podmiotów nadzorowanych

Z tym pokrywa się też kolejna rekomendacja, aby instytucja rozumiała „co” stoi za danym rozwiązaniem. EBA wskazuje tutaj, że chodzi o zrozumienie jak działa model, tj. jakie ma możliwości, na jakich założeniach się opiera i jakie ma ograniczenia, a także czy jest „trackowalny” (możliwy do prześledzenia) i audytowalny oraz czy jest odporny na różne manipulacje czy incydenty operacyjne.

Stosowane modele zdaniem EBA powinny być dopasowane do zadań, które mają wykonywać i powinny być monitorowane pod względem efektywności.

Czytaj także: KNF i uprawnienia banków do odmowy świadczenia usług bankowych na rzecz niebankowych instytucji płatniczych

Jakość danych!

Czyli de facto podstawa każdego modelu. EBA bardzo wyraźnie podkreśla jak ważna jest jakość danych, które są wykorzystywane do podejmowania decyzji, na tą kwestię zwraca również uwagę Komisja w swojej Strategii dla danych.

Ma to pozwolić na uniknięcie niepotrzebnych „spięć”. Potrzeba także wdrażania odpowiednich rozwiązań zapewniających poufność, integralność, a także dostępność informacji i systemów. To też obszar, który powinien być odpowiednio zaadresowany w planach BCP.

Unijny nadzorca zwraca również uwagę na to, że efektywność (i w ogóle działanie) modeli powinno podlegać nieustannemu monitorowaniu zarówno w zakresie poprawności działania, jak i jakości danych wyjściowych.

Czytaj także: Czy sztuczna inteligencja będzie zdolna odróżnić dane prawdziwe od nieprawdziwych?

Wymaga to zaprojektowania i wdrożenia odpowiednich środków zaradczych, które pozwolą na reagowanie w odpowiednim czasie, aby – w szczególności – nie pogarszać działania modelu (bardzo ciekawe i sensowne spostrzeżenie!).

EBA wchodzi jeszcze głębiej w modele

I ma pewne wymagania. Jeżeli instytucja stosuje zautomatyzowane modele do oceny zdolności kredytowej i podejmowania decyzji, to poza zrozumieniem modeli, metodologii i ww. elementów, powinna także posiadać:

1. wewnętrzne procedury i polityki wykrywania oraz eliminowania „stronniczości” oraz zapewnienia jakości danych;

2. środki pozwalające na ocenę działania algorytmu;

3. wewnętrzne procedury i polityki odnoszące się do testowania modeli oraz oceny efektywności;

4. mechanizmy kontroli oraz zasady eskalacji, a także jasne zasady dotyczące udziału człowieka w ocenie działalności algorytmów.

EBA podkreśla także, że instytucja powinna posiadać należycie udokumentowane takie elementy jak metodologia, dane wejściowe, sposób i zakres wykorzystania tzw. data outputs i udziału decyzji opartych o zautomatyzowane narzędzia w całym „portfolio” decyzji kredytowych oraz ocenę tego, jak to wpłynęło na działalność kredytową.

Czytaj także: Kiedy sztuczna inteligencja oraz uczenie maszynowe doprowadzą do rewolucji bankowej 4.0?

W kontekście danych EBA podkreśla, że jakość danych to nie tylko ilość różnych elementów w oparciu o które model działa, ale także poziom ich szczegółowości i dostępność danych referencyjnych. Będzie to miało znaczenie nie tylko na etapie przyznawania kredytu, ale również później – przy monitoringu.

Ocena?

Bardzo dobry ruch ze strony EBA. Pokazuje jak niezwykle istotne jest dostosowywanie się do nowych technologii i ich szersze wykorzystanie. Cieszy to, że unijny nadzorca rozumie jak istotne są dane i ich jakość.

Szkoda tylko, że nadzorca nie pokusił się o wyjaśnienie jak należy rozumieć traceability i auditability, bo to bardzo ważne i ciekawe zagadnienia, które mogą spędzać sen z powiek.