Nowe technologie w bankowości muszą być wdrażane w oparciu o najwyższe standardy etyczne

Panel był jedną z form reakcji Komisji Etyki Bankowej na pojawiające się coraz częściej w domenie publicznej pytania o etyczne aspekty wdrażania nowych technologii w bankach.

W istocie głównym zagadnieniem jest to, jak prawidłowo wkomponować znane wszystkim w sektorze zasady etyczne w nową architekturę działań i rozwiązań stosowanych w ramach szeroko pojętej digitalizacji usług. 

Panel był prowadzony przez prof. Krzysztofa Koźmińskiego – wiceprzewodniczącego Komisji Etyki Bankowej.

Uczestnikami  dyskusji byli: Marcin Bednarski (dyrektor Departamentu Analityki Danych, PKO BP S.A.), Marek Chochowski (zastępca dyrektora Zespołu Prawa Konstytucyjnego, Międzynarodowego i Europejskiego, Biuro Rzecznika Praw Obywatelskich), prof. Paul Dembinski (Obserwatorium Finansowe w Genewie),  Monika Jachimkowska-Trepka (dyrektor Biura Zgodności Bankowości Transakcyjnej, Bank Pekao S.A.), Paweł Jakubik (EY, przewodniczący Forum Technologii Bankowych), Tomasz Kowalczyk (Bank Gospodarstwa Krajowego, laureat Konkursu Etyka w finansach), Bartłomiej Nocoń (dyrektor, Związek Banków Polskich), prof. Katarzyna Sekścińska (Uniwersytet Warszawski).

Prof. Krzysztof Koźmiński rozpoczął dyskusję od pytania otwierającego skierowanego do Marcina Bednarskiego. Prosząc go o scharakteryzowanie tego w jaki sposób banki już dzisiaj wykorzystują procesy automatyzacji AI w bankach. Uczestnicy otrzymali nie tylko wyczerpującą odpowiedź na pytanie, ale też demonstrację praktycznego wykorzystania tych technologii w Banku PKO BP S.A.

Zobaczyliśmy jak w ułamku sekundy na podstawie polecenia ustnego można zrealizować przelew przy wykorzystaniu aplikacji banku. Pan Dyrektor wskazał też szereg innych zastosowań takich jak: klasyfikowanie reklamacji, klasyfikacja dokumentacji czy ekstrakcja metadanych z dokumentów.

Te wszystkie przykłady odnoszą się do codziennej pracy bankowców, która może w ten sposób być znacząco ułatwiona i przyspieszona, co niewątpliwie jawi się jako ogromna korzyść, nie tylko dla banków, ale też dla klientów dzięki przyspieszeniu niektórych procesów.

Jednocześnie zapytany o najbardziej newralgiczne punkty dotyczące etyki we wdrażaniu AI powiedział, że w zasadzie w jego ocenie etyka jest elementem na stałe zaszytym w mentalność pracowników banku. Wskazał, że sam pamięta swoje zaangażowanie w prace nad rewizją Kodeksu Etyki Bankowej w 2013 r. oraz podkreślił, że ten dokument jest wykorzystywany do walidacji procesów podejmowanych w bankach.

Ważnym teraz jest, aby prawidłowo określić wykorzystanie zasad etycznych do walidacji poszczególnych etapów wdrożeń oraz uwzględnić udział człowieka, który na końcu tego procesu odpowiada właśnie za etyczność wykorzystania technologii.

Połowa Polaków nie wie jak działa AI

W swoich wystąpieniach Pan Dyrektor przywołał badania prowadzone przez prof. Katarzynę Sekścińską, które były dla niego inspiracją do wielu przemyśleń. Dlatego kolejne pytanie prof. Koźmiński skierował właśnie do Pani Profesor.

Prof. Sekścińska nawiązała do przeprowadzonych badań, które pokazują socjologiczną perspektywę percepcji klientów użycia AI w bankowości. Wyniki badań prowadzonych Panią Profesor zostały opublikowane w raporcie przygotowanym w ramach Programu Analityczno-Badawczego Warszawskiego Instytutu Bankowości pt. „AI w finansach i bankowości oczami polskiego konsumenta”.

Wśród kluczowych konkluzji, które są niezwykle ważne dla kształtowania relacji między bankami a ich klientami, prof. Sekścińska wskazała, że połowa Polaków nie wie jak działa AI. Co także niezwykle istotne z perspektywy budowania relacji z klientami sektora bankowego – ponad 60% deklaruje, że nie ma wiedzy na temat prawidłowego zabezpieczania swoich danych w przestrzeni cyfrowej.

Wreszcie warto podkreślić, że ponad 70% Polaków wskazuje, że nie ma jakiejkolwiek pozytywnej emocji związanej z rozmową z chatbotami. Nadal brak kontaktu z człowiekiem nie jest zjawiskiem naturalnym dla klientów instytucji finansowych, pojawiają się obawy o bezduszność rozmowy z botem, że nie będzie odpowiednio szybkiej reakcji.

Nie sposób pominąć innych społecznie ważnych aspektów budzących niepokój w związku z wykorzystywaniem nowoczesnych technologii, a mianowicie obawy o utratę pracy, o bycie zastąpionym przez komputer.

W swoim wystąpieniu prof. Sekścińska wskazała na obszary niepokoju, czy też obaw klientów sektora bankowego, co jednak nie oznacza, że wykorzystywanie tej technologii nie powinno mieć miejsca. Wykorzystywanie nowoczesnych technologii jest szansą i w istocie częścią otoczenia w jakim funkcjonują dzisiaj banki, należy to jednak robić w odpowiedni sposób, uwzględniając ryzyka i niepokoje z tym związane.

Czytaj także: Etyka w finansach dotyczy nie tylko banków

Nowe technologie a prawa podstawowe

Następnie prof. Koźminski poprosił o zabranie głosu Pana Marka Chochowskiego. Kierując do Pana Dyrektora pytanie prof. Koźmiński zauważył, że skoro w dyskursie społecznym i w badaniach wskazywane są potencjalne obszary obaw i niezadowolenia klientów sektora bankowego, to może już jakieś skargi są kierowane do Biura Rzecznika Praw Obywatelskich, wszak dyskutowane zagadnienia jak prywatność, ochrona danych osobowych są ściśle powiązane z prawami podstawowymi.

Pan Dyrektor odpowiadając na to pytanie zarysował zmianę w ogólnej strukturze wniosków kierowanych do Biura Rzecznika Praw Obywatelskich, wskazującą na zmianę w tendencji do identyfikowania przez obywateli tego co publiczne, wraz ze zmianą przedmiotu i trybu w jakim obywatele aktywnie współuczestniczą w tworzeniu rzeczywistości społecznej, akcentując tendencję przechodzenia tej uważności od petycji dot. twardej infrastruktury, przez informację publiczną dot. jawności życia publicznego i obowiązujących w nim procedur i algorytmów, po wnioski w przedmiocie prywatności, przetwarzania danych oraz wolności wypowiedzi w sieci – manifestującej się często w formie prawa do krytyki/kontroli organów władzy publicznej, np. na portalach typu FB.

Z tych przyczyn w dalszej części wypowiedzi Pan Dyrektor wskazał na brak możliwości sprostania dynamicznie zmieniającej się rzeczywistości społeczno-technologicznej w drodze inflacji legislacyjnej, tj. kolejnych interwencji legislacyjnych.

Sytuacja ta rodzi właśnie konieczność zmiany strukturalnej i przejścia od organów nadzoru do meta-organów, tj. w kierunku etyk, polityk i pragmatyk branżowych oraz sektorowych, które powinny być kształtowane w relacji do wolności i praw człowieka, zwłaszcza gdy obejmują one jeden z kluczowych obszarów rozwoju społeczno-gospodarczego, jakim jest sektor bankowy.

W tym celu rozróżniono etykę praktyczną od normatywnej, ze wskazaniem, że najlepszym kontrolerem wykonywania etyk, polityk i pragmatyk branżowych i sektorowych oraz ich dostosowania do dynamiki zmiany społecznej są sami klienci.

Perspektywa ta wymaga jednakże aktywnego zaangażowania aktorów instytucjonalnych w proces budowania świadomości klienckiej wraz z odpowiednio ukształtowanymi i specjalnie powołanymi do tego celu ciałami wewnętrznymi (jak np. Komisja Etyki Bankowej przy ZBP), które będą mogły rozstrzygać podnoszone przez klientów wątpliwości w trybach nie tyle procesowych, ani nawet publicznych, co wewnętrznych – najściślej odpowiedzialnych za etykę instytucjonalną. 

Rozwiązanie to jest najbardziej efektywne, także w sensie administrowania sferą publiczną i także w ujęciu operacyjnym, czy kosztowym. Wymaga jednakże dostrzeżenia fundamentalnej różnicy pomiędzy spektrum wyboru a kończącą proces wyboru – decyzją.

W tym ujęciu transparentność stanowi poszukiwane kryterium etyczne, a jej zwiększanie jest trwałym elementem etyki instytucjonalnej, transparentność stanowi więc kryterium etyczne, tj. kryterium pozostawiające jak największe spektrum wyboru dla i na rzecz podjęcia najdalej podmiotowej, bo najbardziej zindywidualizowanej decyzji po stronie klienta (obywatela).

Dlatego tak niezwykle ważnym są pragmatyki branżowe, dobre praktyki i regulacje typu soft law, które pomogą nawigować działaniem pracowników banków w przypadku wątpliwości co do prawidłowości postępowania.

Podstawowe cechy odpowiedzialnej sztucznej inteligencji takie jak przejrzystość -uzupełniane są właśnie komponentem etycznym, który pomaga zrozumieć czym jest postulat transparentności i jak go osiągnąć. Niezwykle ważnym przy wykorzystywaniu nowoczesnych technologii jest wyważenie interesów, z jednej strony korzyści jakie mają być osiągnięte przez instytucję, a z drugiej korzyści dla klientów.

Czytaj także: Nowoczesne technologie w banku z perspektywy etycznej

AI a ryzyka w sektorze bankowym

Poruszone w dyskusji wątki doprowadziły uczestników panelu do zagadnienia wykorzystania AI w bankowości do konkretnych celów i potencjalnych ryzyk z tym związanych.

Prof. Krzysztof Koźmiński oddał głos Tomaszowi Kowalczykowi – laureatowi 10. edycji konkursu, który w swojej pracy poruszał zagadnienie wykorzystania AI do oceny zdolności kredytowej. Prof. Koźmiński zapytał laureata Konkursu dlaczego właśnie ten obszar wykorzystania AI uznał za szczególnie wrażliwy z punktu widzenia i etyki i relacji z klientami.

Pan Tomasz Kowalczyk zwrócił uwagę, że wykorzystywanie nowoczesnych technologii jest niewątpliwie szansą dla sektora bankowego, ale przy projektowaniu kolejnych rozwiązań należy zwrócić także uwagę na ryzyko reputacyjne. Jeśli trudno zrozumieć jak zapadła konkretna decyzja podjęta w oparciu o algorytm, to w sposób zasadniczy wpływa to na percepcję procesu przez klientów. Ma to także negatywny wpływ na oczekiwaną transparentność działania AI, dlatego tak ważny jest czynnik ludzi i nadzorcza rola człowieka.

W dyskusji Pan Kowalczyk zwrócił także uwagę na jeszcze jeden aspekt – a mianowicie etyczność wykorzystania danych, tj. które dane można, na jakiej podstawie wykorzystywać do analizy indywidualnej zdolności kredytowej. To także niezwykle ważny temat z punktu widzenia etyki i relacji z klientami.

Bank: jak prowadzić ewaluację etyczną działań AI

Następnie prof. Koźmiński oddał głos Monice Jachimkowskiej-Trepka, która zaprezentowała nie tylko doświadczenia Banku Pekao S.A, ale również szerszą perspektywę Komisji Etyki Bankowej, ze względu na pełnioną funkcję wiceprzewodniczącej Komisji.

Prof. Koźmiński poprosił Panią Dyrektor o przybliżenie perspektywy osoby zajmującej się compliance w banku, gdzie na mapie procesu wdrożenia AI pojawia się kwestia etyki i jak prowadzić ewaluację etyczną takich działań.

Odnosząc się do postawionego pytania Pani Dyrektor nawiązała do wypowiedzi przedmówców i również podkreśliła, że AI postrzega jako dużą szansę  dla organizacji, w tym dla podniesienia jakości usług i zwiększenie ich dostępności dla klientów, jednak należy pamiętać, aby wykorzystanie AI było oparte o głębokie poczucie odpowiedzialności organizacji za wykorzystywaną technologię i zapewnienie jej niedyskryminacyjnego charakteru.

Pani Dyrektor zwróciła także uwagę, że niezwykle ważne jest to w jaki sposób jest budowana narracja o AI do klientów. Konieczne jest zapewnienie przejrzystego przekazu, tak aby klienci wiedzieli do jakich celów bank wykorzystuje AI oraz zaadresowanie ich obaw związanych z wykorzystaniem AI. Klienci będą pozytywnie nastawieni do korzystania z nowych narzędzi, jeżeli będą widzieć, iż bank wykorzystuje AI dla zaproponowania im dobrych dla nich rozwiązań.

Ważnym jest, aby dostrzegać i pozwalać dostrzegać innym aspekty pozytywne, np. gdy mówimy o ryzyku redukcji zatrudnienia pomijamy wątek możliwości rozwoju nowych umiejętności przez pracowników i ich rozwoju, ponieważ zawsze będą takie obszary, w których najważniejszy będzie człowiek i będzie on nie do zastąpienia. A czas zaoszczędzony w efekcie realizacji niektórych zadań przez AI pozwoli pracownikom na realizację innych działań.

Mówiąc o budowaniu procesu oceny etyczności wdrażanych rozwiązań Pani Dyrektor podkreśliła, że w przypadku rozwiązań opartych o nowoczesne technologie absolutną koniecznością jest budowanie interdyscyplinarnych zespołów, które patrząc z różnych perspektyw i używając innych narzędzi poznawczych umożliwią holistyczne zbadanie zagadnienia.

Rozmawiając o praktycznych aspektach wdrażania AI w bankowości nie sposób nie wspomnieć o działaniach podejmowanych w ramach Forum Technologii Bankowych działającego przy Związku Banków Polskich.

FTB o zagadnieniach etycznego wymiaru AI w sektorze finansowym

Prof. Koźmiński poprosił Pawła Jakubika – przewodniczącego FTB – o przedstawienie  wątków prac podejmowanych na Forum oraz o wskazanie czy aspekt etyczny pojawia się w ich pracach.

Pan Przewodniczący na początku podkreślił, że w zasadzie można powiedzieć, że ryzyko jest sercem banku, dlatego te nowe aspekty, które zostały przywołane w dzisiejszej dyskusji w istocie są nowym wymiarem czegoś, co jest od zawsze jednym z głównych aspektów uwzględnianych w działalności banku.

Ryzyko związane z wdrażaniem AI w bankowości, w tym komponent etyczny jest dostrzegane i banki podejmując kolejne działania próbują indywidualnie zaadresować tę kwestię.

ZBP na rzecz bezpiecznego wdrażania AI w bankach

Następnie prof. Koźmiński zapytał Dyrektora Bartłomieja Noconia o to jakie działania obecnie podejmuje Związek Banków Polskich i jak wdrażanie AI wpływa na kształt polskiej bankowości.

Pan Dyrektor wskazał, że AI to przyszłość, wykorzystanie nowoczesnych technologii jest przyszłością i polski sektor bankowy nie może nie uczestniczyć w globalnym rozwoju.

Pan Dyrektor zwrócił także uwagę, że ta technologia już istnieje, jest wykorzystywana, dlatego to nie jest pytanie czy tworzyć, rozwijać, wykorzystywać AI, ale jak to robić, tak aby wszyscy na tym korzystali.

Ethics in Finance – międzynarodowa edycja konkursu

Rozważania pojawiające się w Polsce wydają się nie być odosobnione i podobne do tych, które są prowadzone w innych państwach. Na bazie tej obserwacji prof. Koźmiński zwrócił się z pytaniem do prof. Paula Dembinskiego prosząc go o przedstawienie jakie dylematy czy zagadnienia etyczne z tego obszaru pojawiają w międzynarodowej edycji Konkursu Etyka w finansach.

Prof. Dembinski wskazał, że tematy zgłaszane na Konkurs ewoluują. Obecnie coraz więcej prac ociera się o wątki związane z wykorzystywaniem AI. Wśród tematów poruszanych w międzynarodowej edycji Konkursu pojawiają się podobne wątki dotyczące używania danych wrażliwych, odpowiedzialności za decyzje podejmowane przez AI, ryzyko dyskryminacji.

Czytaj także: Znamy laureatów 10. polskiej edycji Konkursu Etyka w finansach

W sesji podsumowującej każdy z uczestników panelu przedstawił swoje końcowe wnioski, które można sprowadzić do wspólnego mianownika: AI jest przyszłością bankowości, a jej wykorzystanie musi przynosić obopólne korzyści dla banków i klientów.

Niezmiennie koniecznym pozostaje nadzorcza rola człowieka, który jest ostatnim ogniwem procesu decyzyjnego.

Z perspektywy etycznej wdrażanie AI powinno bazować na założeniu, że wykorzystanie AI ma sprzyjać klientom i to powinno być kluczem do stworzenia całego procesu zarządzania ryzykiem etycznym.