BankTech 2022: banki wobec regulacyjnych zmian w obszarze nowych technologii

Dr Tadeusz Białek zwrócił na wstępie uwagę, że sektor finansowy stoi w obliczu szeregu zmian technologicznych, które dzieją się równolegle do „tsunami” regulacyjnego. Uczestnikom debaty zadał pytanie, jak banki powinny się do tych zmian odnieść?

Kluczowy dostęp do danych

Dr Michał Nowakowski, nawiązując do opinii prof. Michała Kosińskiego wyrażonej w poprzedzającym debatę firechacie, stwierdził, że nie chodzi dziś tylko o sztuczną inteligencję, o IT, ale o szeroko rozumiany dostęp do danych, które stanowią bardzo ważne źródło informacji oraz innowacji.

Dlatego tak znaczące jest regulowanie tych dziedzin, a w UE rzadko akty prawne wyprzedzają pojawiające się rozwiązania technologiczne i rozwój rynku.

W tym kontekście wymienił projekt rozporządzenia w sprawie operacyjnej odporności cyfrowej sektora finansowego, DORA (Digital Operational Resilience Act). Mówił o propozycji Dyrektywy NIS2, która będzie wprowadzała regulacje dotyczące niektórych elementów istotnych z punktu widzenia cyberbezpieczeństwa.

Żeby szybciej reagować na zmiany, banki powinny zmienić swoją kulturę i większą uwagę zwrócić na tzw. data driven w tym budowanie kultury danych

Te obszary są ze sobą silnie skorelowane i trzeba zastanowić się, czy mamy zmapowane wszystkie takie procesy i wymogi, które albo już są w naszym porządku prawnym oraz regulacyjnym, albo które będą w nim w najbliższym czasie.

Jeśli nie zaczniemy odpowiednio wcześnie wykonywać takich ćwiczeń, to może okazać się, że nie zdążymy i nie jest to tylko sprawa sankcji administracyjnych, ale odpowiedzialności za naszych klientów.

Jeśli nie będziemy wykorzystywać algorytmów, które lepiej niż ludzie potrafią przewidywać, to nie skorzystamy z szansy, żeby tworzyć lepsze, bardziej spersonalizowane i efektywniejsze kosztowo produkty. Jednak to niesie z sobą zagrożenia i trzeba o tym pamiętać.

Żeby szybciej reagować na zmiany, banki powinny zmienić swoją kulturę i większą uwagę zwrócić na tzw. data driven w tym budowanie kultury danych – mówił dr Michał Nowakowski.

Różnicie w amerykańskim i europejskim podejściu do AI

W dalszej części panelu dr Tadeusz Białek podniósł kwestię pojawiających się dyskusji dotyczących nadania osobowości prawnej sztucznej inteligencji.

Jak stwierdził dr Michał Nowakowski, jeśli chodzi o systemy sztucznej inteligencji, to pojawia się w UE kwestia odpowiedzialności, ale dotyczącej kadry zarządzającej tego typu rozwiązaniami. Jak dodał, Komisja Europejska rozpoczęła w minionym roku konsultacje w zakresie ram prawnych dla odpowiedzialności sztucznej inteligencji.

Europa nie będzie liderem w rozwoju sztucznej inteligencji

Jak ocenił prof. Dariusz Szostek, w UE jest inne podejście do rozwoju sztucznej inteligencji niż np. w USA. Unia zdaje sobie sprawę, że dziś 85% rynku SI to USA i Chiny.

Europejskie podejście różni się od amerykańskiego, w którym nie mówi się, kto będzie odpowiadał za algorytmy, a to jest dla nas najważniejsze. Europa postawiła na prawa człowieka.

W odróżnieniu od tego, o czym mówił prof. Kosiński, w Europie wyraźnie zabraniamy weryfikacji tożsamości twarzy. Z tego względu Europa nie będzie liderem w rozwoju sztucznej inteligencji.

Jego zdaniem nie ma sensu dyskutować o odpowiedzialności za sztuczną inteligencję, bo system SI składa się z dziesiątek różnych algorytmów. Dlatego UE musi odnieść się do odpowiedzialności fintechów i systemów korowych banków w zakresie wykorzystania algorytmów.

Jeśli chodzi o nadanie statusu prawnego algorytmom, to zwrócił uwagę, że na przykład zwierzęta nie mają osobowości prawnej, ale mają pewne prawa.

Etyka i moralność w wykorzystywaniu AI

Odpowiadając na pytanie o edukowanie i transformowanie instytucji, prof. Dariusz Szostek zwrócił uwagę, że dziś musimy uczyć się inaczej. Trudno wyobrazić sobie współczesnego prawnika zajmującego się fintechem, który będzie miał wdrożyć smart contracts lub organizację procesów w banku i nie będzie znał podstaw technologii blockchain.

Klasyczne, tradycyjne kształcenie musi pozostać, ale trzeba też zacząć kształcić interdyscyplinarnie.

Budowanie i wykorzystywanie systemów sztucznej inteligencji musi opierać się o podstawowe wartości i zasady

Jakie jest miejsce dla etyki? W ocenie dr. Michała Nowakowskiego w regulowanym sektorze bankowym ważne jest ustalenie norm w zakresie etyki dotyczących nowych technologii.

Należy budować data governance, które przynajmniej będą wspierały tworzenie postaw etycznych. Budowanie i wykorzystywanie systemów sztucznej inteligencji musi opierać się o podstawowe wartości i zasady.

Uzupełniając, prof. Dariusz Szostek zwrócił uwagę, że nie należy mylić etyki z moralnością, bo są to dwa różne pojęcia. Unia Europejska promuje działania, w których akt prawny dotyczy ogółu, a potem musi on być doregulowany, regułami etycznymi. Czyli miękkim prawem.

Branża już teraz powinna przygotowywać się pod względem dobrych praktyk i wypracowania reguł miękkiego prawa.

Jeśli chodzi o obecne wykorzystanie przez sektor bankowy technologii blockchain, to jak stwierdził prof. Dariusz Szostek, nie jest ono duże.

Stwierdził, że technologia blockchain może być wykorzystana do zapisu informacji, w jaki sposób prowadzone było szkolenie wykorzystywanej sztucznej inteligencji (trzeba pamiętać o tzw. efekcie owocu zatrutego drzewa).

Zwrócił też uwagę na nowe pojęcia, które pojawiają się w eIDAS 2.0 np. kwalifikowane rejestry elektroniczne.