IT@BANK 2021: czy zagraża nam algokracja?

Odnosząc się do problematyki tegorocznej konferencji, Krzysztof Pietraszkiewicz nawiązał do kwestii bezpieczeństwa w cyberprzestrzeni, tym razem koncentrując się na niefrasobliwości czy też braku kompetencji samych klientów.

‒ Zastanawiam się, co możemy zrobić w sytuacji, kiedy mamy znaczącą grupę klientów, którzy w dużej mierze nie rozumieją tekstu, który przeczytali lub usłyszeli – stwierdził prezes ZBP.

Zaapelował też o to, by w toku wdrażania nowych rozwiązań w bankowości pamiętać o potrzebach osób dotkniętych niepełnosprawnością oraz seniorów.

Prezes ZBP przytoczył opinie przedstawicieli organizacji, skupiających osoby z niepełnosprawnościami, którzy nierzadko zwracają uwagę, że dobre i sprawdzone rozwiązania bywają wycofywane lub zastępowane innymi, nie tak korzystnymi dla tej grupy społecznej.

‒ Sukces polskiej bankowości jest w ogromnej mierze następstwem ciągłej współpracy w ostatnich trzydziestu kilku latach pomiędzy środowiskiem bankowym a różnymi osobami z uczelni: ekonomistami, prawnikami informatykami i osobami które zajmowały się telekomunikacją czy logistyką – dodał prezes Krzysztof Pietraszkiewicz, zapraszając key note speakera, prof. Jana Krefta z Katedry Zarządzania Politechniki Gdańskiej.

Czytaj także: IT@BANK 2021, deficyt talentów do współpracy z AI w sektorze finansowym

Złudna wiara w algorytmy

„Wiem, że nic nie wiem” – te słowa, przypisywane Sokratesowi, zdają się w największym skrócie zawierać przesłanie zawarte w wystąpieniu prof. Jana Krefta.

Już na samym początku zapowiedział, iż prezentacja będzie mieć charakter swoistej prowokacji, a to z uwagi na podejście do kwestii algorytmów, obalające powszechne przeświadczenie, jakoby sztuczna inteligencja stanowiła panaceum na problemy współczesnych społeczeństw, czy też gospodarek.

Znaczenie AI we współczesnym świecie bywa mocno przeceniane

Prelegent podkreślał wielokrotnie, jak błędne jest założenie, iż algorytm stanowi jedynie abstrakt technologiczny, oderwany od naszych codziennych stereotypów i uprzedzeń.

W istocie programy te tworzone są przez ludzi, także w procesie uczenia maszynowego korzystają z zasobów generowanych przez poszczególne jednostki, jak i całe społeczności, nie sposób zatem, by w mniejszym lub większym stopniu nie przesiąkły tymi cechami.

Dodatkowo należy pamiętać, iż znaczenie AI we współczesnym świecie bywa mocno przeceniane – przestrzegł prof. Kreft, dodając, że nie każde wdrożenie określane jako bazujące na sztucznej inteligencji, jest takowym w istocie. Faktycznie systemom IT wciąż trudno nadążyć chociażby za takimi zadaniami, jak przetwarzanie języka naturalnego.

W tym kontekście utopijny jest tzw. solucjonizm, czyli myślenie, jakoby algorytmy były w stanie zapewnić wolność od ludzkich błędów. Rzecz w tym, że niektórym osobom szerzenie takiego wizerunku jest na rękę – dzięki niemu wszak co poniektórzy usiłują uchylać się od odpowiedzialności za podejmowane działania.

Przykładem może być sytuacja w sektorze bankowym, gdzie kiedyś wydanie decyzji kredytowej było uzależnione od konkretnego pracownika i jego kompetencji. Dziś ten sam doradca otrzymuje zagregowane dane w formie niejako gotowej rekomendacji, na podstawie której podejmuje ostateczną decyzję.

W większości przypadków taka zdalna obsługa wydaje się być korzystna dla obu stron, gorzej, jeśli konsument nie zgadza się ze stanowiskiem wydanym przez instytucję finansową, a właściwie przez algorytm.

Robot zrobi z ciebie mafiosa?

Jeszcze więcej wątpliwości budzą próby wykorzystania AI w celu przeciwdziałania przestępczości. Prof. Kreft wskazał tu przykłady takich rozwiązań jak systemy rozpoznawania twarzy, które już obecnie aktywowano w monitoringu miejskim np. w Moskwie.

Nie jest to tylko domeną Rosji – około 15 państw UE aktywnie stosuje technologie biometryczne do monitorowania swych obywateli, co nie spotyka się z ich aprobatą.

Bycie śledzonym przez inteligentne systemy jest w stanie zaakceptować jedynie 9% Polaków i Niemców, i 10% Włochów. Nic zatem dziwnego, że europejski inspektor ochrony danych osobowych wzywa do wprowadzenia zakazu wykorzystywania sztucznej inteligencji w tych celach.

Wątpliwości budzą próby wykorzystania AI w celu przeciwdziałania przestępczości

Są i bardziej szokując wizje, jak choćby możliwość użycia AI w celu przewidywania, kto mógłby w przyszłości stać się sprawcą przestępstwa, co już w rażący sposób koliduje z ochroną wolności obywatelskich.

Obok oczywistych zarzutów z punktu widzenia konstytucyjnego rozwiązanie takie pozwalałoby na śledzenie milionów zwykłych ludzi tylko po to, by ująć kilku czy kilkunastu gangsterów.

Wszystkie te przykłady pokazują, jak słuszne jest przywołane przez prelegenta stwierdzenie genialnego pisarza, Umberto Eco, że „każdy problem ma swoje proste rozwiązanie, i zawsze jest ono błędne”.

Czytaj także: Europejska Federacja Bankowa i SAS pomagają bankom przeciwdziałać przestępstwom finansowym