Raport Specjalny | Horyzonty Bankowości 2023 | Bezpieczeństwo jest wartością biznesową samą w sobie

„Ja w przyszłości. Zwizualizujemy Twoją przyszłość” – w ten sposób ING za pomocą AI chce zachęcić nas do myślenia o naszej przyszłej emeryturze, do oszczędzania. Czym jest to działanie banku – to zabawa z AI, zabieg marketingowy, czy pierwszy krok mający na celu oswojenie klienta ze sztuczną inteligencją?

– W swoim obecnym kształcie jest to zabieg marketingowy. Cel jest taki, żeby pokazać, że AI, sztuczna inteligencja, a konkretnie algorytmy generatywne poszły mocno do przodu i potrafią generować dobrej jakości obrazy. Chociaż to jedynie czubek góry lodowej obecnych możliwości AI. Dla mnie ciekawe jest to, że ten projekt jest wykonany w zasadzie bez użycia technologii, co pokazuje, że takie projekty są możliwe do wykonania przez tradycyjnie uważane za nietechnologiczne jednostki w organizacji

„Bez użycia technologii”- co rozumieć pod tym sformułowaniem?

– Bez technologii w rozumieniu zaangażowania ludzi, którzy zajmują się technologią na co dzień, profesjonalnie, którzy zwracają uwagę np. jak projektować i budować skalowalność, dostępność, bezpieczeństwo, architekturę, integrację itd. Nagle ta technologia i gotowe platformy stają się dostępne i proste w obsłudze. Jednocześnie nie ma tam danych poufnych, nie ma danych klientów – to nie jest system bankowy. Natomiast otwartość tychże platform pokazuje, że są dostępne dla każdego, że ktoś, kto AI nie zajmuje się na co dzień, może z nich korzystać. Ten trend będzie bardzo mocno szedł dalej. Początki sztuki cyfrowej to lata 60., sztuka generatywna to też przeszłość. Jestem ciekaw, jak to się wszystko dalej potoczy, szczególnie na styku sztuki, pisarstwa, beletrystyki, inżynierii materiałowej itd. To będzie niesamowite, i to w krótkim okresie.

W kontekście twórczym, kulturowym – wystarczy się wybrać do Centrum Nauki Kopernik, żeby zobaczyć na jednej z wystaw twórczość sztucznej inteligencji na podstawie tysięcy zgromadzonych w sieci utworów muzycznych. Czy to jest tylko przetwarzanie tego, co już powstało, czy sztuczna inteligencja zaczyna wychodzić do przodu – to nie człowiek jest elementem napędzającym, tylko ona sama z siebie, np. na gruncie pisarskim zaczyna tworzyć coś nowego?

– To już się dzieje. Pewnie jeszcze trudno zaobserwować to w sztuce (przynajmniej mnie, laikowi), ale w inżynierii materiałowej, np. przy projektowaniu samochodów, w tym doborze właściwej konstrukcji i materiałów, aby optymalizować zużycie materiałów, a w razie wypadku zwiększyć bezpieczeństwo pasażerów. Obecnie AI jest w stanie zaprojektować znacznie lepszą konstrukcję niż człowiek. To są nowe rzeczy, które się dzieją na naszych oczach.

Ostatnio jeden z inżynierów Google został zwolniony, ponieważ ujawnił, przy okazji swoich prac związanych z testowaniem oprogramowania AI, że sztuczna inteligencja może mieć uczucia. Jak twierdzi – kody, które zostały zapisane, pokazują, że w AI te uczucia naprawdę mogą być. Czy to nie jest tak, że AI zaczyna się nam wymykać, że zaczynamy przekraczać pewną barierę?

– Rzeczywiście postęp w tej materii jest bardzo szybki. Nie wiem, czy tracimy kontrolę nad tym procesem, ale myślę, że powinniśmy się temu bardzo mocno przyglądać. Nie mówię, że powinniśmy AI uregulować, nie o to chodzi. Jednak sądzę, że czeka nas sporo dyskusji na ten temat w najbliższej przyszłości.

Jeśli nie regulacje, to co? Jak stawiać pewne bariery?

– Bankowość w tym zakresie jest dość prosta, bo my jako bankowcy musimy się upewnić, że dostęp do usług bankowych jest równy dla wszystkich. I to jest kluczowy element projektowania takich algorytmów. Gorzej będzie tam, gdzie zaczynamy dotykać obszarów uważanych za typowo ludzkie – dla przykładu, kreatywności, odpowiedzialności, miłości czy religii i jak, i czy przenosić to do strefy maszyn, czegoś sztucznego. Na razie AI nie ma samoświadomości i intuicji. Nie znam odpowiedzi na pytanie, jaką postawić barierę i jak to zrobić, ale będę bacznie śledził badania w tym obszarze.

Pójdźmy w stronę bardziej bankową. Wiele osób zastanawia się, jak w ING wygląda sam proces badań, tworzenia rozwiązań związanych ze sztuczną inteligencją. Czy macie w banku taki zespół, który pracuje nad rozwiązaniami AI, czy raczej zespół, który przeszukuje sieć w poszukiwaniu najbardziej kreatywnych rozwiązań, tak aby je do bankowości przystosować, czy może jest jakaś trzecia droga?

– Bank od wielu lat pracuje w strukturze złożonej adaptacyjnej, dynamicznej sieci. Taki model organizacji jest ważnym elementem w dzisiejszym świecie, bo jedynym czynnikiem warunkującym sukces organizacji jest jej możliwość szybkiej adaptacji. To wymaga decentralizacji władzy, pewnej autonomiczności jednostek i w taki też sposób jest wdrażana AI. Poszczególne jednostki (tribe’y), które zarządzają produktami bankowymi są odpowiedzialne za to, żeby kreować pomysły i wdrażać je w dowolnej strefie innowacji, czy też nowych produktów. Technologia w tym znaczeniu to centrum kompetencyjne, które służy do ustanawiania standardów, narzędzi, dawania bazy – platformy dla tribe’ów produktowych czy biznesowych, żeby mogły na tym budować już konkretne rzeczy dla naszych klientów. Oczywiście czerpiemy praktyki i wzorce z rynku, chyba każda firma to robi, co nie oznacza, że każdą technologię wdrażamy. Bo może być to jeszcze np. mocno niedojrzałe rozwiązanie, aby w takiej instytucji jak bank mogła zaistnieć na ten moment.

Czy to odbywa się z poziomu banku matki?

– Nie ma centralnego sterowania. Natomiast mamy cały ekosystem – dobrze jest się wymienić doświadczeniami, np. co się u naszych sąsiadów dzieje. Dobrze jest również współpracować z partnerami zewnętrznymi. To jest obszar wielowątkowy. W ramach struktur Pionu Technologii w banku mamy powołanego Tech Leada, który odpowiada za AI, ale nie jest tak, że osoba ta centralnie steruje tym, co jest wykonywane w banku, ona raczej prowadzi chapter, czyli strukturę wirtualną zrzeszającą data scientists, product ownerów itd., którzy wspólnie pracują nad tym, żeby pewne rozwiązania wdrażać. Taka struktura jest również ważna, bo pozwala uniknąć sytuacji odkrywania koła na nowo przy okazji wytwarzania oprogramowania i modeli. Bo tempo wdrożeń jest piekielnie ważne.

ChatGPT – jak się pierwszy raz pojawił, jak pierwszy raz go pan użył – czy było takie wielkie wow, czy raczej nie było to zaskoczenie, że jesteśmy tak daleko?

– Przepraszam, nie chcę zabrzmieć zuchwale, ale zaskoczenia nie było. Jestem z wykształcenia fizykiem i miałem przywilej pracować z prof. Wodzisławem Duchem, który, jak państwo wiecie, jest absolutnym innowatorem w tym zakresie. 20 lat temu AI już istniało – chociaż oczywiście algorytmy były mniej złożone i moc obliczeniowa znacznie mniejsza. W kontekście ChatGPT niesamowite są jednak informacje o wielkości sieci neuronowej. Niemniej jednak to, co dzisiaj widzimy w obszarach AI, uważam że jest jedynie preludium do tego, co czeka nas w niedalekiej przyszłości.

Widzi pan wykorzystanie tego chata w bankowości?

– Na dzisiaj ChatGPT nie jest gotowy korporacyjnie, żeby go wdrożyć, ale koncepcje algorytmów uczenia maszynowego, które za nim stoją, są po części używane przez banki, w tym ING.

Które z algorytmów?

– Dużym beneficjentem technologii AI-owych jest cyberbezpieczeństwo, co – jak sądzę – jest dość mocno nieoczywiste. Bo chociażby behawioralne monitorowanie – czy klient, który loguje się do systemu jest rzeczywiście klientem, za którego się podaje, bez bezpośredniego sprawdzania czy rzeczywiście nim jest. Czyli badanie, po procesie profilowania danego klienta, czy jego zachowanie nie odbiega od codziennego zachowania w ramach dotychczasowych prób logowania do serwisów bankowych. To dość trywialny przykład, za którym stoi dużo technologii.

W wyścigu technologicznym czasem będziemy zapominać o cyberbezpieczeństwie. Nie uważa pan, że biznes weźmie górę nad bezpieczeństwem w tym ściganiu się?

– Dla mnie bezpieczeństwo jest wartością biznesową samą w sobie. Z drugiej strony, jako bankowiec nie utworzyłbym usługi bankowej dla klienta, która nie jest bezpieczna. Po  pierwsze, bo bank jest instytucją zaufania publicznego. Po drugie, wdrażanie takiej usługi, gdy klient nie ufa jej, jest bez sensu, bo nie skorzysta z takiej usługi. A my tu jesteśmy dla klientów. Moja odpowiedź to zdecydowane nie.

Informacja z 24 lutego br.: „Banki na całym świecie zapewniają, że identyfikacja głosowa jest całkowicie bezpiecznym sposobem logowania się na konto. Weryfikacja polegająca na możliwości zalogowania się przez telefon przy użyciu głosu jest coraz bardziej powszechna. Niektóre banki reklamują ją jako coś porównywalnego do logowania się za pomocą biometrii naczyń krwionośnych. Dziennikarze z portalu Voice przeprowadzili eksperyment, w wyniku którego udało im się przy pomocy darmowych generatorów głosu przechytrzyć sztuczną inteligencję”. I co pan na to?

– Pamiętajmy o tym, że popularny trend w bezpieczeństwie dotyczy MFA (ang. multi-factor authentication), czyli uwierzytelniania wieloskładnikowego/wielopoziomowego przy użyciu co najmniej dwóch czynników do weryfikacji tożsamości. W dzisiejszych czasach, za pomocą publicznie dostępnych narzędzi, dość łatwo podrobić zdalnie głos. Oczywiście trzeba mieć próbki głosu, wytrenować dostatecznie długo sieć itd. W przypadku biometrii opartej na skanie naszych żył w palcu (każdy z nas ma unikalny wzór) jest to fizycznie dużo trudniejsze. Z głosem jest łatwiej, bo łatwiej uzyskać dostęp do jego próbek.

Zebrałem różne eksperymenty, które robiliśmy w bankowości, np. bankomaty biometryczne – raczej porażka. Potem pojawiły się karty biometryczne – raczej rozwiązanie marketingowe. Czy sztuczna inteligencja, którą znamy dzisiaj, będzie w bankowości bardziej potrzebna do wsparcia procesu biznesowego wewnątrz banku, czy do kontaktu z klientem?

– Tak jest z innowacjami, że ze stu prób czasami wychodzi jedna. Uważam, że rozwiązania technologiczne korzystające z AI będą dalej rozwijać się w kierunku usług dla klienta i interakcji z klientem, czyli wszelkich chatbotów, voicebotów, videobotów, podpowiadaczy, robotów itd. W tzw. jednostkach back office banku automatyzacja, optymalizacja i zmiany przy użyciu AI są w trakcie wdrożeń. Czy klient jakoś odczuje zmiany w tym obszarze? Myślę, że częściowo tak, gdyż kiedy klient w aplikacji mobilnej czy platformie internetowej wykonuje pewną aktywność, oczekuje, że wynik tej aktywności będzie natychmiastowy. Przy obecnych, nie tylko regulacjach, ale też procesach organizacyjnych, nie zawsze ten wynik jest dostępny w czasie rzeczywistym. Jednym z moich pryncypiów strategii technologicznej są operacje bankowe realizowane natychmiastowo – nasi klienci nie chcą czekać.

Bankowość w swojej istocie jest konserwatywna i lepiej by było, gdyby taka pozostała. Gdzie wśród sztucznej inteligencji, robotów, chatbotów itd. powinien znaleźć się człowiek, ten pracownik w okienku, w banku, w oddziale?

– Nie uważam, że banki muszą być konserwatywne. Banki muszą spełniać wymogi regulacyjne i bezpieczeństwa – tak rozumiem konserwatywność. Muszą pełnić rolę instytucji zaufania publicznego oraz dostawcy usług bankowych. Bezpieczeństwo jest taką samą wartością biznesową jak dowolny produkt bankowy. Zatem wdrażanie usług bankowych, które nie są bezpieczne, mija się z podstawowym celem funkcjonowania banku. Bank bez właściwych mechanizmów bezpieczeństwa traci reputację i zaufanie klienta. Nie wierzę w złowieszcze wiadomości, że w przyszłości zabraknie pracy dla kogokolwiek. Historyczne dane pokazują nam, jak świat ewoluuje i jak zmienia się rynek pracy i kompetencje, ale wszyscy musimy być otwarci na zmiany, żeby uczyć się nowych rzeczy, uczyć się szybciej. Inaczej przyswajać wiedzę – dziś oglądamy filmiki na YouTube, czy robimy webowe szkolenia. A jutro? Musimy się przyzwyczaić do ciągłej zmiany.