W VeloBanku wiedzą jak rozmawiać ze sztuczną inteligencją

W VeloBanku wiedzą jak rozmawiać ze sztuczną inteligencją
Przemysław Koch i Robert Lidke
Udostępnij Ikona facebook Ikona LinkedIn Ikona twitter
„W ostatnim czasie wiele mówi się o zastosowaniu generatywnej sztucznej inteligencji w biznesie. Dość powszechne są opinie dotyczące zaskakujących odpowiedzi jakich udziela GenAI, które czasami mijają się z prawdą. Jak więc zastosować modele LLM w organizacji, by zapewnić oczekiwane efekty, bez obaw o to czy przypadkiem GenAI nie halucynuje? W VeloBanku pracują już pierwsze boty napędzane generatywną sztuczną inteligencją. Zadbaliśmy o to, aby wyniki ich pracy były adekwatne i w żaden sposób nie mijały się z prawdą” – mówił w wywiadzie dla BANK.pl Przemysław Koch, wiceprezes VeloBanku w kuluarach konferencji IT@BANK.

VeloBank wdrożył pierwszego chatbota opartego na generatywnej sztucznej inteligencji (GenAI) już we wrześniu br. Narzędzie jest wsparciem merytorycznym dla doradców banku obsługujących klientów zainteresowanych programem „Bezpieczny kredyt 2%” w oddziałach i za pośrednictwem call center.

Chatbot na bieżąco odpowiada na pytania dotyczące m.in. warunków i procesu wnioskowania o kredyt hipoteczny oferowany w ramach programu, które konsultanci otrzymują od klientów.

To nie są halucynacje

Udostępnienie osobistego asystenta pracownikom VeloBanku poprzedziły kompleksowe testy. W ich ramach, bank wytrenował chatbota i zadbał o adekwatne odpowiedzi, nie mijające się w żaden sposób z prawdą. W trakcie testów pojawiła się obawa, czy przypadkiem chatbot nie halucynuje. Ku zdziwieniu „prompterów” chatbot odpowiedział twierdząco na pytanie, czy klient nie będący obywatelem Polski może w banku ubiegać się o Bezpieczny Kredyt 2%, co de facto jest niezgodne z założeniami oferty.

Zdziwienie było tym większe, że pracując nad chatbotem VeloBank zadbał o odpowiednie jego „schłodzenie”, ustawiając temperaturę działania na „0”. Oznacza to, że nie dopuszcza się w jego działaniu kreatywności.

Okazało się, że podczas trenowania modelu LLM był „karmiony” m.in. wiedzą pochodzącą ze stron Ministerstwa Rozwoju, gdzie można było znaleźć informację o tym, że program rządowy przewiduje także możliwość udzielenia kredytu obcokrajowcowi, natomiast bank w swojej ofercie nie przewidział takiej opcji.

„Odpowiednio przekalibrowaliśmy naszego chatbota, aby ściśle bazował na konstrukcji produktu VeloBanku oraz żeby jego odpowiedzi były zgodne z tym, co oferujemy klientom” – powiedział wiceprezes VeloBanku, zaznaczając, że sztuczna inteligencja jest bardzo pomocna w kontaktach z klientami i pozwala pracownikom zaoszczędzić czas, który musieliby spędzić na przekopywanie się przez dokumentację liczącą nawet setki stron.

VeloBot wspiera VeloMarket.pl

Na pytanie dlaczego bank stawia na GenAI nasz rozmówca odparł, że VeloBank wierzy, że przyszłością bankowości są rozwiązania napędzane technologią i innowacją, rozwiązania z pogranicza fintech i Beyond Banking, gdzie bank buduje relację z klientem pomagając mu mierzyć się z wyzwaniami dnia codziennego. Nawet takimi, które w pierwszym momencie zdają się nie mieć nic wspólnego z sektorem finansowym.

Dlatego też VeloBank nie poprzestał na sukcesie zastosowania GenAI do wsparcia pracy doradców banku. Generatywna sztuczna inteligencja znalazła też „pracę” w VeloBanku w procesie klasyfikacji produktów umieszczanych na platformie VeloMarket.pl.

Narzędzie wspierane przez GenAI ocenia zgodność produktów poszczególnych merchantów umieszczanych na platformie sprzedażowej z wartościami ESG promowanymi przez bank. W wyniku klasyfikacji produktu „VeloBot” generuje opis uzasadniający wybór na podstawie oferowanych przez producenta certyfikatów, wpływu produktu na zdrowie konsumenta i środowisko.

„Nasz VeloBot oceniający zieloność produktów w VeloMarkecie dokonał już klasyfikacji ponad 100 000 produktów. Wkrótce platforma będzie oferowała ich milion. Sprawdzenie tak ogromniej liczby przypadków, stwierdzenie czy nie ma się do czynienia z tzw. greenwashingiem, nie byłoby możliwe bez rozwiązań napędzanych GenAI. Narzędzie samo czyta opisy produktu, weryfikuje dostępne certyfikaty ESG, a także ślad węglowy powstały w procesie produkcji. A to wszystko w tempie niedostępnym nawet dla armii pracowników” – zauważył.

Na pytanie w jaki sposób należy rozmawiać ze sztuczną inteligencją Przemysław Koch wyjaśnił:

„Zastosowane przez nas GenAI bazuje na rozwiązaniach chmurowych. Ma przydzielone określone zasoby obliczeniowe chmury, wyrażane w tzw. tokenach, które przekładają się na zdolność zapamiętywania, czy długość prowadzonej konwersacji. Stąd też pojawiają się pierwsze poradniki, które doradzają, jak rozmawiać z AI, żeby oszczędzać tokeny i uzyskać od chatbota zamierzony efekt. W skrócie należy jasno wyrażać swoje oczekiwania, mówić prosto z mostu, zadawać proste pytania, nie upiększać, nie dziękować, nie przepraszać. Taka konwersacja z GenAI będzie mniej kosztowna i prędzej doprowadzi nas co oczekiwanego celu. Miejmy jednak nadzieję, że taki sposób komunikowania nie opanuje kontaktów międzyludzkich i będziemy odzywać się do siebie, tak zwyczajnie, po ludzku.”

Źródło: BANK.pl