Specjaliści AI muszą wyjść ze swoich czarnych skrzynek

Karol Mórawski: Przed nami kolejna edycja wydarzenia BankTech, które w tym roku będzie zdominowane przez wątek AI. Na jakie kwestie Pan Profesor, jako keynote speaker i moderator panelu, chciałby zwrócić szczególną uwagę?

Jan Kreft: Chciałbym skupić się na wątku, który rzadko pojawia się w dyskusjach specjalistów w zakresie nowych technologii. Otóż jeszcze nigdy w historii tak dobrze wykształceni klienci nie stanęli wobec tak wielkiej tajemnicy, i nigdy nie byli wobec niej aż tak bezradni.

Mam na myśli znaną metaforę black box, sformułowaną w 2015 roku przez Franka Pasquale w niezwykle wpływowej wśród badaczy AI publikacji zatytułowanej nieco tabloidowo „Sekretne algorytmy, które kontrolują pieniądze i informacje”.

Chodzi o tajemniczość procesu pozyskiwania informacji i wiedzy za pomocą algorytmu: black box oznacza system o niejasnych dla postronnego widza i badacza założeniach, w którym dostarczone dane podlegają „obróbce”, a uzyskane decyzje i wiedza przyczyniają się do lepszej kalibracji modelu, ale i replikacji nierówności czy selekcji społecznej. Na funkcjonowanie tej skrzynki niespecjalnie mają wpływ nie tylko pojedynczy użytkownicy czy ich grupy, ale nawet rządy czy instytucje finansowe.

W praktyce klient otrzymujący na przykład decyzję bankową nie jest w stanie nie tylko zrozumieć działania banku, ale i sztucznej inteligencji, wykorzystywanej  przez bank. Gdy banki korzystają z AI, dochodzi więc do ich osobliwego kognitywnego „zabetonowania”, a hype towarzyszący rozwojowi sztucznej inteligencji nie pomaga w zrozumieniu jej roli. 

O ile bankowy black box jest trochę złagodzony przez aurę organizacji zaufania publicznego, to sztuczna inteligencja wydaje się zupełnie niepoznawalna. Myślę, że jesteśmy w osobliwym momencie, w którym doszło do domknięcia czarnej skrzynki.

Na czym w takim razie polega owa asymetria zależności?

– To moment, gdy nie dysponujemy jakąś wiedzą i czujemy się całkowicie zależni. Idąc na przykład do lekarza, musimy mu zawierzyć, podobnie w banku powinniśmy ufać, że decyzja została podjęta w imię dobra społecznego i interesariuszy przy użyciu AI, ale nie jesteśmy w stanie ocenić prawidłowości procesu zachodzącego w relacjach między nami a bankiem.

Mamy też do czynienia z dysproporcją środków, człowiek odczuwa brak poczucia kontroli nad tą sytuacją, tymczasem jest ono jedną z najważniejszych potrzeb człowieka, determinujących motywację do działania i interpretacji świata, a także wpływającą na poczucie sprawstwa.

Wówczas pojawiają się tzw. teorie ludowe. Termin ten w obliczu AI oznacza intuicyjne, nieformalne teorie rozwijane przez ludzi w celu interpretacji i nadawania sensu jakiejś sytuacji. Ponieważ ludzie są stawiani w obliczu nieznanego, jakiejś relacji z sztuczną inteligencją, z algorytmami i z bankami, dyskutują na ten temat w mediach społecznościowych, kreując wspomniane teorie ludowe na przykład o cudownych receptach, sposobach dealowania ze sztuczną inteligencją.

Dlatego chciałbym, żebyśmy podczas BankTech podyskutowali z najlepszymi specjalistami w Polsce, jak trochę odsłonić  czarne skrzynki, jak poradzić sobie z chaosem interpretacji. Jak wspomniałem, nigdy w historii nie mieliśmy do czynienia z tak wielką asymetrią. Wnioskujący o decyzję kredytową może po prostu usłyszeć, że algorytm odrzucił albo zaakceptował jego wniosek.

Nie jest to komfortowe, zwłaszcza, kiedy postępom AI towarzyszą nie tylko entuzjastyczne komentarze, ale i lęki oraz przestrogi.

Wiemy, że banki budują swą przewagę na zaufaniu, jak zatem powinny działaćw dobie AI, by nie utracić tego tak cennego atutu?

– Wolałbym, żeby odpowiedzialność za zrozumienie całej sytuacji nie była przerzucona tylko na barki klienta, ale by specjaliści AI też wyszli ze swoich czarnych skrzynek, by po drugiej stronie dostrzegali nie tylko nieświadomego użytkownika, ale i partnera w budowaniu doświadczenia bankowego i zaufania, które jest tu kluczowym elementem, bo im bardziej hermetyczna jest czarna skrzynka, tym niższe jest zaufanie do instytucji.

Bankowcy mogą oczywiście grzać się w aurze swej niezwykłości i obniżać poziom zaufania, ale mogą także uznać, nie tylko pro forma, że partnerstwo jest obiecujące.

Paradoks obecnej sytuacji polega na tym, że sięgamy po rozwiązania AI, które mają zwiększyć efektywność i wydajność, ale im większa efektywność i wydajność, tym black box jest bardziej domknięta i mniejsze zaufanie. Chciałbym, żeby specjaliści od sztucznej inteligencji zerkali niekiedy w stronę humanistyki cyfrowej, bo wówczas znajdziemy się w lepszej sytuacji.

***