Halucynujące chatboty i pułapki hiperpersonalizacji

Sztuczna inteligencja niesie za sobą potencjalne korzyści, ale też istotne ryzyka: brak transparentności, automatyczne decyzje bez kontroli człowieka czy dyskryminację algorytmiczną. O zaletach mówi się dużo i chętnie; o zagrożeniach (rzetelnie) nieco mniej. Lukę w tym zakresie uzupełnia raport Rzecznika Finansowego „AI w finansach”.

Jak zauważa prof. Krzysztof Jajuga, jego współautor, system AI powinien służyć rozwiązaniu konkretnego problemu użytkownika. Jest to ważne, gdy zakładamy, że końcowym jego odbiorcą jest konsument. A jak wiadomo, nie ma systemu AI, który byłby uniwersalny i mógłby być zastosowany dla dowolnego zagadnienia.

„Narzędzie AI jest to z reguły tzw. czarna skrzynka, czyli narzędzie, którego sposób działania nie jest zrozumiały dla konsumenta. Co więcej, może się zdarzyć, że twórca narzędzia nie rozumie problemu, któremu ma służyć dany system AI, jak również nie jest ekspertem w zakresie metod, które są wykorzystywane w systemie AI, a jedynie zna się na stronie czysto technicznej (informatycznej)” – podkreślono w raporcie.

Kreatywny i spersonalizowany

W ocenie eksperta, główne zagrożenia związane ze stosowaniem narzędzi AI można podzielić na te związane z zakresem stosowania narzędzia, czyli m.in. niedostosowanie do oczekiwań konsumenta, brak transparentności czy brak możliwości wyjaśnienia i interpretacji stosowanego rozwiązania; jak również z zakresem jego jakości, co oznaczać może wykorzystanie niewiarygodnych danych oraz niewłaściwych metod w tworzeniu systemu, a także brak jego walidacji.

Jednak największe wyzwanie dla systemów AI wiąże się z sytuacjami, w których system powinien być kreatywny oraz spersonalizowany, czyli w maksymalnym stopniu dostosowany do potrzeb użytkownika.

„Te dwa warunki oznaczają brak skalowalności tworzonych systemów, czyli konieczność poniesienia bardzo wysokich jednostkowych nakładów” – uważają twórcy raportu.

Według nich, spośród wszystkich rozwiązań realizowanych przez AI, z których potencjalnie może korzystać konsument usług finansowych, najbardziej zaawansowane powinny być narzędzia robodoradztwa, wykorzystywane w planowaniu finansowym gospodarstw domowych. Jednak konieczność spełnienia obu powyższych warunków oznacza, że bardzo trudne (jeśli w ogóle możliwe na obecnym poziomie rozwoju) jest stworzenie profesjonalnego systemu pełnego robodoradztwa (bez udziału człowieka pełniącego funkcję doradcy finansowego).

„Wydaje się więc – czytamy – że zdecydowanie większą użyteczność mogą mieć systemy „hybrydowego” robodoradztwa, w których analiza dużej ilości danych z zastosowaniem zaawansowanych metod ilościowych jest przeprowadzana przez AI, która generuje również możliwe rozwiązania, jednak wybór najlepszego rozwiązania jest w gestii doradcy finansowego”.

Bias i halucynacje

Z opracowania dowiadujemy się również, iż szczególnie istotnymi zagrożeniami przy obecnym stosowaniu systemów AI są bias oraz halucynacje.

Bias to uprzedzenie lub skłonność, które mają wpływ na proces uczenia maszynowego. Często wynika ono z niedoskonałości w danych wejściowych, które są używane do trenowania modeli sztucznej inteligencji. Zdarza się to np., gdy dane treningowe są nierównomiernie rozłożone między różnymi klasami w uczeniu nienadzorowanym – model może nauczyć się faworyzować jedną klasę kosztem innych. Przykładem uprzedzenia w bankach może być sytuacja, gdy algorytmy stosowane do oceny zdolności kredytowej faworyzują osoby o określonej płci, rasie, wieku czy pochodzeniu społecznym.

„Trzeba pamiętać, że często wykorzystuje się historyczne dane treningowe, które zostały stworzone przez człowieka i jeśli zawierają treści dyskryminujące, model może nauczyć się i naśladować te uprzedzenia, co prowadzi do niesprawiedliwych decyzji kredytowych” – tłumaczą zjawisko eksperci.

Innym przykładem może być sytuacja, gdy algorytm sztucznej inteligencji faworyzuje osoby o wyższych dochodach, ignorując inne czynniki, które mogą wskazywać na zdolność do spłaty kredytu, takie jak stabilność zatrudnienia czy historia kredytowa.

Halucynacje z kolei, to ...