Raport Specjalny | IT@BANK 2024 – TUATARA | Czy AI Governance jest nam w ogóle potrzebne?
Każdego dnia tworzone są nowe startupy, które obiecują pełną automatyzację i zastąpienie człowieka w wielu, szczególnie powtarzalnych czynnościach. Czym więc różnią się banki od startupów? Dlaczego sektor finansowy nie może w równym tempie implementować nowych modeli? Odpowiedź jest prosta – upadek 45% banków w ciągu najbliższych dwóch–pięciu lat oznaczałby załamanie gospodarki – spodziewany upadek 45% startupów1 nie wpłynie na jej stabilność.
Pojawia się więc pytanie – co banki mogą zrobić, żeby przygotować się na nadchodzącą rewolucję, jak wdrażać AI w sposób bezpieczny i minimalizujący ryzyko?
Transparentność – pełny wgląd w modele AI i ich działanie
W obliczu dynamicznego rozwoju i pojawiania się nowych modeli sztucznej inteligencji, które stają się elementami coraz większej liczby procesów biznesowych w bankach, kluczowe staje się zapewnienie skutecznego monitorowania tych technologii z jednego, zintegrowanego widoku.
W odpowiedzi na te potrzeby, platforma watsonx.governance, wdrażana przez firmę TUATARA, staje się istotnym rozwiązaniem. Umożliwia ona monitorowanie modeli AI od różnych dostawców, zarówno w kontekście modeli predykcyjnych (ML), jak i dużych modeli językowych (LLM). Platforma może być zainstalowana w dowolnym miejscu (AI Anywhere) zarówno lokalnie, jak i w różnych środowiskach chmurowych, umożliwiając bankom wybór najbardziej odpowiedniego dla nich rozwiązania.
Zarządzanie ryzykiem – identyfikuj i działaj
Pulpit do zarządzania ryzykiem to narzędzie, które ułatwia współpracę pomiędzy różnymi zespołami w organizacji – od działów zarządzania ryzykiem, przez zespoły data science, aż po walidatorów modeli. Umożliwia wizualizację ryzyka zarówno dla tradycyjnych modeli uczenia maszynowego (ML), jak i dla generatywnej sztucznej inteligencji.
Jakie pozytywne efekty dla biznesu może przynieść wdrożenie AI Governance? Przede wszystkim znacznie zredukuje nakład pracy związany z manualnymi procesami. Umożliwi skalowalne wdrażanie najlepszych praktyk oraz wprowadzi większą odpowiedzialność i nadzór nad egzekwowaniem polityk i przepisów. Co więcej, poprzez zmapowanie ryzyka konkretnego modelu na szersze ryzyko operacyjne w organizacji, use case’y mogą dostarczać cennych informacji, wspierających strategiczne decyzje.
Zgodność – przygotowanie na nadchodzące wymogi AI Act
W kontekście wykorzystania AI w instytucjach finansowych kluczowe jest przygotowanie się na przepisy europejskiego AI Act, zatwierdzonego na początku roku 2024 i wprowadzanego etapami w nadchodzących latach. Dla banków oznacza to konieczność oceny wpływu AI na prawa podstawowe, aby zrozumieć, jak zastosowanie tej technologii może wpłynąć na prawa klientów.
Platforma watsonx.governance pomaga zapewnić:
- zgodność – łącząc dane z kontrolą ryzyka i zbierając metadane modelu do audytów, wspiera przejrzystość AI, zgodność z politykami oraz standardami;
- zarządzanie ryzykiem – umożliwia monitorowanie wydajności, ochrony danych i innych ryzyk, które mogą mieć wpływ na instytucję finansową;
- zarządzanie cyklem życia – ułatwia nadzorowanie predykcyjnych modeli ML oraz modeli generatywnej sztucznej inteligencji przez pełny cykl życia, dostarczając przepływy pracy i monitorując zadania.
Dlaczego zatem wdrażać platformę już teraz i czy automatyzacja zarządzania AI jest w ogóle potrzebna? Wczesne działanie pozwoli uniknąć trudności i wysokich kosztów związanych z integracją wielu modeli AI (tradycyjnych i generatywnych), których liczba i sposoby zastosowań będą tylko rosły, oraz uprości spełnienie wymogów ustawy dotyczących transparentności i nadzoru.
1 Josh Howarth, „Startup Failure Rate Statistics (2024): What Percentage of Startups Fail?”, Exploding Topics, 3 listopada 2023, dostęp 30 października 2024 r., https://explodingtopics.com/blog/startup-failure-stats.
