Związek Przedsiębiorstw Finansowych o pracach nad projektem ustawy o systemach sztucznej inteligencji
Projekt ustawy o systemach sztucznej inteligencji jest aktualnie procedowany w Sejmie. Odbyło się już jego pierwsze czytanie. Nowe przepisy mają zapewnić stosowanie w Polsce unijnego AI Act i powołać Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI).
Jako rozporządzenie UE AI Act obowiązuje bezpośrednio, natomiast krajowa ustawa ma określić organizację i sposób sprawowania nadzoru nad rynkiem wykorzystania systemów sztucznej inteligencji oraz nad modelami sztucznej inteligencji ogólnego przeznaczenia.
Czytaj także: Cyberbezpieczeństwo: rząd przyjął projekt ustawy o systemach sztucznej inteligencji>>>
Nadzór na AI i przedsiębiorstwa finansowe
Nowe przepisy będą miały znaczenie nie tylko dla dostawców technologii, ale także dla podmiotów, które już stosują systemy AI w codziennej działalności. W przypadku firm członkowskich ZPF dotyczy to m.in. scoringu kredytowego, analizy ryzyka, monitorowania transakcji, przeciwdziałania nadużyciom, obsługi klienta, zarządzania wierzytelnościami czy dokumentowania decyzji.
W praktyce oznacza to konieczność pogodzenia obowiązków wynikających z AI Act z regulacjami, które już dziś kształtują rynek finansowy, w szczególności w zakresie zarządzania ryzykiem, jakości danych, transparentności procesów czy po prostu dystrybucji produktu finansowego.
Dlatego ZPF podkreśla, że fundamentalne znaczenie będą mieć proporcjonalność, przewidywalność i praktyczne zastosowanie nowych rozwiązań.
„Sztuczna inteligencja już od dawna jest wykorzystywana w procesach analitycznych, operacyjnych i decyzyjnych naszych członków. Jako największa multisektorowa organizacja podmiotów rynku finansowego chcemy, aby procedowana ustawa była adekwatna do realnych praktyk rynkowych i nie tworzyła dodatkowej niepewności dla firm, które już dziś działają w silnie regulowanym otoczeniu.
Naszym celem jest taki model nadzoru nad AI, który wzmacnia bezpieczeństwo klientów, ale jednocześnie pozwala etycznie wdrażać nowe technologie w sektorze finansowym” – podkreśla Marcin Czugan, Prezes ZPF.
Czytaj także: Wiceminister cyfryzacji o AI i o odporności cyfrowej państwa>>>
Potrzebny jasny podział kompetencji pomiędzy organami nadzoru
Projekt przewiduje utworzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI) jako centralnego organu nadzoru.
Do komisji będzie można składać indywidualne skargi na działanie systemów AI, a jej zadaniem będzie także prowadzenie kontroli zgodności technologii z przepisami krajowymi i unijnymi. Komisja będzie mogła również prowadzić postępowania w sprawie naruszeń, nakładać kary finansowe, wydawać decyzje naprawcze oraz wycofywać z rynku systemy niezgodne z AI Act.
Nowy organ ma odpowiadać m.in. za wspieranie bezpiecznego rozwoju innowacji, w tym przez tzw. piaskownice regulacyjne, czyli kontrolowane środowiska testowe dla rozwiązań AI.
Na czele Komisji stanie przewodniczący powoływany przez Sejm za zgodą Senatu. W skład KRiBSI wejdą także jego dwaj zastępcy oraz przedstawiciele wybranych instytucji publicznych, m.in. UOKiK, UKE, KNF i KRRiT. Przy Komisji działać będzie również Społeczna Rada ds. Sztucznej Inteligencji licząca od 9 do 15 członków.
Jednym z postulatów ZPF zgłaszanych podczas prac nad projektem ustawy było doprecyzowanie współpracy i relacji pomiędzy KRiBSI a istniejącymi organami nadzoru nad rynkiem.
To szczególnie ważne, ponieważ sektor finansowy jest już objęty rozbudowanym nadzorem oraz regulacjami dotyczącymi zarządzania ryzykiem, ochrony danych osobowych, bezpieczeństwa operacyjnego, oceny zdolności kredytowej, ochrony konsumentów i przeciwdziałania nadużyciom, podkreśla ZPF.
