Bankowość i Finanse | Technologie – AI | Nie wylać dziecka z kąpielą

Michał Nowakowski
Head of NewTech at NGL Advisory Counsel at NGL Legal

Automatyzacja to obecnie jeden z najbardziej pożądanych i obiecujących procesów technologicznych – i to w wielu obszarach biznesowych. Często utożsamiana ze sztuczną inteligencją (artificial intelligence – AI), oprócz zainteresowania, wywołuje także wiele kontrowersji i wątpliwości. I to zarówno wśród osób postronnych, pracowników, jak i prawodawców – szczególnie w kontekście potencjalnych szkód, jakie może wyrządzić człowiekowi. Nie chodzi wszakże o historie rodem z klasyków kinematografii, jak choćby „Terminator”, ale możliwość – dzięki manipulacjom – negatywnego wpływania na nasze decyzje, zaś w skrajnych przypadkach wywołanie fizycznej szkody, a nawet śmierci – jak może to mieć miejsce w przypadku autonomicznych samochodów.

Próba uregulowania

Kwestie te są na tyle istotne, że zdecydowano się na uregulowanie szerokiego stosowania AI, zwłaszcza w systemach tzw. wysokiego ryzyka (hi-risk). Pod koniec kwietnia Komisja Europejska opublikowała projekt rozporządzenia ustanawiającego zharmonizowane zasady dla stosowania sztucznej inteligencji. Wprowadza on szereg elementów istotnych również z punktu widzenia sektora finansowego, choć oczywiście zakres potencjalnego zastosowania jest znacznie szerszy. Dokument był szeroko konsultowany ze środowiskiem naukowym i biznesowym, a jego publikację poprzedziły prezentacje wielu przyjętych założeń, również tych znajdujących się w białej księdze sztucznej inteligencji.

Rozporządzenie swym zakresem obejmuje wiele obszarów o charakterze publicznoprawnym, znajdziemy tam jednak wiele elementów, które znajdą zastosowanie wyłącznie w sferze biznesowej. Bardzo szeroki jest przy tym krąg zainteresowanych – począwszy od twórców nowoczesnych rozwiązań z użyciem AI, aż do bezpośrednich ich odbiorców oraz organów odpowiedzialnych za nadzór nad prawidłowym wykorzystaniem algorytmów. Nie wolno przy tym – a często tak się dzieje – zapominać, że sztuczną inteligencję buduje się na danych, a na brak przepisów o ich ochronie nie można narzekać.

Nieco przesadzono z traktowaniem algorytmów

Pojęcie sztucznej inteligencji stało się na tyle popularne, że na stałe zagościło w debacie publicznej, ale także samej legislacji, czego przejawem jest choćby omawiane rozporządzenie. A operuje ono bardzo rozbudowaną definicją tego, co możemy rozumieć poprzez AI. Czy to dobrze, czy raczej źle? To zależy od punktu widzenia – z rozporządzenia można bowiem wywnioskować, że systemami sztucznej inteligencji jest także wiele rozwiązań opartych na oprogramowaniu wykorzystującym algorytmy uczenia maszynowego i jemu podobne.

Może się zatem zdarzyć, że wiele rozwiązań mających de facto charakter automatyzacji procesów będzie podlegać wybranym wymaganiom projektowanego rozporządzenia i tym samym generować dodatkowe ryzyko (w&...