Bankowość i Finanse | Technologie | Szara inteligencja

Sztuczna inteligencja zmienia sposób, w jaki nie tylko zdobywamy informacje, ale też pracujemy. Pracownicy, w ramach wykonywania swoich obowiązków, coraz powszechniej korzystają z narzędzi AI. Jednak poza dużymi korzyściami z zastosowania w firmach, intensywny rozwój sztucznej inteligencji, w tym głównie generatywnej AI, niesie za sobą także ryzyka. Wśród nich warto wymienić trend BYOAI (Bring Your Own AI), zwany też shadow AI, kiedy to pracownicy w sposób niekontrolowany zaczynają korzystać z własnych narzędzi AI poza procesami i zasadami obowiązującymi w firmie.

– Z jednej strony takie działanie wpływa na podniesienie produktywności i upraszcza codzienne zadania pracowników, z drugiej strony takie postępowanie niesie za sobą kilka istotnych czynników ryzyka, takich jak niekontrolowane przekazanie danych firmy do narzędzi, które wykorzystują je do własnych celów, takich jak trenowanie modeli lub udostępnianie innym podmiotom – informuje Rafał Kostowski, IT Area Lead – AI, Tribe Aplikacji Operacyjnych, ING Bank Śląski.

Na pierwszy rzut oka takie działania mogą wydawać się nieszkodliwe.

– Jednak gdy działy IT nie są świadome tego, że pracownicy używają sztucznej inteligencji, nie są też w stanie monitorować sposobu jej wykorzystania w organizacji. A to może narazić ją na zwiększone ryzyko wycieku danych czy problemów prawnych – podkreśla Mateusz Ossowski, CEE Channel Manager w firmie Barracuda Networks, która jest producentem rozwiązań z obszaru bezpieczeństwa IT.

Nieuświadomione zagrożenie

Firmy podlegają różnym regulacjom dotyczącym sztucznej inteligencji (m.in. ogólnemu rozporządzeniu o ochronie danych w Unii Europejskiej, czyli RODO). Shadow AI może potencjalnie naruszać polityki i regulacje. Nawet jeśli pracownicy nie łamią prawa umyślnie, mogą narazić firmę na nieprzewidziane kary, konsekwencje prawne czy utratę reputacji. Problemy ze zgodnością pojawiają się również w kontekście polityk prywatności narzędzi AI. Pracownicy nie zawsze zapoznają się z politykami prywatności tych narzędzi, z których korzystają, oraz z ich aktualizacjami. A to może skutkować oskarżeniem o naruszenie regulacji.

Podczas korzystania z chatbotów AI pracownicy mogą nieświadomie ujawnić wrażliwe dane ...