Raport Cyberbezpieczeństwo | Zagrożenia ze strony AI | Sztuczna inteligencja na usługach przestępców

W połowie 2023 r. należąca do Alphabetu firma Mandiant zwracała uwagę, że choć wykorzystanie AI do przestępstw jest ograniczone, to w przyszłości będzie zjawiskiem coraz bardziej powszechnym. Prognozy dotyczące AI wskazywały jednoznacznie, że znaczenie sztucznej inteligencji w działaniach cyberprzestępców będzie systematycznie rosło.

Wystarczył niespełna rok, by – odnosząc się do tamtych prognoz – stwierdzić, że przyszłość już nadeszła. Potwierdził to opublikowany w maju 2024 r. raport roczny CSIRT KNF, przedstawiający analizę zagrożeń dotyczących cyberbezpieczeństwa w obszarze rynku finansowego.

Autorzy raportu zauważają, że „warto (…) wskazać na znaczący wzrost zainteresowania cyberprzestępców technologią wykorzystującą mechanizmy sztucznej inteligencji, w tym narzędzia i techniki pozwalające na generowanie treści deepfake, np. w różnego rodzaju oszustwach inwestycyjnych”.

Politycy i influencerzy w fałszywych materiałach wideo

Jak wynika z przedstawionych w raporcie informacji, było to tym bardziej niebezpieczne, że powszechny dostęp i łatwość korzystania z narzędzi AI wyprzedziły powszechną wiedzę na temat zasady ich działania. Obszarem, w którym cyberprzestępcy najchętniej korzystali z usług sztucznej inteligencji okazał się deepfake – fałszywe nagrania wideo wygenerowane w taki sposób, by sprawiały wrażenie autentycznych.

Główną osią takich działań było generowanie fałszywych okazji inwestycyjnych – w krótkich, udostępnianych z pośrednictwem sieci filmach wygenerowani przez AI znani aktorzy czy politycy namawiali do przekazania pieniędzy cyberprzestępcom. Na fali wznoszącej znalazły się także oszustwa głosowe, w tym połączenia telefoniczne od narzędzi działających metodą na wnuczka/policjanta.

Podsumowując rok, eksperci CSIRT KNF wskazywali na kluczowe obszary zastosowania AI, która w krótkim czasie zdobyła możliwoś...