Raport Specjalny | Nowe Technologie | AI po jasnej i ciemnej stronie mocy

Alan Turing, brytyjski matematyk, opisał możliwości sztucznej inteligencji, która miałby korzystać z dostępnych informacji i wyciągać z nich wnioski pozwalające rozwiązywać problemy i podejmować decyzje. Swoje koncepcje, również w zakresie budowy i testowania inteligentnych maszyn, przedstawił w opublikowanym w 1950 r. artykule „Computing Machinery and Intelligence”. Wraz z rozwojem komputerów i wzrostem ich mocy obliczeniowej, koncepcja wykorzystania sztucznej inteligencji powracała, znaczącym wydarzeniem było pokonanie w 1997 r. szachowego mistrza świata Garriego Kasparowa, przez program komputerowy IBM Deep Blue.

Dziś jest już ona wykorzystywana w wielu branżach, a przodujące to bankowość, marketing i rozrywka. Równocześnie niepokój budzi wykorzystanie sztucznej inteligencji (AI) i uczenia maszynowego (ML) przez grupy przestępcze. Zatem w związku z rosnącą powszechnością chatbotów AI, takich jak ChatGPT, pracownicy instytucji finansowych powinni zachować szczególną ostrożność podczas udostępniania poufnych informacji za pomocą tych narzędzi. Coraz więcej mówi się bowiem o szybkich atakach iniekcyjnych na chatboty AI, które mogą prowadzić do ujawniania poufnych informacji. Przykład takiego działania podał Benj Edwards w artykule opublikowanym w portalu Ars Technica, opisując, jak student Uniwersytetu Stanforda, Kevin Liu, wykorzystał ten sposób w ataku na Bing Chat Microsoftu. Jest jednak i druga strona medalu – specjaliści uważają się, że wspomniane szybko rozwijające się nowe technologie można też wykorzystać do budowy skuteczniejszych systemów zabezpieczeń.

Wojny botów AI

Dr Jerry Craig, dyrektor ds. bezpieczeństwa w firmie Ntiva, wskazywał w opublikowanym 23 stycznia br. artykule „Jak sztuczna inteligencja wpłynie na cyberbezpieczeństwo w 2023 r.”, że trzeba się przygotować na codzienne raporty o naruszeniach bezpieczeństwa. Rozwój sztucznej inteligencji pozwala już bowiem na tworzenie botów, które mogą wykonywać szeroki zakres zadań, w tym przeprowadzać cyberataki. Działają przy tym z szybkością i skalą, niedostępną dla ludzi. Ponieważ algorytmy sztucznej inteligencji wciąż są ulepszane, prawdopodobnie obserwować będziemy rosnącą liczbę bitew pomiędzy botami. Te z najlepszymi algorytmami sztucznej inteligencji będą miały przewagę, ponieważ będą w stanie przechytrzyć swoich przeciwników.

Dużo się mówi także o wykorzystaniu ChatGPT i innych narzędzi AI tak w dobrych, jak i w złych celach. Z jednej strony, mamy pomoc w komunikacji z innymi osobami bez względu na język, którymi obie strony się posługują, z drugiej z tych samych możliwości korzystać mogą sprawcy. Przykładowo, e-maile phishingowe, które trafiały do naszych skrzynek pocztowych, łatwo można było rozpoznać, bo były źle napisane, z błędami ortograficznymi i gramatycznymi. Dziś ich autorzy, korzystając z ChatGPT będą mogli wysyłać korespondencję znacznie trudniejszą do rozpoznania.

Sztuczna inteligencja może też być wykorzystywana do omijania systemów filtrowania poczty elektronicznej w firmach. W artykule opublikowanym na stronie Venture Beat poinformowano, że hakerzy omijają filtrowanie wiadomości e-mail, korzystając z serwisów społecznościowych w rodzaju LinkedIn, by uzyskać nazwiska pracowników. W kolejnym kroku, wykorzystując inżynierię społeczną, wysyłają wiadomości pozbawione charakterystycznych linków bądź załączników. Następnie identyfikują innych pracowników, dostarczając im treści phishingowe za pośrednictwem poczty ...