Agentyczna AI: warto poważnie podejść do wdrażania systemu zarządzania bezpieczeństwem informacji
Cyberbezpieczeństwo rzadko jest dzisiaj traktowana jak inwestycja, a raczej coś co obniża naszą efektywność i generuje niepotrzebny koszt.
Dobrej sławy nie przynosi też fakt, że wiele projektów AI dostaje hold właśnie ze względów bezpieczeństwa, które są trudne do zrozumienia i zaakceptowania przez biznes. Znowu nas blokują – myślicie…
Jak czujecie? Co może być powodem?
Anthropic jakiś czas temu opublikowało swój framework (to akurat duże słowo w tym przypadku), w którym sugeruje podejście „zero-trust” w odniesieniu do agentów AI. Zbiegło się to – cóż za zaskoczenie – z udostępnieniem „genialnego” modelu Fable5 i zmianą metody naliczania opłat, ale to zupełnie inna sprawa. Eh, odszedłem od wątku…
Framework zakłada, że powinniśmy – proporcjonalnie i zgodnie z naszym profilem ryzyka – ograniczyć lub wręcz wyeliminować wszelkie możliwości przejęcia modelu przez stronę trzecią.
Rzecz jasna w sposób nieautoryzowany. Oznacza to, że musimy wprowadzić wiele kontroli i limitacji, a także nadzoru, który trochę może nam ograniczyć korzyści z agentycznej AI. No, ale coś kosztem czegoś, prawda?
Czytaj także: Jak rozumiemy AI Governance?
Cyberbezpieczeństwo a system multiagentowy
Wróćmy tymczasem do naszej firmy. Biznes przychodzi z propozycją wdrożenia systemu multiagentowego, który ma mieć uprawnienia „decyzyjne”.
Obszar bezpieczeństwa mówi – NIE.
Tłumaczy to tym, że jesteśmy podmiotem kluczowym / ważnym podlegającym ustawie o krajowym systemie cyberbezpieczeństwa, a to wymaga od nas posiadania systemu zarządzania bezpieczeństwem informacji.
Ten zaś musi zapewnić: „bezpieczeństwo i ciągłość łańcucha dostaw produktów ICT, usług ICT i procesów ICT, od których zależy świadczenie usługi, z uwzględnieniem związków pomiędzy bezpośrednim dostawcą (…) oprogramowania a podmiotem kluczowym lub podmiotem ważnym”.
Jak wdrażać koncepcję „zero trust” w obszarze AI
Nasza propozycja agentycznej AI rzeczywiście opiera się dostawcach. Ci sami dostawcy twierdzą – w ramach koncepcji „zero trust”, że powinniśmy zawsze zakładać kompromitację zabezpieczeń i utratę czegoś. Skoro oni to zakładają, to jak my mamy się na to wszystko przygotować?
Tym bardziej, jeżeli nie ma budżetu na bezpieczeństwo? Wdrożenie koncepcji „zero trust” wymaga od nas rozwiązań organizacyjnych i technicznych, w tym nieustannego monitorowania i dostosowywania, a także kontroli jakości zabezpieczeń. To wszystko ludzie, czas i pieniądze.
Jeżeli tych trzech składników nie ma, to Wasz projekt AI zwyczajnie nie ma szans przejść dalej. A jeżeli przejdzie to na dużym ryzyku, które może się nie spłacić z zakładanych korzyści ze wdrożenia.
Dlatego warto poważnie podejść do wdrażania systemu zarządzania bezpieczeństwem informacji – niezależnie od NIS2. To także jeden z ważnych elementów AI Governance, które ma odblokować nam możliwości.
Michał Nowakowski – doktor nauk prawnych i radca prawny z 13-letnim doświadczeniem w obszarze innowacji finansowych oraz nowych technologii. Specjalizuje się w zagadnieniach związanych z wdrażaniem przepisów i regulacji dotyczących danych, AI oraz budowaniu w organizacjach rozwiązań data governance i data management. Był prezesem zarządu PONIP. Pracował zarówno w sektorze publicznym, jak i prywatnym, gdzie zdobywał doświadczenie przy realizacji projektów uwzględniających szeroko rozumiane ryzyka ICT oraz outsourcing i ochronę prywatności. Był związany także z instytucjami finansowymi, w tym z bankami, gdzie doradzał m.in. zespołom R&D, bezpieczeństwa oraz IT. Autor książek, artykułów naukowych i prelegent na konferencjach i wydarzeniach branżowych. Prywatnie miłośnik kodowania i ML. Współzałożyciel i prezes zarządu spółki GovernedAI, zajmującej się tworzeniem i wdrażaniem bezpiecznego oprogramowania wykorzystującego systemy uczenia maszynowego i głębokiego, w tym tzw. generatywną sztuczną inteligencję.
Profil na LinkedIn: https://www.linkedin.com/in/mjnowakowski/?originalSubdomain=pl
