Szef Anthropica ostrzega przed możliwościami AI
W czwartek (10.09.2026) Anthropic opublikował raport dotyczący zagrożeń, w którym szczegółowo opisano, w jaki sposób kilka podmiotów wykorzystywało modele AI Claude tej firmy do działań obejmujących zarówno rozwój broni, operacje cybernetyczne, jak i inwigilację oraz oszustwa.
Opublikowany w czwartek ponad 150-stronicowy raport informuje o zakłóconych przez amerykańską firmę próbach użycia Claude’a przez przeciwników Ameryki, m.in. do celów wojskowych, rozpowszechniania propagandy i cyberszpiegostwa.
Według autorów dokumentu irańska grupa użytkowników używała AI Anthropica, by pozyskiwać i kompilować informacje ze zdjęć, transponderów i satelitów by śledzić okręty USA oraz wykryć ich słabe punkty w systemach komunikacji.
Znaczna część raportu poświęcona jest wykorzystaniu Claude’a przez Rosjan. Wśród nich jest m.in. przypadek grupy Rosjan – choć według podejrzeń autorów niezwiązanych bezpośrednio z wojskiem lub Kremlem – budujących niemal od zera system autonomicznego roju dronów.
Innymi użytkownikami Claude’a mieli być hakerzy rosyjskich służb (znani jako „MidnightBlizzard”), którzy dzięki AI zwiększyki szybkość działania, automatyzując swoje operacje cyberszpiegowskie.
„Przeprowadzili oni operacje atakując cele wywiadu wojskowego w ukraińskich i europejskich rządach, a także organizacje dyplomatyczne i wojskowe oraz osoby powiązane z polityką zagraniczną USA” – napisano w raporcie. Szczególnym celem grupy miały być firmy związane z technologią dronową.
Z Claude’a korzystali też rosyjscy propagandyści z państwowych mediów, publikując generowane przez model treści w różnych serwisach w różnych krajach, m.in. Mołdawii czy Republice Środkowoafrykańskiej.
W innym opisanym przypadku, Anthropic poinformował, że rebelianci Huti w północnym Jemenie wykorzystali Claude’a do opracowania oprogramowania naprowadzającego dla broni wysokiej klasy, w tym wielostopniowych pocisków balistycznych. Autorzy ostrzegają, że dzięki AI „wyrafinowane ataki nie wymagają już wyrafinowanych napastników”.
Czytaj także: Amerykańskie władze ostrzegają banki ws. nowej technologii AI
Dyrektor generalny Anthropica ostrzega
„Musimy spowolnić tempo, w którym zwiększamy możliwości modeli sztucznej inteligencji. Postęp nadal będzie wydawał się szybki, a my musimy mądrze wykorzystać zyskany czas” – napisał Dario Amodei w artykule opublikowanym w Internecie.
Dyrektor generalny Anthropica zapewnił, że nie chodzi o wstrzymanie szkolenia modeli, ani postępu technicznego, ale o zapewnienie, by firmy poświęciły odpowiednio dużo czasu na dostosowanie i zabezpieczenie swoich modeli, a także by niezależni eksperci potwierdzili, że podjęto takie działania.
Plan na rzecz uregulowania tempa rozwoju AI Amodei podzielił na trzy etapy, a jego celem ma być oprócz wprowadzenia regulacji dotyczących tempa rozwoju AI, także zapewnienie większej ilości czasu na zarządzanie ryzykiem z tym związanym.
Amodei zapowiedział też, że Anthropic zatrudni stałych, zewnętrznych recenzentów w swoich firmach zajmujących się sztuczną inteligencją i zapewni im dostęp do odpowiednich narzędzi oraz wewnętrznych procesów oceny ryzyka.
Wyrafinowane ataki nie wymagają już wyrafinowanych napastników
Autorzy raportu Anthropica ostrzegają, że dzięki AI „wyrafinowane ataki nie wymagają już wyrafinowanych napastników”. Do publikacji cyklicznego raportu doszło na tle rosnących obaw o bezpieczeństwo rozwoju sztucznej inteligencji i publicznego odejścia z tego powodu jednego z pracowników Anthropica, Jacoba Coxona.
27-letni matematyk Jacob Coxon zajmował się szkoleniem modeli AI. Brytyjczyk zarzucił firmie i jej konkurentowi OpenAI nieodpowiedzialne dążenie do superinteligencji i „igranie z życiem ludzi”.
Wcześniej w tym roku Coxon zrezygnował z pracy w OpenAI, twórcy ChataGPT, i podjął wówczas pracę w Anthropicu, który – jak tłumaczył – miał opinię firmy, która bardziej zwraca uwagę na kwestie bezpieczeństwa. Po kilku miesiącach ocenił, że oba podmioty nie różnią się jeśli chodzi o podejście do szybkości rozwoju modeli AI.
Rację co do jego obaw przyznało mu szereg innych pracowników z firm branży, wzywając do współpracy i spowolnienia prac nad technologią.
W ub. tygodniu Reuters informował, że grupa niekontrolowanych agentów OpenAI przejęła niemiecką stronę internetową i przekształciła ją w forum dla innych agentów AI, a kierownictwo firmy utrzymywało ten incydent w tajemnicy. Agencja przypomniała też inne zdarzenia z ostatnich dwóch miesięcy, kiedy agenci AI włamywali się lub próbowali uzyskać dostęp do zewnętrznych systemów.
