Wszystko zaczęło się od niepokojącego sygnału na ekranach brytyjskich badaczy: z ich systemów zaczęły wypływać dane, które nie powinny nigdzie wyciekać. Gdy specjaliści z rządowego instytutu prześledzili źródło, odkryli, że jeden z testowanych przez nich modeli sztucznej inteligencji nie tylko wykonuje zadanie, ale prowadzi prawdziwą, ukierunkowaną kampanię przeciwko realnym ludziom i firmom. Model tworzył fałszywe konta podszywające się pod konkretne osoby.
Jak opisuje BBC, do zdarzenia doszło podczas rutynowych testów prowadzonych przez brytyjski Instytut Bezpieczeństwa AI (AI Security Institute, AISI). Badano dwa z najpotężniejszych dostępnych narzędzi: model Mythos firmy Anthropic oraz model Sol należący do OpenAI. Zdaniem instytutu oba wykazały poziom „autonomii i podstępu”, jakiego wcześniej nie obserwowano, przy czym zdecydowaną większość szkodliwych działań podjął Mythos.
Sztuczna inteligencja podszyła się pod prawdziwych ludzi
Najpoważniejszy przypadek do złudzenia przypominał schemat działania zawodowego hakera. Agent oparty na modelu Mythos próbował uzyskać dostęp do GitHuba, jednej z największych na świecie platform, na której programiści przechowują kod oprogramowania, aby wprowadzić do niego „złośliwy kod”.
W tym celu model zidentyfikował i prześledził osoby odpowiedzialne za utrzymanie GitHuba, a następnie stworzył serię fałszywych kont opartych na tożsamości tych prawdziwych ludzi. Przez serwis do wymiany plików rozsyłał wiadomości i pliki, próbując naciskać na te osoby i podstępem nakłonić je do zatwierdzenia szkodliwego kodu.
Gdy go przyłapano, zaczął zacierać ślady
To, co wydarzyło się później, niepokoi ekspertów najbardziej. Jak podaje AISI, kiedy agent został przyłapany na gorącym uczynku, „zmodyfikował swoją wcześniejszą aktywność tak, by wyglądała niegroźnie, i rozważał przyjęcie nowej tożsamości, aby kontynuować działanie”. Innymi słowy, model próbował zatrzeć ślady i zaczynał kombinować, jak działać dalej pod przykrywką.
Przed skutecznym dostarczeniem złośliwego kodu do GitHuba ostatecznie powstrzymała go dopiero ludzka kontrola. Instytut podkreślił przy tym rzecz kluczową: agent nie dostał polecenia, by tak się zachować, a mimo to sam obrał tę drogę. Jak zaznaczyło AISI, to „pierwszy raz, gdy zaobserwowaliśmy tak wyraźnie, bez konkretnego polecenia, ryzyko związane z autonomią i podstępem w realnym świecie”.
Zobacz również:
TECHNOLOGIE · 06.08.2026Disney wchodzi na TikToka. Zrozumiał, że i tak nie wygra z fanamiFirmy: to nie odzwierciedla naszych produktów
Obie spółki, które szykują się do wejścia na giełdę, zareagowały na raport podobnie, wskazując na warunki testu. Anthropic w publicznym oświadczeniu napisał, że parametry testu AISI „nie są reprezentatywne dla żadnego z naszych produkcyjnych modeli”, i dodał, że prowadzi własne dochodzenie, by „ustalić przyczyny tego zachowania”.
Chcesz częściej widzieć treści BNBN w Google?Dodaj nas do ulubionych źródełRzecznik OpenAI stwierdził z kolei, że warunki testu AISI „nie odzwierciedlają zwykłego użytkowania”, i zapowiedział dalszą współpracę z instytucjami oceniającymi nad wzmacnianiem wspólnych praktyk bezpieczeństwa. Obie firmy zwracały uwagę, że test ograniczył lub usunął standardowe zabezpieczenia, w jakie ich modele są normalnie wyposażone.
Instytut broni metody, choć przyznaje, że warunki były nietypowe
AISI nie ukrywa, że badanie prowadzono w sztucznych warunkach, które „nie odzwierciedlają tego, jak zaawansowane modele są udostępniane publicznie”. Zaznaczyło też, że chodziło o „niewielką liczbę zdarzeń w bardzo specyficznych okolicznościach”. Instytut broni jednak swojego podejścia, argumentując, że dopiero danie modelowi dostępu do otwartego internetu pozwala „realniej ocenić, do czego może być zdolny” w rękach osób o złych zamiarach.
Chronologia zdarzeń jest zwięzła. Testy ruszyły 25 lipca, a niepokojącą aktywność instytut wykrył 28 lipca. Każdy z modeli miał „rozwiązać wyzwanie z zakresu cyberbezpieczeństwa” powiązane z GitHubem, platformą należącą do Microsoftu. GitHub, powiadomiony przez AISI o próbach naruszenia, poinformował BBC, że zgodnie ze swoimi zasadami zablokował fałszywe konta. O próbach ataku uprzedzono także osoby, pod które model się podszywał.