Polacy stracili setki milionów na fałszywych reklamach. NASK pokazał skalę zjawiska

Pięć tygodni monitoringu i 16 tys. wykrytych reklam wygenerowanych przez sztuczną inteligencję. Do tego wizerunki ponad 450 osób wykorzystane bez ich zgody. Takie dane przedstawił NASK podczas konferencji Transfer Technology Days, a opisał je serwis bankier.pl. Za statystykami stoją realne pieniądze, bo straty Polaków na oszukańczych reklamach państwowy instytut szacuje na około 537 mln zł.

- Reklama -

Fabryka fałszywek pracuje pełną parą

Skala zjawiska rośnie, bo wytworzenie fałszywej reklamy przestało cokolwiek kosztować. Narzędzia AI pozwalają w kilka minut wygenerować wideo, w którym znany przedsiębiorca albo celebryta zachęca do cudownej inwestycji. Jak zauważył jeden z analityków cytowanych przez bankier.pl, kłamstwo produkuje się dziś łatwo i bezkosztowo, a jego prostowanie wymaga nieporównanie większych zasobów.

Dane NASK potwierdziły także serwisy wirtualnemedia.pl i strefabiznesu.pl, które zwracają uwagę na wspólny schemat oszustw: deepfake znanej twarzy, obietnica nierealnych zysków i link prowadzący do fałszywej platformy inwestycyjnej. Na końcu tej ścieżki jest zawsze wyczyszczone konto ofiary.

Brzoska walczy z własnym cyfrowym sobowtórem

Najgłośniejszym przykładem pozostaje sprawa prezesa InPostu. W sierpniu Rafał Brzoska padł ofiarą deepfake’ów na Facebooku i Instagramie, gdzie oszuści wykorzystywali wizerunek jego i jego żony do wyłudzania pieniędzy. Mimo orzeczeń sądu i decyzji prezesa UODO nakazujących usunięcie treści fałszywe reklamy krążyły dalej i docierały nawet do dzieci przedsiębiorcy.

Brzoska domaga się w związku z tym kar finansowych dla platform, które publikują fałszywe treści. Jego przypadek pokazuje bezradność nawet zamożnych i medialnych osób wobec mechanizmu, w którym usunięta reklama wraca po kilku godzinach w setkach nowych wariantów.

Meta zasypana skargami z całej Unii

Platformy społecznościowe deklarują walkę z oszustami, ale liczby pokazują skalę problemu. W analizowanym okresie Meta odnotowała w całej Unii Europejskiej 788 745 skarg dotyczących Facebooka i 353 997 dotyczących Instagrama, składanych na podstawie art. 16 aktu o usługach cyfrowych. Firma nie ujawniła przy tym danych dla samej Polski.

Chcesz częściej widzieć treści BNBN w Google?Dodaj nas do ulubionych źródeł

NASK zaprezentował na konferencji także własną odpowiedź technologiczną: system DROZD, który analizuje nagrania i wykrywa manipulacje głosem oraz obrazem w materiałach z rzekomymi wypowiedziami znanych osób. Narzędzie ma wspierać zarówno instytucje, jak i redakcje w szybkim demaskowaniu fałszywek, zanim rozejdą się po sieci.

Internet coraz mniej ludzki

Badacze NASK zwracają uwagę, że oszukańcze reklamy to element szerszego zjawiska. Według danych przytoczonych na konferencji około 60 proc. internetu stanowią już treści generowane przez boty, a 57 proc. zapytań o strony HTML pochodzi od botów AI, nie od ludzi. W takim środowisku odróżnienie prawdziwej informacji od spreparowanej wymaga coraz więcej wysiłku.

- Reklama -

Dla konsumentów wniosek jest prozaiczny i brutalny zarazem. Reklama z twarzą znanego biznesmena obiecująca szybki zysk to dziś jeden z najpewniejszych sygnałów oszustwa, niezależnie od tego, jak wiarygodnie wygląda nagranie. Pół miliarda złotych strat oznacza, że na ten mechanizm wciąż nabierają się dziesiątki tysięcy osób, a każda kolejna generacja narzędzi AI będzie czynić fałszywki trudniejszymi do rozpoznania.

NAJNOWSZE

WYBRANE DLA CIEBIE

W tym tygodniu o tym się mówi