Różności i nowinki technologia

Boty Deepfake w Telegramie sprawiają, że tworzenie fałszywych aktów jest niebezpiecznie łatwe

Naukowcy odkryli „głęboko fałszywy ekosystem” w aplikacji do przesyłania wiadomości Telegram, skupionej wokół botów, które na żądanie generują fałszywe akty. Użytkownicy wchodzący w interakcję z tymi botami twierdzą, że tworzą głównie akty kobiet, które znają, wykorzystując obrazy pobrane z mediów społecznościowych, które następnie udostępniają i wymieniają między sobą w różnych kanałach Telegramu.

Dochodzenie pochodzi od firmy Sensity zajmującej się bezpieczeństwem, która koncentruje się na tym, co nazywa „wizualną informacją o zagrożeniach”, w szczególności na rozprzestrzenianiu się fałszywych informacji. Naukowcy Sensity odkryli, że do lipca 2020 r. Wygenerowano i udostępniono w publicznych kanałach Telegram ponad 100 000 obrazów (co oznacza, że ​​całkowita liczba wygenerowanych obrazów, w tym tych, których nigdy nie udostępniono, oraz tych utworzonych od lipca, jest znacznie wyższa). Większość użytkowników tych kanałów, około 70 procent, pochodzi z Rosji i krajów sąsiednich, mówi Sensity. The Verge był w stanie potwierdzić, że wiele kanałów badanych przez firmę jest nadal aktywnych.

Boty są darmowe, ale generują fałszywe akty ze znakami wodnymi lub tylko częściową nagością. Użytkownicy mogą wtedy uiścić opłatę w wysokości zaledwie kilku centów, aby całkowicie „odsłonić” zdjęcia. Jedna „stawka dla początkujących” pobiera od użytkowników 100 rubli (około 1,28 USD) za wygenerowanie 100 fałszywych aktów bez znaków wodnych w ciągu siedmiu dni. Sensity mówi, że „ograniczona liczba” obrazów generowanych przez bota jest przeznaczona dla „osób wyglądających na niepełnoletnich”.

Obie The Verge i Sensity skontaktowali się z Telegramem, aby zapytać, dlaczego zezwalają na te treści w swojej aplikacji, ale nie otrzymali jeszcze odpowiedzi. Sensity twierdzi, że skontaktował się również z odpowiednimi organami ścigania.

W ankiecie na jednym z głównych kanałów udostępniania głębokich fałszywych aktów (pierwotnie opublikowanych zarówno w języku rosyjskim, jak i angielskim), większość użytkowników stwierdziła, że ​​chce wygenerować obrazy kobiet, które znają z „prawdziwego życia”.
Obraz: Sensity

Oprogramowanie używane do generowania tych obrazów nosi nazwę DeepNude. Po raz pierwszy pojawił się w sieci w czerwcu ubiegłego roku, ale jego twórca zamknął swoją witrynę kilka godzin po tym, jak pojawiła się w prasie głównego nurtu, mówiąc, że „prawdopodobieństwo, że ludzie będą go nadużywać jest zbyt wysokie”. Jednak oprogramowanie nadal rozprzestrzeniało się na kanałach tylnych, a Sensity twierdzi, że DeepNude „od tego czasu zostało poddane inżynierii wstecznej i można je znaleźć w ulepszonych formach w repozytoriach open source i witrynach torrentowych”. Jest teraz używany do zasilania botów Telegram, które automatycznie obsługują płatności, aby generować przychody dla ich twórców.

DeepNude wykorzystuje technikę sztucznej inteligencji znaną jako generatywne sieci przeciwnika lub GAN, aby generować fałszywe akty, a powstałe obrazy różnią się jakością. Większość z nich jest oczywiście fałszywa, z rozmazanym lub pikselowanym ciałem, ale niektóre można łatwo pomylić z prawdziwymi zdjęciami.

Jeszcze przed pojawieniem się Photoshopa ludzie tworzyli bezsensowne fałszywe akty kobiet. Obecnie istnieje wiele forów i stron internetowych poświęconych tej działalności przy użyciu narzędzi innych niż sztuczna inteligencja, a użytkownicy udostępniają akty zarówno celebrytów, jak i osób, które znają. Ale deepfakes doprowadziły do ​​szybszego generowania bardziej realistycznych obrazów. Teraz automatyzacja tego procesu za pomocą botów Telegram sprawia, że ​​generowanie fałszywych aktów jest tak łatwe, jak wysyłanie i odbieranie zdjęć.

„Kluczową różnicą jest dostępność tej technologii” – powiedział dyrektor generalny Sensity i współautor raportu, Giorgio Patrini The Verge. „Należy zauważyć, że inne wersje rdzenia sztucznej inteligencji tego bota, czyli przetwarzania i syntezy obrazu, są swobodnie dostępne w repozytoriach kodu online. Ale musisz być programistą i mieć trochę wiedzy na temat wizji komputerowej, aby sprawić, że będą działać, poza potężnym sprzętem. W tej chwili wszystko to nie ma znaczenia, ponieważ zajmuje się tym bot osadzony w aplikacji do przesyłania wiadomości ”.

Raport Sensity mówi, że „rozsądne jest założenie”, że większość osób korzystających z tych botów „jest przede wszystkim zainteresowana spożywaniem fałszywej pornografii” (która pozostaje popularną kategorią w witrynach pornograficznych). Ale te obrazy i filmy mogą być również wykorzystywane do wymuszeń, szantażu, nękania i nie tylko. Odnotowano wiele udokumentowanych przypadków ataków na kobiety za pomocą aktów generowanych przez sztuczną inteligencję i możliwe, że niektóre z tych, którzy tworzą akty za pomocą botów w Telegramie, robią to z myślą o tych motywach.

Patrini powiedział The Verge że badacze Sensity nie widzieli bezpośrednich dowodów na to, że kreacje bota są wykorzystywane do tych celów, ale powiedzieli, że firma uważa, że ​​tak się dzieje. Dodał, że chociaż polityczne zagrożenie ze strony deepfake’ów zostało „błędnie obliczone” („z punktu widzenia sprawców łatwiej i taniej jest uciekać się do zdjęć w Photoshopie i uzyskać podobny wpływ na szerzenie dezinformacji przy mniejszym wysiłku”), jasne, że technologia stanowi „poważne zagrożenie dla osobistej reputacji i bezpieczeństwa”.

Zostaw komentarz

Maciek Luboński
Z wykształcenia jestem kucharzem , ale to nie przeszkadza mi pisać dla Was tekstów z wielu ciekawych dziedzin , których sam jestem fanem.Piszę dużo i często nie na tak jak trzeba , ale co z tego skoro tak naprawdę liczy się pasja.

Najlepsze recenzje

Video

gallery

Facebook