Różności i nowinki technologia

Tanie, łatwe Deepfake coraz bliżej prawdziwego

Jest wiele zdjęcia Toma Hanksa, ale żadne nie przypominają zdjęć czołowego everymana pokazanego na konferencji poświęconej bezpieczeństwu komputerowemu Black Hat Środa: Zostały wykonane przez algorytmy uczenia maszynowego, a nie przez kamerę.

Philip Tully, analityk danych w firmie FireEye, stworzył mistyfikację Hanksesa, aby sprawdzić, jak łatwo oprogramowanie open source z laboratoriów sztucznej inteligencji można dostosować do kampanii dezinformacyjnych. Jego wniosek: „Osoby z niewielkim doświadczeniem mogą korzystać z tych modeli uczenia maszynowego i robić z nimi całkiem potężne rzeczy” – mówi.

Widziane w pełnej rozdzielczości fałszywe obrazy Hanksa w FireEye mają wady, takie jak nienaturalne fałdy szyi i tekstury skóry. Ale dokładnie odtwarzają znajome szczegóły twarzy aktora, takie jak zmarszczki brwiowe i zielono-szare oczy, które chłodno wpatrują się w widza. W skali miniatury sieci społecznościowej obrazy wykonane przez sztuczną inteligencję mogą z łatwością uchodzić za prawdziwe.

Aby je wykonać, Tully musiał tylko zebrać kilkaset zdjęć Hanksa online i wydać mniej niż 100 dolarów na dostosowanie oprogramowania do generowania twarzy typu open source do wybranego tematu. Uzbrojony w ulepszone oprogramowanie, wyciąga Hanksa. Tully użył również innego oprogramowania AI typu open source, aby spróbować naśladować głos aktora z trzech klipów YouTube, z mniej imponującymi wynikami.

Deepfake Hanksa stworzony przez naukowców z FireEye.

Dzięki uprzejmości FireEye

Pokazując, jak tanio i łatwo dana osoba może generować zadowalające fałszywe zdjęcia, projekt FireEye może zwiększyć obawy, że dezinformacja w Internecie może zostać wzmocniona przez technologię sztucznej inteligencji, która generuje zadowalające obrazy lub mowę. Te techniki i ich wyniki są często nazywane deepfakes, termin zaczerpnięty z nazwy konta Reddit, które pod koniec 2017 roku opublikowało filmy pornograficzne zmodyfikowane tak, aby zawierały twarze aktorek z Hollywood.

Większość deepfake’ów obserwowanych w dziczy internetu ma niską jakość i jest stworzona do celów pornograficznych lub rozrywkowych. Jak dotąd najlepiej udokumentowanym złośliwym wykorzystaniem deepfake’ów jest nękanie kobiet. Projekty korporacyjne lub produkcje medialne mogą zapewnić lepsze rezultaty, w tym filmy, przy większych budżetach. Naukowcy z FireEye chcieli pokazać, jak ktoś może skorzystać z zaawansowanych badań nad sztuczną inteligencją przy minimalnych zasobach lub wiedzy specjalistycznej. Członkowie Kongresu z obu partii wyrazili obawy, że deepfakes mogą być skłonne do ingerencji politycznej.

Głębokie eksperymenty Tully’ego wykorzystały sposób, w jaki akademickie i korporacyjne grupy badawcze zajmujące się sztuczną inteligencją otwarcie publikują swoje najnowsze osiągnięcia i często publikują swój kod. Użył techniki zwanej dostrajaniem, w której model uczenia maszynowego zbudowany dużym kosztem z dużym zbiorem danych przykładów jest dostosowywany do konkretnego zadania z dużo mniejszą pulą przykładów.

Aby stworzyć fałszywego Hanksa, Tully dostosował model generacji twarzy wydany przez Nvidię w zeszłym roku. Firma produkująca chipy stworzyła swoje oprogramowanie, przetwarzając miliony przykładowych twarzy w ciągu kilku dni na klastrze potężnych procesorów graficznych. Tully zaadaptował go do generatora Hanksa w niecały dzień na jednym procesorze graficznym wynajętym w chmurze. Oddzielnie sklonował głos Hanksa w ciągu kilku minut, używając tylko swojego laptopa, trzech 30-sekundowych klipów audio i studenta, który odtworzył projekt syntezy głosu Google na licencji open source.

Klip dźwiękowy „deepfake” przedstawiający Toma Hanksa stworzony przez FireEye.

W miarę jak konkurencja między laboratoriami AI napędza dalsze postępy – a wyniki te są udostępniane – takie projekty będą coraz bardziej przekonujące – mówi. „Jeśli to się utrzyma, może to mieć negatywne konsekwencje dla całego społeczeństwa” – mówi Tully. Wcześniej współpracował ze stażystą, aby pokazać, że oprogramowanie do generowania tekstu sztucznej inteligencji może tworzyć treści podobne do tych produkowanych przez rosyjską Agencję Badań Internetu, która próbowała manipulować wyborami prezydenckimi w 2016 roku.

Zostaw komentarz

Maciek Luboński
Z wykształcenia jestem kucharzem , ale to nie przeszkadza mi pisać dla Was tekstów z wielu ciekawych dziedzin , których sam jestem fanem.Piszę dużo i często nie na tak jak trzeba , ale co z tego skoro tak naprawdę liczy się pasja.

Najlepsze recenzje

Video

gallery

Facebook