Różności i nowinki technologia

Algorytm kadrowania zdjęć na Twitterze faworyzuje białe twarze i kobiety

Zeszłej jesieni, Kanadyjczyk student Colin Madland zauważył, że algorytm automatycznego kadrowania Twittera nieustannie wybierał jego twarz – a nie jego ciemnoskórego kolegę – ze zdjęć pary do wyświetlania w tweetach. Plik epizod wywołał oskarżenia stronniczości, ponieważ użytkownicy Twittera opublikowali wydłużone zdjęcia, aby zobaczyć, czy sztuczna inteligencja wybrałaby twarz białej osoby zamiast czarnej, czy też skupiłaby się na piersiach kobiet nad ich twarzami.

W tym czasie rzecznik Twittera powiedział, że znaleziono oceny algorytmu przed jego uruchomieniem w 2018 roku brak dowodów na uprzedzenia rasowe lub płciowe. Teraz największa dotychczas analiza sztucznej inteligencji wykazała coś przeciwnego: algorytm Twittera faworyzuje białych nad czarnoskórymi. Ta ocena wykazała również, że sztuczna inteligencja do przewidywania najciekawszej części zdjęcia nie skupia się na ciałach kobiet zamiast na twarzach kobiet.

Poprzednie testy przez Twittera badacz Vinay Prabhu wykorzystał kilkaset obrazów lub mniej. Analiza opublikowana w środę przez naukowców z Twittera opiera się na 10000 par obrazów osób z różnych grup demograficznych, aby sprawdzić, kogo algorytm faworyzuje.

Badacze stwierdzili błąd, gdy algorytmowi pokazano zdjęcia osób z dwóch grup demograficznych. Ostatecznie algorytm wybiera jedną osobę, której twarz pojawi się na osi czasu Twittera, a niektóre grupy są lepiej reprezentowane na platformie niż inne. Kiedy naukowcy wprowadzili do systemu zdjęcie Czarnego mężczyzny i białej kobiety, algorytm zdecydował się wyświetlić białą kobietę w 64% przypadków, a Czarnego tylko w 36%. analiza. W przypadku zdjęć białej kobiety i białego mężczyzny algorytm wyświetlał kobietę w 62% przypadków. W przypadku zdjęć białej kobiety i czarnej kobiety algorytm pokazywał białą kobietę w 57% przypadków.

5 maja Twitter zrezygnował z przycinania pojedynczych zdjęć opublikowanych za pomocą aplikacji na smartfony Twitter, co preferował dyrektor ds.projektowania Twittera Dantley Davis od Kontrowersje dotyczące algorytmu wybuchły jesienią ubiegłego roku. Zmiana skłoniła ludzi do publikowania wysokich zdjęć i oznaczała koniec tweetów „otwartych na niespodziankę”.

Tak zwany algorytm istotności jest nadal używany na Twitterze.com, a także do przycinania tweetów z wieloma obrazami i tworzenia miniatur obrazów. Rzecznik Twittera mówi, że zbyt wysokie lub szerokie zdjęcia są teraz przycinane centralnie, a firma planuje zakończyć wykorzystanie algorytmu na stronie Twittera. Algorytmy istotności są trenowane przez śledzenie tego, na co patrzą ludzie, gdy patrzą na obraz.

Inne witryny, w tym Facebook i Instagram, wykorzystywały automatyczne kadrowanie oparte na sztucznej inteligencji. Facebook nie odpowiedział na prośbę o komentarz.

Oskarżenia o uprzedzenia ze względu na płeć i rasę w komputerowych systemach wizyjnych są niestety dość powszechne. Niedawno Google szczegółowo starało się poprawić działanie aparatów z Androidem dla osób o ciemnej karnacji. W zeszłym tygodniu grupa Algorithm Watch odkryła, że ​​wykorzystująca obrazy sztuczna inteligencja na iPhonie oznaczała kreskówki przedstawiające ludzi o ciemnej skórze jako „zwierzę”. Rzecznik Apple odmówił komentarza.

Niezależnie od wyników pomiarów uczciwości, naukowcy z Twittera twierdzą, że algorytmiczne podejmowanie decyzji może odebrać użytkownikom wybór i mieć daleko idące skutki, szczególnie w przypadku zmarginalizowanych grup ludzi.

W niedawno opublikowanym badaniu naukowcy z Twittera stwierdzili, że nie znaleźli dowodów na to, że algorytm kadrowania zdjęć faworyzuje ciała kobiet nad ich twarzami. Aby to ustalić, podali algorytmowi 100 losowo wybranych zdjęć osób zidentyfikowanych jako kobiety i odkryli, że tylko trzy wyśrodkowane ciała nad twarzami. Badacze sugerują, że jest to spowodowane obecnością naszywek lub numerów koszulek na piersiach ludzi. Aby przeprowadzić badanie, naukowcy wykorzystali zdjęcia ze zbioru danych WikiCeleb; cechy tożsamości osób na zdjęciach zostały zaczerpnięte z Wikidanych.



Zostaw komentarz

Maciek Luboński
Z wykształcenia jestem kucharzem , ale to nie przeszkadza mi pisać dla Was tekstów z wielu ciekawych dziedzin , których sam jestem fanem.Piszę dużo i często nie na tak jak trzeba , ale co z tego skoro tak naprawdę liczy się pasja.

Najlepsze recenzje

Video

gallery

Facebook