Różności i nowinki technologia

Kolorowi uczniowie są zgłaszani nauczycielom, ponieważ oprogramowanie testujące Proctorio ich nie widzi

Proctorio, oprogramowanie do nadzorowania egzaminów, mające na celu powstrzymanie studentów przed oszukiwaniem podczas zdawania testów, opiera się na oprogramowaniu typu open source, które ma historię problemów z uprzedzeniami rasowymi, zgodnie z raportem Płyta główna. Problem został odkryty przez ucznia, który zorientował się, w jaki sposób oprogramowanie wykrywa twarz, i odkrył, że przez połowę czasu nie rozpoznaje czarnych twarzy.

Proctorio i inne podobne programy zostały zaprojektowane tak, aby mieć oko na uczniów podczas zdawania testów. Jednak, wiele studenci koloru donoszą że oni mają problemy z pobraniem oprogramowania do zobaczyć ich twarze – czasami trzeba uciekać się do ekstremalnych środków aby oprogramowanie je rozpoznało. Może to potencjalnie spowodować problemy uczniów: Proctorio zgłosi ich instruktorom, jeśli nie wykryje ich twarzy.

Po anegdotycznych wiadomościach o tych problemach Akash Satheesan postanowił przyjrzeć się metodom wykrywania twarzy, z których korzystało oprogramowanie. Odkrył, że wyglądał i działał identycznie jak OpenCV, program komputerowy typu open source, który może być używany do rozpoznawania twarzy (który miał problemy z uprzedzeniami rasowymi w przeszłości). Dowiedziawszy się tego, przeprowadził testy przy użyciu OpenCV i zestawu danych zaprojektowanego w celu sprawdzenia, jak dobrze algorytmy widzenia maszynowego radzą sobie z różnymi twarzami. Według jego drugiego posta na blogu wyniki nie były dobre.

Wyniki testów oprogramowania, na którym opiera się Proctorio, nie były dobre.
Wykres: Akash Satheesan, ProctorNinja

Oprogramowanie nie tylko nie rozpoznawało czarnych twarzy przez ponad połowę czasu, ale nie było szczególnie dobre w rozpoznawaniu twarzy jakiejkolwiek grupy etnicznej – najwyższy wskaźnik trafień wyniósł poniżej 75 procent. W swoim raporcie Płyta główna skontaktował się z badaczem bezpieczeństwa, który był w stanie zweryfikować wyniki i analizę Satheesana. Sam Proctorio potwierdza również, że korzysta z OpenCV na swojej stronie z licencjami, chociaż nie zawiera szczegółowych informacji na temat tego, jak to zrobić.

W oświadczeniu dla Motherboard rzecznik Proctorio powiedział, że testy Satheesana dowodzą, że oprogramowanie szuka tylko twarzy, a nie tożsamości z nimi powiązanych. Cóż, może to być (mały) komfort dla uczniów, którzy mogą słusznie martwić się kwestiami prywatności związanymi z oprogramowaniem do nadzorowania, ale w ogóle nie odnosi się do zarzutów o uprzedzenia rasowe.

To nie pierwszy raz, kiedy Proctorio zostało wezwane za to, że nie rozpoznaje różnorodnych twarzy: problemy, które spowodowało to studenci kolorów, zostały wymienione przez jedną uczelnię jako powód, dla którego nie odnowił umowy z firmą. Senator Richard Blumenthal (D-CT) nawet wezwał firmę, mówiąc o uprzedzeniach w oprogramowaniu do proctoringu.

Chociaż uprzedzenia rasowe w kodzie nie są niczym nowym, szczególnie bolesne jest to, że wpływają na uczniów, którzy dopiero próbują wykonywać swoją pracę szkolną, zwłaszcza w roku, w którym nauka zdalna jest jedyną dostępną opcją dla niektórych.



Zostaw komentarz

Maciek Luboński
Z wykształcenia jestem kucharzem , ale to nie przeszkadza mi pisać dla Was tekstów z wielu ciekawych dziedzin , których sam jestem fanem.Piszę dużo i często nie na tak jak trzeba , ale co z tego skoro tak naprawdę liczy się pasja.

Najlepsze recenzje

Video

gallery

Facebook