Nowości

Nowy Jork proponuje algorytmy regulujące stosowane przy zatrudnianiu

Stylizowane zdjęcie mężczyzny bez koszuli w postaci zer i jedynek.

W 1964 r. Ustawa o prawach obywatelskich zakazała osobom podejmującym decyzje o zatrudnieniu dyskryminacji ze względu na płeć lub rasę. Obecnie oprogramowanie często wpływa na decyzje o zatrudnieniu, pomagając menedżerom przeglądać życiorysy lub interpretować wywiady wideo.

Martwi to niektórych ekspertów technicznych i organizacje zajmujące się prawami obywatelskimi, które przytaczają dowody na to, że algorytmy mogą powielać lub wzmacniać uprzedzenia wykazywane przez ludzi. W 2018 r.Reuters poinformował, że Amazon wyrzucił narzędzie, które filtrowało CV w oparciu o wcześniejsze wzorce zatrudniania, ponieważ dyskryminowało kobiety.

Ustawodawstwo zaproponowane przez Radę Miasta Nowego Jorku ma na celu aktualizację zasad dyskryminacji przy zatrudnianiu dla wieku algorytmów. Ustawa wymagałaby od firm ujawniania kandydatom, kiedy zostali ocenieni za pomocą oprogramowania. Firmy sprzedające takie narzędzia musiałyby przeprowadzać coroczne audyty, aby sprawdzić, czy ich technologia sortowania ludzi nie dyskryminuje.

Propozycja jest częścią niedawnego ruchu na wszystkich szczeblach rządu, który ma na celu nałożenie ograniczeń prawnych na algorytmy i oprogramowanie, które kształtują decyzje zmieniające życie – takie, które mogą się zmienić, gdy Demokraci przejmą kontrolę nad Białym Domem i obiema izbami Kongresu.

Kilkanaście amerykańskich miast zakazało rządowi używania rozpoznawania twarzy, a stan Nowy Jork niedawno uchwalił dwuletnie moratorium na stosowanie tej technologii w szkołach. Niektórzy ustawodawcy federalni zaproponowali przepisy regulujące algorytmy twarzy i zautomatyzowane narzędzia decyzyjne używane przez korporacje, w tym do zatrudniania. W grudniu 10 senatorów zwróciło się do Komisji ds. Równych Szans Zatrudnienia, aby policzyła stronniczość w narzędziach zatrudniania sztucznej inteligencji, mówiąc, że obawiają się, że ta technologia może pogłębić różnice rasowe w zatrudnieniu i zaszkodzić ożywieniu gospodarczemu po COVID-19 w zmarginalizowanych społecznościach. Również w zeszłym roku w Illinois weszło w życie nowe prawo wymagające zgody przed użyciem analizy wideo kandydatów do pracy; podobne prawo stanu Maryland ogranicza stosowanie technologii analizy twarzy w zatrudnianiu.

Ustawodawcy mają większe doświadczenie w mówieniu o regulowaniu nowych algorytmów i narzędzi sztucznej inteligencji niż wdrażaniu takich zasad. Miesiące po tym, jak San Francisco zakazało rozpoznawania twarzy w 2019 roku, musiało zmienić rozporządzenie, ponieważ przypadkowo sprawiło, że iPhone’y należące do miasta stały się nielegalne.

Propozycja Nowego Jorku, przedstawiona przez członka rady Demokratów, Laurie Cumbo, wymagałaby od firm korzystania z tak zwanych zautomatyzowanych narzędzi do podejmowania decyzji o zatrudnieniu, aby pomóc w sprawdzaniu kandydatów lub decydowaniu o warunkach, takich jak wynagrodzenie, w celu ujawnienia wykorzystania technologii. Sprzedawcy takiego oprogramowania byliby zobowiązani do corocznego przeprowadzania „audytu stronniczego” swoich produktów i udostępniania wyników klientom.

Dziwni towarzysze

Propozycja napotyka opór ze strony nietypowych sojuszników, a także nierozwiązane pytania dotyczące jej działania. Eric Ellman, starszy wiceprezes ds. Polityki publicznej w Consumer Data Industry Association, które reprezentuje firmy zajmujące się sprawdzaniem kredytów i przeszłości, twierdzi, że ustawa może uczynić zatrudnianie mniej uczciwymi, nakładając nowe obciążenia na firmy, które przeprowadzają weryfikację przeszłości w imieniu pracodawców. Twierdzi, że takie kontrole mogą pomóc menedżerom przezwyciężyć niechęć do zatrudniania osób z określonych grup demograficznych.

Niektóre organizacje zajmujące się prawami obywatelskimi i eksperci AI również sprzeciwiają się tej ustawie – z różnych powodów. Albert Fox Cahn, założyciel Surveillance Technology Oversight Project, zorganizował list 12 grup, w tym NAACP i AI Now Institute na Uniwersytecie Nowojorskim, sprzeciwiających się proponowanej ustawie. Cahn chce uregulować kwestie związane z zatrudnianiem pracowników, ale twierdzi, że nowojorska propozycja może pozwolić, aby oprogramowanie utrwalające dyskryminację zostało opatrzone pieczęcią jako przeszło audyt uczciwości.

Cahn chce, aby jakiekolwiek prawo definiowało szerzej technologię objętą ochroną, nie pozwalało sprzedawcom decydować o sposobie audytu ich własnej technologii i pozwalało jednostkom na pozywanie do egzekwowania prawa. „Nie widzieliśmy żadnej znaczącej formy egzekwowania prawa przeciwko dyskryminacji, o którą się martwimy” – mówi.

Zwolennicy

Inni mają obawy, ale nadal popierają propozycję Nowego Jorku. „Mam nadzieję, że ustawa pójdzie naprzód” – mówi Julia Stoyanovich, dyrektor Center for Responsible AI na New York University. „Mam również nadzieję, że zostanie poprawiony”.

Podobnie jak Cahn, Stoyanovich jest zaniepokojony tym, że wymóg audytu ustawy nie jest dobrze zdefiniowany. Nadal uważa, że ​​warto zdać, po części dlatego, że kiedy organizowała publiczne spotkania dotyczące zatrudniania technologii w Bibliotece Publicznej Queens, wielu obywateli było zaskoczonych, gdy dowiedziały się, że zautomatyzowane narzędzia są szeroko stosowane. „Powodem, dla którego jestem za tym, jest to, że wymusi to na ludziach ujawnienie, że zostali oceniani zarówno przez maszynę, jak i przez człowieka” – mówi Stoyanovich. „To pomoże wciągnąć publiczność do rozmowy”.

Dwa nowojorskie startupy, których narzędzia rekrutacyjne byłyby regulowane przez nowe przepisy, mówią, że je witają. Założyciele HiredScore, która stara się wyróżnić obiecujących kandydatów na podstawie życiorysów i innych źródeł danych, oraz Pymetrics, która oferuje oceny online oparte na psychologii poznawczej z pomocą uczenia maszynowego, poparli projekt podczas wirtualnego przesłuchania Komitetu Rady Miasta. o technologii w listopadzie.

Frida Polli, dyrektor generalna i współzałożycielka firmy Pymetrics, reklamuje technologię firmy jako bardziej sprawiedliwy sygnał o kandydatach niż tradycyjne środki, takie jak życiorysy, które, jak mówi, mogą stawiać w niekorzystnej sytuacji osoby z mniej uprzywilejowanych środowisk. Firma niedawno przeszła audyt technologii pod kątem uczciwości przez naukowców z Northeastern University. Przyznaje, że ustawowy wymóg audytu może być trudniejszy, ale mówi, że nie jest jasne, jak to zrobić w praktyczny sposób, i lepiej byłoby znaleźć coś w księgach. „Rachunek jest umiarkowany, ale potężny” – mówi.

„Jak Dziki Zachód”

Robert Holden, przewodniczący Komitetu ds. Technologii Rady Miejskiej, ma własne obawy co do możliwości rządu miasta, któremu brakuje gotówki, do określenia, jak kontrolować oprogramowanie do zatrudniania. Słyszał również od wysłanników z firm, których oprogramowanie podlegałoby proponowanym zasadom, co spowodowało większe zaangażowanie branży niż zwykle w przypadku Rady Miejskiej. Niektórzy zapewnili go, że można zaufać samoregulacji branży. Holden mówi, że to, czego się do tej pory nauczył, jasno pokazuje, że potrzebna jest większa przejrzystość. „To prawie jak Dziki Zachód” – mówi Holden. „Naprawdę musimy zapewnić pewną przejrzystość”.

Holden twierdzi, że ustawa prawdopodobnie będzie musiała zostać poddana negocjacjom i przepisom, a także ewentualnemu sprzeciwowi ze strony biura burmistrza, zanim zostanie wyznaczona do ostatecznego głosowania przez radę. Gdyby przeszedł, obowiązywałby w styczniu 2022 r.

Ta historia pojawiła się pierwotnie na wired.com.

Zostaw komentarz

Maciek Luboński
Z wykształcenia jestem kucharzem , ale to nie przeszkadza mi pisać dla Was tekstów z wielu ciekawych dziedzin , których sam jestem fanem.Piszę dużo i często nie na tak jak trzeba , ale co z tego skoro tak naprawdę liczy się pasja.

Najlepsze recenzje

Video

gallery

Facebook