Nowości

Startup Will Nix Algorytmy oparte na nieprawidłowo pobranych danych twarzy

Pod koniec ubiegłego roku Firma Everalbum, startup z San Francisco, zajmująca się rozpoznawaniem twarzy, wygrała z Siłami Powietrznymi kontrakt o wartości 2 milionów dolarów na zapewnienie „kontroli dostępu opartej na sztucznej inteligencji”. W poniedziałek inne ramię rządu USA przyniosło firmie niepowodzenie.

Federalna Komisja Handlu stwierdziła, że ​​Everalbum zgodził się uregulować opłaty, że zastosował technologię rozpoznawania twarzy do zdjęć przesłanych do aplikacji fotograficznej bez zgody użytkowników i zachował je po poinformowaniu użytkowników, że zostaną usunięte. Startup wykorzystał miliony zdjęć do opracowania technologii oferowanej agencjom rządowym i innym klientom pod marką Paravision.

Paravision, jak znana jest firma, zgodziła się usunąć niewłaściwie zebrane dane. Ale zgodził się także na bardziej nowatorskie rozwiązanie: usunięcie wszelkich algorytmów opracowanych na podstawie tych zdjęć.

Ugoda rzuca cień na reputację Paravision, ale dyrektor ds. Produktu, Joey Pritikin, twierdzi, że firma może nadal wypełniać kontrakt z Siłami Powietrznymi i wypełniać zobowiązania wobec innych klientów. Startup zamknął aplikację konsumencką w sierpniu, w tym samym miesiącu dowiedział się o potencjalnej skardze FTC i we wrześniu uruchomił technologię rozpoznawania twarzy opracowaną bez danych z aplikacji. Pritikin mówi, że te zmiany weszły w życie, zanim FTC zapukała, po części z powodu „ewolucji nastrojów społecznych” dotyczących rozpoznawania twarzy.

Komisarz FTC Rohit Chopra, demokrata, wydał w poniedziałek oświadczenie, w którym chwalił skrupulatność komisji w stosunkach z Paravisionem, mówiąc, że została ona słusznie zmuszona do „rezygnacji z owoców swojego oszustwa”.

Porównał ugodę z umową z 2019 roku, w której Google zapłacił 170 milionów dolarów za nielegalne zbieranie danych od dzieci bez zgody rodziców. Firma nie była zobowiązana do usuwania czegokolwiek pochodzącego z tych danych. „Komisarze głosowali wcześniej za zezwoleniem osobom naruszającym przepisy dotyczące ochrony danych na zachowanie algorytmów i technologii, które czerpią znaczną część swojej wartości z nielegalnie zdobytych danych” – napisał. „To ważna korekta kursu”.

obraz artykułu

Przewodnik WIRED po sztucznej inteligencji

Inteligentne algorytmy nie podejmą wszystkich zadań, ale uczą się szybciej niż kiedykolwiek, robiąc wszystko, od diagnostyki medycznej po wyświetlanie reklam.

Ryan Calo, profesor prawa na Uniwersytecie Waszyngtońskim, mówi, że wymaganie od Paravision usuwania algorytmów rozpoznawania twarzy przeszkolonych za pomocą rzekomo źle uzyskanych obrazów pokazuje, że FTC rozpoznaje, w jaki sposób rozwój uczenia maszynowego wiąże się ze ściśle powiązanymi zbiorami danych i potencjalnie szkodliwym oprogramowaniem.

Firmy technologiczne kiedyś tworzyły oprogramowanie, płacąc ludziom za naciskanie odpowiednich kluczy we właściwej kolejności. Jednak w przypadku wielu produktów, takich jak modele rozpoznawania twarzy lub oprogramowanie do filtrowania wideo, jednym z najważniejszych składników jest obecnie starannie dobrany zbiór przykładowych danych, które mają być przekazywane do algorytmów uczenia maszynowego. „Pomysł, że musisz usunąć model i dane, to potwierdzenie, że te rzeczy są ze sobą ściśle powiązane” – mówi Calo. Systemy rozpoznawania twarzy zasługują na szczególną analizę, ponieważ ich tworzenie wymaga bardzo osobistych obrazów. „Są jak Soylent Green – zrobione z ludzi”.

David Vladeck, były dyrektor Biura Ochrony Konsumentów FTC i profesor prawa w Georgetown, mówi, że poniedziałkowa ugoda jest zgodna z wcześniejszymi, które wymagały usunięcia danych. W 2013 roku firma programistyczna DesignerWare i siedmiu sprzedawców detalicznych na wynajem zgodziło się usunąć dane geotrackingu zebrane bez zgody oprogramowania szpiegującego zainstalowanego na laptopach.

Poniedziałkowy, bardziej ekspansywny wymóg usunięcia z Paravision został zatwierdzony jednogłośnie 5-0 przez FTC, która nadal jest kontrolowana przez republikańską większość. Po inauguracji prezydenta elekta Joe Bidena w tym miesiącu komisja mogłaby stać się większością demokratów i być może jeszcze bardziej chętna do kontrolowania firm technologicznych. Może uzyskać nowe wsparcie i środki od Kongresu kontrolowanego przez Demokratów.

Calo ma nadzieję, że agencja uzyska więcej zasobów technicznych i wiedzy, aby pomóc jej w bardziej równej ocenie branży technologicznej. Jednym z zastosowań większej wiedzy technologicznej może być wymyślenie sposobów sprawdzenia, czy firma naprawdę wyczyściła nie tylko źle pozyskane dane, ale także korzyści lub technologie z nich wynikające. Może to być trudne w przypadku systemów obejmujących złożone modele uczenia maszynowego zbudowane na podstawie wielu źródeł danych.

Zostaw komentarz

Maciek Luboński
Z wykształcenia jestem kucharzem , ale to nie przeszkadza mi pisać dla Was tekstów z wielu ciekawych dziedzin , których sam jestem fanem.Piszę dużo i często nie na tak jak trzeba , ale co z tego skoro tak naprawdę liczy się pasja.

Najlepsze recenzje

Video

gallery

Facebook