Różności i nowinki technologia

Ciemna strona funduszy Big Tech na badania nad sztuczną inteligencją

W zeszłym tygodniu wybitny Badacz sztucznej inteligencji Google, Timnit Gebru, powiedział, że została zwolniona przez firmę po tym, jak menedżerowie poprosili ją o wycofanie lub wycofanie jej nazwiska z artykułu badawczego, a ona sprzeciwiła się. Google utrzymuje, że zrezygnowała, a dyrektor generalny Alphabet, Sundar Pichai, powiedział w notatce firmy w środę, że zbada, co się stało.

Odcinek jest wyraźnym przypomnieniem wpływu i władzy firm technologicznych w ich dziedzinie. Sztuczna inteligencja jest podstawą lukratywnych produktów, takich jak wyszukiwarka Google i wirtualna asystentka Amazona, Alexa. Duże firmy wypuszczają wpływowe prace badawcze, finansują konferencje akademickie, rywalizują o zatrudnienie najlepszych naukowców i są właścicielami centrów danych wymaganych do eksperymentów AI na dużą skalę. Niedawne badanie wykazało, że większość kadry z kadencji na czterech czołowych uniwersytetach, które ujawniają źródła finansowania, otrzymała wsparcie od Big Tech.

Ben Recht, profesor nadzwyczajny na Uniwersytecie Kalifornijskim w Berkeley, który spędził czas w Google jako wykładowca wizytujący, mówi, że jego koledzy czasami zapominają, że zainteresowanie firm nie wynika tylko z zamiłowania do nauki. „Badania korporacyjne są niesamowite, a Bell Labs, PARC i Google wydały niesamowite rzeczy” – mówi. „Ale to dziwne udawać, że badania akademickie i korporacyjne to to samo”.

Ali Alkhatib, pracownik naukowy w Center for Applied Data Ethics na Uniwersytecie w San Francisco, mówi, że pytania postawione w związku z traktowaniem Gebru przez Google mogą podważyć wszystkie badania firmy. „Cytuje się niepewnie, ponieważ mogą istnieć rzeczy za kulisami, o których nie byli w stanie porozmawiać, o których dowiadujemy się później” – mówi.

Alkhatib, który wcześniej pracował w dziale badawczym Microsoftu, mówi, że rozumie, że badania korporacyjne wiążą się z ograniczeniami. Chciałby jednak zobaczyć, jak Google wprowadza widoczne zmiany, aby odzyskać zaufanie badaczy wewnątrz i na zewnątrz firmy, być może poprzez odizolowanie swojej grupy badawczej od innych części Google.

W artykule, który doprowadził do odejścia Gebru z Google, zwrócono uwagę na kwestie etyczne, jakie stawia technologia sztucznej inteligencji, która współpracuje z językiem. Szef działu badań Google, Jeff Dean, powiedział w zeszłym tygodniu, w oświadczeniu, że „nie spełniło to naszego kryterium publikacji”.

Gebru powiedział, że menedżerowie mogli postrzegać tę pracę jako zagrażającą interesom biznesowym Google lub pretekst do usunięcia jej za krytykę braku różnorodności w grupie AI firmy. Inni badacze Google powiedzieli publicznie, że wydaje się, że Google wykorzystał swój wewnętrzny proces przeglądu badań, aby ją ukarać. Ponad 2300 pracowników Google, w tym wielu badaczy sztucznej inteligencji, podpisało list otwarty, w którym domaga się, aby firma określiła jasne wytyczne dotyczące sposobu prowadzenia badań.

Meredith Whittaker, dyrektor wydziału w nowojorskim instytucie AI Now, mówi, że to, co stało się z Gebru, przypomina, że ​​chociaż firmy takie jak Google zachęcają naukowców do uważania się za niezależnych naukowców, korporacje stawiają wynik finansowy ponad normami akademickimi. „Łatwo o tym zapomnieć, ale w każdej chwili firma może przyspieszyć lub ukształtować Twoją pracę, tak aby działała bardziej jako PR niż jako produkcja wiedzy w interesie publicznym” – mówi.

Whittaker pracowała w Google przez 13 lat, ale odeszła w 2019 r., Mówiąc, że firma zemściła się na niej za zorganizowanie strajku w związku z molestowaniem seksualnym i podważenie jej pracy, która wzbudziła obawy etyczne dotyczące sztucznej inteligencji. Pomogła zorganizować protesty pracowników przeciwko kontraktowi AI z Pentagonem, który firma ostatecznie porzuciła, chociaż podjęła inne kontrakty obronne.

obraz artykułu

Przewodnik WIRED po sztucznej inteligencji

Inteligentne algorytmy nie podejmą wszystkich zadań, ale uczą się szybciej niż kiedykolwiek, robiąc wszystko, od diagnostyki medycznej po wyświetlanie reklam.

Uczenie maszynowe było niejasnym wymiarem środowiska akademickiego do około 2012 roku, kiedy to Google i inne firmy technologiczne zaczęły intensywnie interesować się przełomami, dzięki którym komputery znacznie lepiej rozpoznawały mowę i obrazy.

Firma zajmująca się wyszukiwaniem i mi, za którą szybko podążyli konkurenci, tacy jak Facebook, zatrudniła i pozyskała czołowych naukowców i nakłaniała ich do publikowania artykułów pomiędzy pracami nad systemami firmy. Nawet tradycyjnie małostkowy Apple obiecał, że będzie bardziej otwarty w swoich badaniach, aby zwabić talenty AI. Artykuły z autorami korporacyjnymi i uczestnikami z firmowymi odznakami zalały konferencje, które są głównym miejscem publikacji w tej dziedzinie.

Zostaw komentarz

Maciek Luboński
Z wykształcenia jestem kucharzem , ale to nie przeszkadza mi pisać dla Was tekstów z wielu ciekawych dziedzin , których sam jestem fanem.Piszę dużo i często nie na tak jak trzeba , ale co z tego skoro tak naprawdę liczy się pasja.

Najlepsze recenzje

Video

gallery

Facebook