Nowości

Ci byli dziennikarze wykorzystują sztuczną inteligencję do łapania zniesławienia w Internecie

Wgląd, który napędza CaliberAI, polega na tym, że ten wszechświat to zobowiązany nieskończoność. Chociaż moderacja sztucznej inteligencji nie jest bliska możliwości decydowania o prawdzie i fałszu, powinna być w stanie zidentyfikować podzbiór oświadczeń, które mogą być nawet potencjalnie zniesławiające.

Carl Vogel, profesor lingwistyki komputerowej w Trinity College w Dublinie, pomógł firmie CaliberAI zbudować jej model. Ma roboczą formułę dla stwierdzeń, które mogą być zniesławiające: muszą w sposób dorozumiany lub jawny nazwać osobę lub grupę; przedstawić roszczenie jako fakt; i używaj jakiegoś języka lub idei tabu – na przykład sugestii kradzieży, pijaństwa lub innego rodzaju niestosowności. Jeśli dostarczysz algorytmowi uczenia maszynowego wystarczająco dużą próbkę tekstu, wykryje on wzorce i skojarzenia między negatywnymi słowami na podstawie firmy, którą utrzymują. Umożliwi to inteligentne przypuszczenie, które terminy, jeśli są używane w odniesieniu do określonej grupy lub osoby, umieszczają treść w strefie zagrożenia zniesławieniem.

Logicznie rzecz biorąc, nie było zestawu danych zniesławiających materiałów, które CalibreAI mógłby wykorzystać, ponieważ wydawcy bardzo ciężko pracują, aby uniknąć umieszczania tych rzeczy na świecie. Firma zbudowała więc własne. Conor Brady zaczął od stworzenia listy zniesławiających stwierdzeń, wykorzystując swoje wieloletnie doświadczenie w dziennikarstwie. „Myśleliśmy o wszystkich paskudnych rzeczach, które można by powiedzieć o każdej osobie i siekaliśmy, kroiliśmy i mieszaliśmy je, aż w pewnym sensie przejrzeliśmy całą gamę ludzkich słabości” – mówi. Następnie grupa adnotatorów, nadzorowana przez Alana Reida i Abby Reynolds, lingwistę komputerowego i lingwistę danych w zespole, wykorzystała oryginalną listę do stworzenia większej. Korzystają z tego zmyślonego zestawu danych, aby wyszkolić sztuczną inteligencję w przypisywaniu punktów prawdopodobieństwa do zdań, od 0 (zdecydowanie nie zniesławiające) do 100 (zadzwoń do swojego prawnika).

Jak dotąd rezultat to coś w rodzaju sprawdzania pisowni pod kątem zniesławienia. Możesz grać z wersją demonstracyjną na stronie internetowej firmy, która ostrzega, że ​​„możesz zauważyć fałszywe pozytywne / negatywne wyniki podczas udoskonalania naszych modeli predykcyjnych”. Wpisałem „Uważam, że John jest kłamcą”, a program wypluł prawdopodobieństwo 40, czyli poniżej progu zniesławienia. Następnie spróbowałem „Wszyscy wiedzą, że John jest kłamcą”, a program wypluł prawdopodobieństwo 80%, zaznaczając „Wszyscy wiedzą” (stwierdzenie faktu), „John” (konkretna osoba) i „kłamca” (język negatywny) . Oczywiście to nie do końca rozwiązuje sprawę. W rzeczywistości moje ryzyko prawne zależałoby od tego, czy mogę udowodnić, że John naprawdę jest kłamcą.

„Dokonujemy klasyfikacji na poziomie językowym i przekazujemy tę poradę naszym klientom” – mówi Paul Watson, dyrektor ds. Technologii w firmie. „W takim razie nasi klienci muszą wykorzystać swoje wieloletnie doświadczenie, aby powiedzieć:„ Czy zgadzam się z tą poradą? ” Myślę, że to bardzo ważny fakt tego, co budujemy i próbujemy zrobić. Nie próbujemy budować silnika prawdy dla wszechświata ”.

Można się zastanawiać, czy zawodowi dziennikarze naprawdę potrzebują algorytmu, który ostrzegałby, że mogą kogoś zniesławiać. „Każdy dobry redaktor lub producent, każdy doświadczony dziennikarz powinien to wiedzieć, kiedy to zobaczy” – mówi Sam Terilli, profesor w School of Communication na Uniwersytecie w Miami i były radca prawny Miami Herald. „Powinni być w stanie przynajmniej zidentyfikować te stwierdzenia lub fragmenty, które są potencjalnie ryzykowne i warte głębszego przyjrzenia się”.

Ten ideał może jednak nie zawsze być w zasięgu, zwłaszcza w okresie ograniczonych budżetów i dużej presji, aby jak najszybciej publikować.

„Myślę, że istnieje naprawdę ciekawy przypadek użycia z organizacjami prasowymi” – mówi Amy Kristin Sanders, prawniczka ds. Mediów i profesor dziennikarstwa na Uniwersytecie Teksańskim. Zwraca uwagę na szczególne ryzyko związane z relacjonowaniem najświeższych wiadomości, gdy historia może nie przejść dokładnego procesu redakcyjnego. „Dla małych i średnich redakcji – którzy na co dzień nie mają przy sobie głównego prawnika, mogą polegać na wielu freelancerach i mogą mieć mało personelu, więc treść jest mniej recenzowana przez redakcję niż w przeszłości – myślę, że tego rodzaju narzędzia mogą mieć wartość ”.

Zostaw komentarz

Maciek Luboński
Z wykształcenia jestem kucharzem , ale to nie przeszkadza mi pisać dla Was tekstów z wielu ciekawych dziedzin , których sam jestem fanem.Piszę dużo i często nie na tak jak trzeba , ale co z tego skoro tak naprawdę liczy się pasja.

Najlepsze recenzje

Video

gallery

Facebook