Krok w stronę walki z "mową nienawiści" czy próba cenzury? Powstaje aplikacja, która będzie ostrzegać przed hejtem

W trakcie tworzenia jest aplikacja, mająca na celu wykrycie "hejtu". Będzie ostrzegać odbiorcę wiadomości przed "mową nienawiści".

Prace nad nią prowadzi Stefanie Ullmann z "Cambridge Centre for Research in Arts, Social Sciences and Humanities" wraz z grupą studentów. Aplikacja ma być w stanie analizować treść wiadomości oraz rozpoznawać znajdującą się w niej mowę nienawiści.

Następnie poinformuje ona użytkownika, jakie jest prawdopodobieństwo, iż wiadomość, którą otrzymał jest zagrożona nienawiścią. Jak tłumaczy Ullmann w rozmowie z "Deutschlandfunk", "z jednej strony chcesz chronić użytkowników, ale z drugiej strony nie chcesz naruszać wolności słowa", dlatego powinno się samemu zdecydować, czy odczytywać wiadomość, czy też nie.

Tak samo jak internecie istnieje rodzaj ochrony przed wirusami, tak "[...] może istnieć rodzaj kwarantanny dla komentarzy nienawiści". Problemem jest wykorzystywanie słów w różnych kontekstach - w końcu mogą być obiektem sarkazmu. Na szczęście algorytmy zasilone dużą ilością danych są w stanie rozpoznać bardziej złożone obelgi językowe.

Ullmann nie ukrywa, że taki rodzaj ochrony wykorzystany w aplikacji mógłby doprowadzić do zmniejszenia liczby wiadomości przejawiających nienawiść. Przykładowo, gdyby nadawca właśnie takiej wiadomości założył, że może ona zostać nie odczytana, motywacja do jej napisania może wówczas się zmniejszyć. 

Finalnym problemem będzie przekonanie twórców portali społecznościowych do włączenia takiej funkcji kwarantanny do swoich platform. 

(źródło)

Czy taka aplikacja to dobry pomysł?

Tak
Nie
Pomysł wymaga dopracowania

Liczba głosujących: 69

Tak - 0%

Nie - 93%

Pomysł wymaga dopracowania - 7%

Źródło

SKOMENTUJ

1×2 =