Jeśli chodzi o media społecznościowe, wszyscy wiemy, że oprócz wielu korzyści zapewniają one nawiązywanie kontaktów łatwiejsze, interakcja online może wiązać się z pewnymi zagrożeniami i niebezpieczeństwami, zwłaszcza dla młodych ludzi. Na szczęście istnieją aplikacje, które działają proaktywnie i próbują ograniczyć szkody, jakie mogą wyrządzić młodym ludziom, wdrażając odpowiednie technologie moderacji.
Yubo, najczęściej używana przez pokolenia Z aplikacja społecznościowa do odkrywania na żywo, ogłosiła, że moderuje transmisję audio na żywo technologia rozszerza się na swoje największe rynki, a mianowicie Stany Zjednoczone, Wielką Brytanię, Australię i Kanada.
Dzieje się tak po kilku miesiącach testowania tej funkcji w niektórych obszarach Stanów Zjednoczonych, ponieważ firma nauczyła się radzić sobie z problemami związanymi z analizą dźwięku w czasie rzeczywistym.
Znaczenie moderacji treści
Moderowanie treści online to trudne zadanie. Widzieliśmy to na Facebooku, Twitterze, Instagramie i tak dalej. Pomiędzy obelgami, nienawistnymi komentarzami, a czasem nawet przemocą lub samookaleczeniem, moderacja jest niezwykle ważna, aby zapewnić bezpieczeństwo tych platform i ochronę ich użytkowników. Jest coś w możliwości ukrycia się za rzekomą anonimowością oferowaną przez Internet, co może wydobyć najgorsze u niektórych ludzi.
Cóż, Yubo nadal pokazuje, że robi wszystko, co w jego mocy, aby temu zapobiec, zwłaszcza że jego baza użytkowników jest znacznie młodsza. Według Yubo, 99% ich bazy użytkowników to pokolenie Z w wieku 13-25 lat. Chociaż nękanie w Internecie nie jest przyjemne dla nikogo, może być szczególnie szkodliwe dla nastolatków.
Technologia moderacji obrazu i wideo istnieje już od jakiegoś czasu i jest wdrażana z różnymi sukcesami. Moderacja dźwięku, jednak pozostaje dużym wyzwaniem, zwłaszcza w przypadku transmisji na żywo. Niezależnie od tego, czy jest to transmisja na żywo nagrana podczas spaceru ulicą, czy taka, w której ktoś gra w grę wideo, nie ma to większego znaczenia.
Jak działa moderacja dźwięku Yubo
Począwszy od maja 2022 r. firma Yubo rozpoczęła fazę próbną swojej technologii moderacji dźwięku w różnych obszarach w Stanach Zjednoczonych. Teraz kolejna faza obejmuje większość regionów anglojęzycznych, w których Yubo ma dużą bazę użytkowników, aby umożliwić firmie uzyskanie lepszego wglądu w jej nowe narzędzie bezpieczeństwa.
Chociaż wciąż nowa, jest to technologia, która może w przyszłości być szeroko stosowana do wykrywania przemocy lub samookaleczeń.
Yubo nie robi tego wszystkiego samodzielnie, ale we współpracy z Hive. Hive, jeśli o nich nie słyszałeś, to firma, która tworzy i udostępnia interfejsy API do moderowania treści w celu przetwarzania obrazów i filmów w czasie zbliżonym do rzeczywistego.
Technologia wdrożona przez Yubo polega na nagrywaniu i transkrypcji 10-sekundowych fragmentów dźwięku w transmisjach na żywo z udziałem 10 lub więcej osób. Tekst jest natychmiast analizowany przez sztuczną inteligencję w celu wykrycia wszelkich słów lub fraz, które naruszają zasady aplikacji Wytyczne dla społeczności.
Czekaj, to się nie kończy. Chociaż sztuczna inteligencja może być świetna w wykrywaniu takich rzeczy, wciąż jest daleko od punktu, w którym może odróżnić rzeczywiste problematyczne zastosowania od fałszywych flag.
Fałszywymi flagami mogą być na przykład piosenki odtwarzane w tle lub żartobliwy język, który nie ma złych intencji.
W tym miejscu do gry wkraczają specjaliści ds. bezpieczeństwa Yubo, którzy są sprowadzeni w celu zbadania zgłoszonych incydentów. Ludzie są tymi, którzy mogą określić, czy sytuacja wymaga eskalacji, czy nie, jeśli są działania które należy podjąć przeciwko osobom używającym wulgarnego języka, a nawet jeśli konieczne jest wszczęcie postępowania egzekucyjnego W.
Jeśli transmisja na żywo jest w porządku, żadne transkrypcje nie są przeglądane ani przechowywane dłużej niż 24 godziny, więc wszystko pozostaje prywatne; lub tak prywatna, jak tylko może być transmisja na żywo z udziałem ponad 10 osób.
Jeśli jednak algorytmy wykryją na przykład groźby przemocy, mowę nienawiści lub samookaleczenie, transkrypty są przechowywane przez okres do jednego roku. Jest to oczywiście środek bezpieczeństwa dla firmy na wypadek, gdyby organy ścigania zażądały informacji lub sama firma potrzebowała szczegółów do dalszych dochodzeń wewnętrznych.
Dyrektor operacyjny Yubo, Marc-Antoine Durand, widzi ekspansję moderacja dźwięku technologii jako kluczowego elementu ewolucji bezpieczeństwa online w całej branży.
„W dziedzinie wykrywania głosu wciąż pozostaje wiele do zrobienia, ale jesteśmy dumni, że torujemy drogę naszym współpracownikom, będąc pierwszym, który uruchomił moderację audio w Hive i pomagając uczynić to narzędzie bardziej niezawodnym i skutecznym w ramach tej wersji próbnej”, Durand powiedział.
Oczywiście platformy społecznościowe nie chcą szerzącego się zastraszania, mowy nienawiści i komentarzy podżegających do przemocy, ponieważ odpychałoby to innych użytkowników. Wdrożenie takiej technologii moderacji jest doskonałym narzędziem zapewniającym bezpieczeństwo użytkowników, a także pomagającym zagwarantować rozwój i sukces Yubo w dłuższej perspektywie.
