NewsUSA

YouTube promuje zaburzenia odżywiania. Konsekwencje mogą być tragiczne

Szkodliwe materiały promowane są przez popularne marki i osiągają setki tysięcy wyświetleń.

Organizacja Center for Countering Digital Hate opublikowała raport na temat szkodliwego algorytmu platformy YouTube. Po symulacji doświadczeń hipotetycznej 13-latki i jej pierwszych kroków na platformie badacze doszli do makabrycznych wniosków. Okazało się bowiem, że algorytm YouTube promuje szkodliwe treści na temat zaburzeń odżywiania oraz autoagresji i podsuwa je dziewczynkom. 

  • Algorytm YouTube rekomenduje dzieciom szkodliwe treści, które narażają ich bezpieczeństwo. 
  • 1 na 3 analizowane filmy promował szkodliwe treści związane z zaburzeniami odżywiania, 2 na 3 dotyczyły zaburzeń odżywiania lub utraty wagi, a 1 na 20 dotyczył autoagresji.
  • Materiały te promowane były przez reklamy dużych marek, takich jak Nike czy Grammarly. 
  • Średnia ilość wyświetleń każdego ze szkodliwych filmów sięgała prawie 400 tysięcy. 
  • W obliczu makabrycznych wniosków można zastanawiać się nad słusznością regulacji w Australii, która wykluczyła YouTube z ograniczeń. Narastają również wątpliwości co do ograniczeń wiekowych platform w Unii Europejskiej. 

YouTube promuje szkodliwe treści — nastolatki są najbardziej narażone 

Badacze stworzyli fikcyjny profil informując platformę, że konto należy do 13-letniej dziewczyny ze Stanów Zjednoczonych. Taki wybór nie jest przypadkowy — jest to bowiem grupa demograficzna podatna na zaburzenia odżywiania. Dodatkowo, umożliwia przetestowanie zabezpieczeń platformy YouTube dla młodszych użytkowników. 

Następnie przeprowadzono 100 wyszukiwań na koncie testowym, używając popularnych słów kluczowych związanych z zaburzeniami odżywiania, które zostały zidentyfikowane we wcześniejszych badaniach. Po każdym wyszukiwaniu algorytm YouTube rekomendował dziesięć filmów, co łącznie dało 1000 rekomendacji (10 filmów po każdym z 100 wyszukiwań). Badacze zarejestrowali 10 najlepszych polecanych treści wyświetlanych w panelu obok filmów. 

Pomiędzy poszczególnymi wyszukiwaniami historia konta oraz pliki cookie usuwano, aby upewnić się, że nie wpływają one na rekomendacje. W ten sposób każda symulacja odzwierciedlała polecane treści, które mogłyby być wyświetlane nastoletniej dziewczynie napotykającej materiały dotyczące zaburzeń odżywiania na YouTube po raz pierwszy.

Ostatecznie badacze przeanalizowali 1000 rekomendowanych filmów i sklasyfikowali je jako jedną z czterech kategorii:

  • Szkodliwe treści związane z zaburzeniami odżywiania, które naruszają zasady YouTube.
  • Inne treści związane z zaburzeniami odżywiania.
  • Treści o odchudzaniu.
  • Treści niezwiązane z tematem. 
Organizacja Center for Countering Digital Hate opublikowała raport na temat szkodliwego algorytmu platformy YouTube. Wnioski badań szokują — okazało się bowiem, że algorytm YouTube promuje szkodliwe treści na temat zaburzeń odżywiania oraz autoagresji wśród nastolatek.
Przykład tego, jak rekomendacje wyglądają dla 13-letniej użytkowniczki. Film nosi tytuł „TW: Ed// My safe foods” i zawiera zarówno skrót od angielskiego wyrażenia oznaczającego zaburzenia odżywiania  („ed” od „eating disorder”), jak i popularny termin oznaczający „bezpieczne jedzenie” (takie, które nie ma lub prawie nie ma kalorii). Rekomendacje po prawej stronie zostały zaznaczone kolorami zgodnie wg legendy na zdjęciu. Źródło: Center for Countering Digital Hate, „YouTube’s Anorexia Algorithm”.

Zobacz także: Zakaz mediów społecznościowych do 16. roku życia. Australia bierze zły przykład z Chin?

Dane szokują — wyraźnie wskazują na to, że YouTube promuje szkodliwe treści 

Wyniki analizy pokazały, że 638 polecanych filmów zachęcało potencjalne użytkowniczki do dalszego poszukiwania treści dotyczących zaburzeń odżywiania lub obsesyjnego odchudzania. Nieco ponad jedna trzecia rekomendacji, bo aż 344 z nich, zostały uznane za bezsprzecznie szkodliwe i gloryfikujące zaburzenia. Zdaniem CCDH były to treści wprost naruszające zasady YouTube, które nie powinny być obecne na platformie. Co więcej, 50 z badanych filmów dotyczyło treści związanych z autoagresją.

YouTube nie robi nic, by zwalczyć problem 

W kwietniu 2023 roku platforma zaktualizowała zasady dotyczące treści, o których mowa w artykule. W celu ich zwalczania dodała możliwość nałożenia ograniczeń wieku na filmy zawierające materiały na temat zaburzeń odżywiania (także takie skoncentrowane na powrocie do zdrowia po ich doświadczeniu) lub zawierające wystarczający kontekst edukacyjny, dokumentalny, naukowy lub artystyczny. Takie treści mogą otrzymać ograniczenie wiekowe i/lub panel zasobów kryzysowych, który ma pomóc w szybkim otrzymaniu pomocy. 

Platforma podjęła również kroki w celu blokowania niektórych terminów związanych ze środowiskiem promującym zaburzenia odżywiania. Przykładem są słowa „thinspiration” lub „thinspo”, używane do znalezienia wychudzonych sylwetek mających służyć jako inspiracja. Badanie CCDH wykazało jednak, że filmy z takimi terminami nadal pozostają na YouTubie i można dosyć łatwo do nich dotrzeć. Są one nadal wyszukiwane przez użytkowników, którzy robią to po prostu zamieniając literę „o” na zero lub wstawiając wykrzyknik za literę „i”. 

W ramach badań CCDH zgłoszono 100 z przeanalizowanych filmów i oznaczono je jako promujące zaburzenia odżywiania, bullying oparty na wadze lub pokazywanie szkodliwych zachowań do naśladowania. YouTube usunął 17 z tych filmów, nałożył ograniczenie wiekowe na 1 z nich oraz przy 1 dodał panel zasobów kryzysowych. 

W rezultacie wprowadzenia nowych zasad platformy do takich materiałów dostęp otrzymać powinni jedynie pełnoletni zalogowani użytkownicy.  Jednakże — tak jak widzimy dzięki analizie — YouTube promuje szkodliwe treści wśród niepełnoletnich użytkowników. Co więcej, nie reaguje na większość zgłoszeń takich materiałów w odpowiedni sposób. 

Popularność szkodliwych treści przeraża

YouTube to platforma, która w USA wyprzedza swą popularnością takie media społecznościowe jak TikTok czy Instagram. Nieco ponad 70% nastolatków korzysta z niej codziennie, a 16% z nich deklaruje, że jest na tej witrynie niemal bez przerwy

Filmy analizowane w badaniu średnio mają ponad 388 tysięcy wyświetleń każdy. W momencie badania jeden z wymienionych jako gloryfikujący wychudzenie filmów osiągnął 1,1 mln wyświetleń, a później liczba ta wciąż rosła. 

Widoczność takich materiałów jest dodatkowo potęgowana przez algorytm YouTube. Wielu tym filmom towarzyszą reklamy dużych marek, takich jak Nike, T-Mobile, Grammarly czy Depop (ogromna platforma służąca do sprzedaży i kupowania przedmiotów, głównie ubrań; popularna m.in. w Stanach Zjednoczonych czy Wielkiej Brytanii). Nie wiadomo czy marki są świadome takiego umiejscowienia reklam. 

Zobacz także: TikTok Shop debiutuje w Hiszpanii! Nowy gracz podbije rynek e-commerce?

Nowa perspektywa na regulacje w Australii i na świecie

W artykule na temat zakazu mediów społecznościowych dzieciom poniżej 16. roku życia w Australii poruszyliśmy temat ograniczeń wiekowych na platformach internetowych. Na przykład, w krajach Unii Europejskiej wymagana jest zgoda rodzica na przetwarzanie danych osobowych dziecka poniżej 16. roku życia. Państwa członkowskie mogą jednak obniżyć tę granicę do 13. roku życia poprzez wewnętrzne regulacje.

Surowy zakaz wprowadzony w Australii nie obejmie wszystkich platform. Co prawda, kryteria wyboru portali społecznościowych, które będą musiały dostosować się do nowych regulacji nie są jeszcze znane. Wiemy jednak, że mają one ominąć przykładowo YouTube, z uwagi na edukacyjne treści, które można tam znaleźć.

W świetle badań CCDH możemy mieć poważne wątpliwości, czy wykluczenie YouTube z tej grupy jest dobrą decyzją. Wyniki analizy skłaniają również do zastanowienia się nad tym, czy regulacje w Unii Europejskiej są wystarczające. Jedno jest pewne — zarówno YouTube czy inne portale, jak i państwa na świecie muszą skupić się na zapewnieniu cyberbezpieczeństwa dzieci. W innym wypadku tragicznych skutków będzie przybywać.

Wszelkie prawa do treści zastrzeżone.

Martyna Paja

Miłośniczka języków i wschodoznawczyni. Interesuję się kulturą Azji Południowo-Wschodniej, ale inne tematy nie są mi straszne.

Polecane artykuły

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *

Back to top button

Adblock Detected

Please consider supporting us by disabling your ad blocker