ТикТок популяризира публикации за самоубийство и хранителни разстройства
„Все едно си заседнал в зала от изкривени огледала“, каза шефът на „Център за противодействие на дигиталната омраза“
Алгоритмите на ТикТок популяризират видеоклипове за самонараняване и хранителни разстройства сред уязвимите тийнейджъри, съобщи АП, позовавайки се на доклад, публикуван в сряда. Там се подчертават опасенията относно социалните медии и тяхното въздействие върху психичното здраве на младежите, пише БТА.
Изследователи от нестопанската организация "Център за противодействие на дигиталната омраза" създадоха ТикТок акаунти на измислени тийнейджъри в САЩ, Великобритания, Канада и Австралия. След това изследователите, работещи с акаунтите, "харесват" видеоклипове за самонараняване и хранителни разстройства, за да видят как ще реагира алгоритъмът на ТикТок.
Само за минути изключително популярната платформа започва да препоръчва видеоклипове за отслабване и самонараняване, включително такива с кадри на модели с "идеални" тела, изображения на бръснарски ножчета и дискусии за самоубийство.
Изследователите нарочно създават акаунти с потребителски имена, които предполагат конкретна уязвимост към хранителни разстройства - например включват думи като "отслабнете". Така те установяват, че акаунтите започват да бъдат захранвани с още по-вредно съдържание.
"Все едно си заседнал в зала от изкривени огледала, където постоянно ти казват, че си грозен, не си достатъчно добър и може би трябва да се самоубиеш", каза главният изпълнителен директор на центъра Имран Ахмед, чиято организация има офиси в САЩ и Великобритания.
Алгоритмите на социалните медии работят, като идентифицират теми и съдържание, представляващи интерес за потребителя, който впоследствие започва да получава повече от същото - това е начин да се увеличи максимално времето му на престой в даден сайт.
Критиците на социалните медии обаче смятат, че същите алгоритми, които популяризират съдържание за определен спортен отбор, хоби или танц, могат "да устроят" капан с вредно съдържание.
Това е особен проблем за тийнейджъри и деца, които са склонни да прекарват повече време онлайн и са по-уязвими към тормоз, натиск от страна на връстници или негативно съдържание относно хранителни разстройства или самоубийство, смята Джош Голин, изпълнителен директор на "Феърплей", организация с нестопанска цел, която подкрепя въвеждането на онлайн защити за деца.
Той добави, че ТикТок не е единствената платформа, която не успява да защити младите потребители от вредно съдържание и агресивно събиране на данни.
"Всички тези вреди са свързани с бизнес модела", каза Голин. "Няма значение каква е платформата на социалните медии."
Говорител на компанията ТикТок оспори констатациите, като отбеляза, че изследователите не са използвали платформата като типични потребители и в резултат на това резултатите са били изкривени. Компанията също така твърди, че името на акаунта на потребителя не би трябвало да влияе на вида съдържание, което той или тя получава.
ТикТок не допуска потребители под 13 години, а официалните правила на компанията забраняват видеоклипове, които насърчават хранителни разстройства или самоубийство. Потребителите в САЩ, които търсят съдържание за хранителни разстройства в ТикТок, получават подкана, предлагаща ресурси за психично здраве и информация за контакт с Националната асоциация за хранителни разстройства.
"Ние редовно се консултираме със здравни експерти, премахваме нарушенията на нашите политики и предоставяме достъп до поддържащи ресурси за всеки нуждаещ се", се казва в изявлението на ТикТок, която е собственост на "Байт Денс", китайска компания, базирана в Сингапур.
Въпреки усилията на платформата, изследователи от Центъра за противодействие на дигиталната омраза установиха, че съдържание за хранителни разстройства е гледано в ТикТок милиарди пъти. В някои случаи изследователите установиха, че младите потребители на ТикТок използват кодиран език за хранителни разстройства в опит да избегнат модерирането на съдържанието.
Самото количество вредно съдържание, което се предоставя на тийнейджъри в ТикТок, показва, че саморегулирането се е провалило, смята Ахмед, добавяйки, че са необходими федерални правила, за да принудят платформите да направят повече за защита на децата.