- Algoritmy návrhu YouTube jsou vyvolány The New York Times v novém článku.
- Podle výzkumu provedenéhoČasy, Algoritmy YouTube navrhnou hraniční obsah těm, kteří hledají pedofilní videa.
- Algoritmy mohou také posunout hraniční obsah k těm, kteří jej nutně nevyhledávají.
Včera,The New York Times publikoval alarmující článek zaměřující se na to, jak mohou algoritmy YouTube pro navrhování nového obsahu neúmyslně pomáhat pedofilům. Ve skutečnosti některé informace získané z výzkumu díla naznačují, že algoritmy by mohly dokonce pomoci posunout pedofilický obsah k těm, kteří jej nutně nehledají.
Krátce poté, co článek dorazil, zveřejnil YouTube nový příspěvek do svého blogu, který tento článek nepřímo řeší. V příspěvku na YouTube společnost podrobně popisuje kroky, které podnikla v uplynulém roce v boji proti pedofilii na platformě, a různé úsilí, které vynakládá na ochranu dětí.
Příspěvek na YouTube však nenabízí žádné nové strategie; spíše pouze shrnuje své různé současné úsilí jako ujištění.
V článku, který se objeví vThe New York Times, vyprávějí autoři příběh matky, která šťastně souhlasila s tím, že umožní své 10leté dceři zveřejnit video na YouTube sebe a přítele hrajícího na zahradě. Matka byla šokována, když později zjistila, že toto video - které jednoduše zobrazuje dvě mladé dívky, plavající se a ležící kolem bazénu v jejich dvoudílných plavkách - shromáždilo přes 400 000 zhlédnutí.
Video se stalo tak populární částečně díky návrhovým algoritmům YouTube. Tyto algoritmy jsou zodpovědné za navrhování obsahu divákům na základě jiného obsahu, který sledovali. V jistém smyslu YouTube k tomuto videu dětí hrajících v bazénu zavedla pedofily.
Pedofilové nemusí na YouTube hledat hraniční obsah, protože YouTube jim to jednoduše navrhne.
Navíc brazilský výzkumný tým zjistil, že algoritmy YouTube mají tendenci tlačit stále více extrémní obsah svými návrhy. Například by člověk mohl začít sledovat video o tom, jak opravit kolo, a pak sledovat video lidí, kteří skutečně jezdí na kole. Poté by YouTube mohla navrhnout, aby sledovali video padajících cyklistů a poté havarovala další vozidla. Než to divák ví, dostávají návrhy na násilný a rušivý obsah - vše pramení ze sledování videa o tom, jak opravit kolo.
Viz také: Originály YouTube budou zdarma k vidění pro všechny, pouze s reklamami
Podobně lze video z bazénu spojit s podnětným obsahem pro dospělé. Člověk se mohl vydat na YouTube sledovat erotický, ale legální obsah - například naviják modelu bikin.Tento obsah by mohl vést k návrhům na další obsah erotických plavkách, což postupně vede k videím představujícím mladší a mladší modely. Nakonec to vede k téměř půl milionu pohledů na dva desetileté děti v bazénu.
YouTube má vážný problém, který bude vyžadovat, aby společnost postupovala v oblasti etiky na úkor zisků.
KdyžČasy informoval YouTube o tomto problému ohledně videa z bazénu, společnost odstranila několik souvisejících videí, ale nechala mnoho dalších, včetně některých, která se zdají být z falešných účtů. Vylepšila také své návrhy, aby se neobjevil jiný hraniční obsah. YouTube však toto popření úmyslně odmítl, namísto toho tvrdí, že se algoritmus nadále učí.
Nyní YouTube ve svém příspěvku na blogu upozorňuje na své nedávné úsilí o zajištění bezpečnosti dětí na platformě, včetně odstranění komentářů z téměř všech videí s nezletilými, omezení nezletilých v živém vysílání bez přítomnosti dospělých ve videu a omezení doporučení, jako je ty, které popisujeČasy.
YouTube však neprovedl rozsáhlou změnu, která by zabránila tomuto celému problému: vypnout návrhy pro videa s nezletilými. Ačkoli to YouTube umí docela snadno, neučinilo tak, pravděpodobně proto, že návrhy videí vedou kolem 70 procent zhlédnutí. To je hodně v sázce.
Po neočekávané popularitě videa své dcery matka, která ji schválila, řekla, že už nedovolí své dceři zveřejňovat na platformu nic.
