- De suggestie-algoritmen van YouTube worden opgeroepen door De New York Times in een nieuw artikel.
- Volgens onderzoek uitgevoerd doorDe tijden, Zullen de algoritmen van YouTube borderline-inhoud voorstellen aan mensen die op zoek zijn naar pedofiele video's.
- Wat meer is, de algoritmen kunnen ook borderline-inhoud pushen naar diegenen die het niet noodzakelijkerwijs opzoeken.
Gisteren,De New York Times publiceerde een alarmerend artikel over de manier waarop de algoritmen van YouTube voor het suggereren van nieuwe inhoud onbedoeld pedofielen kunnen helpen. Sommige informatie uit onderzoek voor het stuk suggereert zelfs dat de algoritmen zelfs kunnen helpen pedofiele inhoud te pushen naar degenen die er niet noodzakelijk naar op zoek zijn.
Kort nadat het artikel was geland, plaatste YouTube een nieuw bericht op zijn blog dat indirect het artikel behandelt. In het YouTube-bericht beschrijft het bedrijf de acties die het afgelopen jaar heeft ondernomen om pedofilie op het platform te bestrijden, evenals de verschillende inspanningen die het heeft geleverd om kinderen te beschermen.
Het YouTube-bericht biedt echter geen nieuwe strategieën; het vat eerder alleen de verschillende huidige inspanningen samen als een geruststelling.
In het artikel dat verschijnt inDe New York Times, vertellen de schrijvers het verhaal van een moeder die blij was dat ze haar 10-jarige dochter toestond een video op YouTube te posten van zichzelf en een vriend die in de achtertuin speelde. De moeder was geschokt om later deze video te vinden - die eenvoudig twee jonge meisjes weergeeft die rond het zwembad zwemmen en loungen in hun tweedelige zwempakken - had meer dan 400.000 views opgeleverd.
De video werd zo populair vanwege de suggestie-algoritmen van YouTube. Deze algoritmen zijn verantwoordelijk voor het voorstellen van inhoud aan kijkers op basis van andere inhoud die ze hebben bekeken. In zekere zin heeft YouTube pedofielen naar deze video geleid van de kinderen die in het zwembad spelen.
Pedofielen hoeven niet te zoeken naar borderline-inhoud op YouTube omdat YouTube het hen gewoon zal voorstellen.
Bovendien ontdekte een Braziliaans onderzoeksteam dat de algoritmen van YouTube de neiging hebben steeds extremere inhoud te pushen met zijn suggesties. Een persoon kan bijvoorbeeld beginnen met het bekijken van een video over het repareren van een fiets en vervolgens een video bekijken van mensen die daadwerkelijk fietsen. Vervolgens zou YouTube kunnen voorstellen dat ze een video bekijken van crashende fietsers en vervolgens andere voertuigen die crashen. Voordat de kijker het weet, krijgen ze suggesties voor gewelddadige en verontrustende inhoud - allemaal afkomstig van het bekijken van een video over het repareren van een fiets.
Zie ook: YouTube Originals zijn gratis voor iedereen, alleen met advertenties
Evenzo kan de zwembadvideo worden gekoppeld aan suggestieve inhoud voor volwassenen. Een persoon kan erotische, maar legale inhoud op YouTube bekijken, bijvoorbeeld de haspel van een bikinimodel.Die inhoud zou kunnen leiden tot suggesties voor andere inhoud van het erotische badpak, wat geleidelijk leidt tot video's met jongere en jongere modellen. Uiteindelijk leidt dit tot bijna een half miljoen weergaven van twee tienjarigen in een pool.
YouTube heeft een serieus probleem waardoor het bedrijf moet handelen op basis van ethiek ten koste van de winst.
WanneerDe tijden YouTube op de hoogte bracht van dit probleem met betrekking tot de zwembadvideo, verwijderde het bedrijf verschillende gerelateerde video's, maar liet vele anderen achter, waaronder enkele die afkomstig waren van nepaccounts. Het heeft ook zijn suggesties aangepast zodat andere borderline-inhoud niet werd weergegeven. YouTube weigerde dit echter met opzet te doen, maar beweerde in plaats daarvan dat het algoritme blijft leren.
Nu benadrukt YouTube in zijn reactieblogpost zijn recente inspanningen om kinderen veilig te houden op het platform, waaronder het verwijderen van opmerkingen uit bijna alle video's met minderjarigen, het beperken van minderjarigen van livestreaming zonder een volwassene in de video en het beperken van aanbevelingen zoals de degenen beschreven doorDe tijden.
YouTube heeft echter niet de ingrijpende verandering doorgevoerd die dit hele probleem zou voorkomen: suggesties uitschakelen voor video's met minderjarigen. Hoewel YouTube de mogelijkheid heeft om dit vrij eenvoudig te doen, is dit niet het geval, waarschijnlijk omdat videosuggesties ongeveer 70 procent van de weergaven genereren. Dat is een hoop inkomsten.
Na de onverwachte populariteit van de video van haar dochter, zei de moeder die de video goedkeurde, dat ze haar dochter niets meer op het platform zou toestaan.
