Tegen onderdrukkende algoritmes en verslavend ontwerp kunnen ouders niet altijd bijblijven

Tijdens een recent TikTok Filipijnen-evenement over tienerveiligheid stelde ik hoofd publieke zaken Yvez Gonzalez, samen met een panel van maatschappelijke organisaties en contentmakers die pleiten voor kinderveiligheid op sociale media, vragen over recente bevindingen van de Europese Unie (EU) die bepaalden dat belangrijke ontwerpkenmerken op het platform verslavend waren en moesten worden veranderd. 

Gonzalez zei dat het moederbedrijf in beroep zou gaan tegen de bevindingen en noemde dat ze verschillende functies hebben die gebruikers onder de 18 beschermen, zoals een app-limiet van 60 minuten, ouderlijk toezicht op inhoud, zichtbaarheid van volgers, en het afschermen van de feed en inhoud van minderjarigen van de 18-plus populatie. "We geloven dat we in de industrie een van de meest robuuste waarborgen hebben," zei hij.

Geschiedeniscontentmaker Mona Magno-Veluz bood haar eigen kijk op de vraag en benadrukte dat vooral ouderlijke begeleiding de sleutel is tot het social media-tienergebruik raadsel. 

"Ik ben het ermee eens dat alle platforms hun maatregelen hebben getroffen, maar we kunnen onze verantwoordelijkheid ook niet uit die vergelijking verwijderen. Ik voel oprecht dat ouders, de volwassenen in de kamer ook een verantwoordelijkheid hebben als het gaat om terughoudendheid bij het gebruik van sociale media. Dus ik denk dat het niet alleen een technologie is, maar het moet ook worden aangepakt in onze cultuur en in maatschappelijke normen," zei Magno-Veluz.

Riyan Portuguez, een psycholoog en digitaal welzijnsvoorstander, merkte op dat externe factoren kunnen bijdragen aan het verslaafd raken van een kind, aangezien sociale media een van de meest toegankelijke manieren zijn geworden om te copen.

Ze zei: "Meestal is de gemakkelijkste manier voor ons om te copen het gebruik van sociale mediaplatforms omdat die het meest beschikbaar zijn. Dus daarom zijn er verslavingen, want elke keer als er een probleem is, stress, pak de telefoon."

Met de altijd-aan beschikbaarheid van sociale media is het essentieel dat ouders en het gezin aanwezig zijn voor het kind. "Maar als de communicatie in het gezin oké is, je iemand hebt om buiten sociale media mee te praten, kun je het reguleren. Dus het is niet alleen een kwestie van sociale media," zei ze.

Portuguez's verklaring weerspiegelt eigenlijk de meest recente getuigenis van het baanbrekende sociale media-verslavingsproces in de VS van de voormalige therapeut van eiseres Kaley, Victoria Burke, afgelopen maandag 24 februari.

Burke identificeerde geestelijke gezondheidsproblemen van het kind en zei dat sociale media een "bijdragende factor" waren in haar mentale problemen, maar ze legde de schuld niet volledig bij hen. Kaley is ook beschreven als iemand met een gespannen relatie met haar gescheiden ouders.

Ondertussen vertelde Annalyn Capulong, universitair docent bij de afdeling Psychologie van UP Diliman, tijdens een lokale Senaatshoorzitting over sociale mediaregulering aan wetgevers: "Sentro 'yung ambag ng magulang." (De bijdrage van de ouders staat centraal.)

Maar Capulong erkende zelf de realiteit dat ouders soms vertrouwen op apparaten en schermen om een kind bezig te houden terwijl ze een andere taak uitvoeren. 

Idealiter is de ouder het grootste deel van de tijd aanwezig. We weten dat dat niet altijd mogelijk is, en niet alle gezinnen hebben een ideale situatie zoals te zien in de Kaley-zaak in de VS.

Wat betekent dit? Dit betekent dat een bepaald deel van de minderjarige populatie letterlijk aan hun eigen lot wordt overgelaten, overgeleverd aan de ontwerpkenmerken van een app. Dit zijn de meest kwetsbare leden van de populatie, en platforms moeten afgestemd zijn op de veiligheid hiervan.

"Maken we het platform veilig voor onze meest risicogevoelige gebruikers?" zou idealiter de vraag moeten zijn die ze zichzelf stellen. En aangezien geestelijke gezondheid en omgevings- en familiefactoren mensen na hun minderjarigheid beïnvloeden, is het aan de platforms om dit probleem aan te pakken — niet alleen voor minderjarigen, ook al zijn de juridische en wetgevende gesprekken voor nu daarop gericht.

Meta vindt ouderlijke bemiddeling niet effectief

Intern, eerder niet-gepubliceerd onderzoek van Meta, dat pas recent tijdens het proces werd onthuld, had ook vastgesteld dat zowel ouderlijk toezicht als tijdslimieten niet zo effectief zijn als gedacht.

Project MYST (Meta and Youth Social Emotional Trends) was een enquête onder 1.000 tieners en ouders over social media-gebruik, die concludeerde dat "er geen verband is tussen ofwel ouderlijke rapporten of tienerrapporten van ouderlijk toezicht, en de enquêtemetingen van tieners voor aandachtigheid of vermogen" en dat "ouderlijke en huishoudelijke factoren weinig verband hebben met het gerapporteerde niveau van aandachtigheid van tieners voor hun social media-gebruik."

Nog kwetsbaarder zijn jongeren die in een stressvolle omgeving verkeren. Zij vertonen volgens de resultaten van de enquête veel minder controle over social media-gebruik. 

Terugkijkend op het EU-rapport over TikTok zei de Commissie: "huidige maatregelen op TikTok, met name de schermtijdbeheerstools en ouderlijk controletools, lijken de risico's die voortkomen uit TikTok's verslavende ontwerp niet effectief te verminderen... ze zijn gemakkelijk af te wijzen en introduceren beperkte wrijving."

Het gaat terug naar de ontwerpkenmerken van een social media-platform — niet alleen TikTok — (oneindig scrollen, autoplay, pushmeldingen, algoritmische aanbevelingen) die in de VS en EU steeds vaker als "verslavend" worden omschreven. 

Zelfs in de Filipijnen staan de woorden "verslavend" en "dwangmatig gebruik" al in ten minste twee conceptwetsvoorstellen. Senate Bill (SB) 185 definieert een social media-platform als een platform dat algoritmische content-levering gebruikt en "verslavende kenmerken" heeft. 

SB 601 beveelt platforms aan om "kenmerken te beperken die het gebruik van het SMP (social media-platform) door het kind verhogen, in stand houden of verlengen, zoals automatisch afspelen van media, beloningssysteem voor tijd doorgebracht op het platform, meldingen en andere kenmerken die resulteren in dwangmatig gebruik." 

'Een optie om het algoritme te vertragen'

TIME "100 Most Influential People in Health" laureate Laura Marquez-Garret, een advocaat bij het in Seattle gevestigde Social Media Victims Law Center, sprak onlangs met Democracy Now. Ze zei dat deze ontwerpkenmerken eigenlijk "defecten" zijn, en dat dit is wat moet worden aangepakt, zonder een direct verbod. 

"En dus uiteindelijk het oplossen ervan — en zij (social media-bedrijven) weten dit; het staat in hun documenten die openbaar worden — ze zouden de verslavende mechanismen kunnen verwijderen. Het is net zo simpel als — denk aan je televisietoestel thuis. We hebben deze afstandsbediening. We kunnen het volume omlaag, omhoog zetten, van zender veranderen. Ze hebben die controles aan de achterkant gehouden. Ze zouden je de optie kunnen geven om het algoritme te vertragen," zei Marquez-Garret. 

"Dus ze programmeren vooral voor betrokkenheid... En in het geval van kwetsbare kinderen is het dodelijk," voegde ze toe. 

Het huidige proces en de trend van sociale mediaverboden wereldwijd laten zien dat er momentum is tegen de techbedrijven. 

Big Tech lobbyt agressief tegen overheidsinterventie

En het is momentum waartegen platforms agressief hebben gelobbyd.

Wat ze willen is "de minst slechte optie," vertelde Bram Vranken van het Corporate Europe Observatory, een groep die bedrijfslobbying monitort, aan de New York Times. 

Wat is de "minst slechte" optie? 

De Times meldde: "Wat deze bedrijven verkiezen zijn wetten die vereisen dat ouders, niet overheden, het laatste woord hebben over de online gewoonten van kinderen... Silicon Valley-titanen lobbyen agressief voor een alternatief voor verboden." 

In plaats van een verbod pushen de bedrijven voor een "Digitale Meerderjarigheidsleeftijd" in de EU die opnieuw de verantwoordelijkheid bij ouders legt om goed te keuren of hun kinderen van 15 of 16 jaar sociale media al dan niet mogen gebruiken. 

Een overwinning daar stuurt de aandacht opnieuw weg van het algoritme en de kenmerken van hun platforms die voorwaarden voor dwangmatig gebruik creëren — en weg van een voorgestelde Digital Fairness Act die oneindig scrollen, autoplay en betrokkenheidsgebaseerde aanbeveling zou verbieden. 

"Het zou waarschijnlijk complexe herontwerpen van platforms vereisen en hun marketingmachines belemmeren," schreef de New York Times. 

Momenteel steunen de bedrijven in de Filipijnen een vergelijkbaar "leeftijdsgeschikt raamwerk" — verschillende toegangsregels voor verschillende leeftijdsgroepen.

Maar het lijkt niet veel te verschillen van de "Digitale Meerderjarigheidsleeftijd" doordat de verantwoordelijkheid bij de ouder ligt om het af te dwingen, en het zal het gebruik van leeftijdsverificatieprocessen vereisen die niet altijd gemakkelijk te handhaven zijn in plaats van het aanpakken van de genoemde kernontwerp kenmerken.

Dus misschien kan hier ook de focus liggen op de verslavende kenmerken zelf.

Facebook-klokkenluider Frances Haugen vertelde Democracy Now: "Wanneer je kinderen hebt wier hersenen gewoon worden ondergedompeld in dopamine door de hele dag te scrollen op zo'n jonge leeftijd, verandert het hun vermogen om stil te zitten in de klas, om zinvol face-to-face te communiceren met haar familie of vrienden... toch blijven ze optimaliseren om meer en meer tijd op deze platforms door te brengen."

Platforms weten wat hier voor hen op het spel staat. Wat er gebeurt bij het Amerikaanse proces en EU-onderzoeken kan een domino-effect hebben op de platforms wereldwijd.

Er is bewijs van een populatie die kwetsbaar is voor sociale mediaverslaving, of dat nu komt door een moeilijk gezinsleven of persoonlijke geestelijke gezondheidsproblemen. Er is ook bewijs dat veiligheidsmaatregelen niet zo effectief zijn geweest omdat de "verslavende" kenmerken, bij gebrek aan betere woorden, nog steeds krachtiger zijn. 

En te midden van dat alles lijken platforms nog steeds te lobbyen om de verantwoordelijkheid op de schouders van ouders te houden in plaats van ons de optie te geven om "het algoritme te vertragen." Ouders, gezinnen hebben meer hulp nodig.  – Rappler.com