‘Je laat geen vreemde in de kamer van je kind, dus waarom een smartphone wel?’
Regisseur Marc Silver over de documentaire ‘Molly versus het algoritme’
Alleen in haar slaapkamer maakte de veertienjarige Molly Russell in 2017 een einde aan haar leven. Sindsdien confronteert haar rouwende vader de Big Tech-bedrijven, die hij verantwoordelijk houdt. In ‘Molly versus het algoritme’ (VPRO) volgt regisseur Marc Silver de strijdbare vader en legt hij bloot hoe het verdienmodel van Big Tech ons in zijn greep houdt. NPO Doc sprak de filmmaker over de documentaire.
Molly versus het algoritme
Molly Russell leek een gewone tiener. Toch maakte ze op een avond onverwacht een einde aan haar leven.
Regisseur Marc Silver zag na het lezen van een kort artikel over Molly Russel meteen een documentaire voor zich. Molly leek een gewone, gelukkige tiener, omringd door liefde van haar familie en vriendinnengroep. Een meisje van veertien dat op een dag thuiskwam van toneelles, huiswerk maakte, televisiekeek met haar gezin en welterusten zei tegen haar vader. Een paar uur later maakte ze een einde aan haar leven.
Na haar dood ontdekten haar ouders dat Molly op Instagram werd overspoeld met content over depressie, zelfdoding en zelfbeschadiging. Sindsdien strijdt vader Ian Russel tegen de macht van Big Techbedrijven en hun invloed op tieners.
Alle pijlen op Big Tech
Silver hield zich al eerder bezig met de macht van Big Tech en keek door die bril naar Molly’s verhaal. ‘Wat Molly overkwam, laat zien hoe sociale media zijn ontworpen’, aldus de regisseur. ‘Ze zijn erop gericht je betrokken te houden en je privacy te schenden, om je vervolgens vast te houden met onderwerpen die je interesseren. Dat wordt tot het uiterste gedreven door steeds extremere content te tonen.’
Molly's verhaal is volgens Silver dan ook exemplarisch voor het verdienmodel van Silicon Valley: ‘Dit soort tragische gebeurtenissen zijn onvermijdelijk wanneer een systeem op die manier werkt.’
Het gaat me er niet om dat schadelijke content wordt verwijderd, maar dat mensen snappen waaróm we die beelden zien
Om die redenen richt Silver zijn pijlen in Molly versus het algoritme op de systemen achter de immens populaire sociale mediaplatforms en AI-applicaties. Hij wilde een verhaal maken waardoor het brede publiek anders naar Big Tech kijkt.
'Het gaat me er niet om dat schadelijke content wordt verwijderd', stelt hij. 'Ik wil het gesprek naar een dieper niveau brengen: de redenen waaróm we die beelden te zien krijgen. Dat komt door het onderliggende verdienmodel. Ik hoop dat mensen dat na het zien van de film goed begrijpen. Als dat gebeurt, krijg je een culturele verschuiving die tot politieke en beleidsmatige veranderingen kan leiden.’
AI als stem van het algoritme
De film toont Molly’s nabestaanden die terugblikken op haar leven en de impact van sociale media, volgt haar vader in zijn strijd tegen Big Tech en laat archiefbeelden zien waarin techbazen zich verdedigen. Met een aantal opvallende vertelvormen zorgt Silver ervoor dat het verhaal extra beklijft.
Zo laat hij AI het verhaal van Molly vanuit het perspectief van het algoritme van sociale media vertellen. ‘We hadden onze protagonist, Molly’s vader, die wil uitzoeken hoe zijn dochter is overleden en uiteindelijk lobbyt tegen de macht van Sillicon Valley. We hadden dus ook een duidelijke tegenstander nodig. Maar hoe breng je dat in beeld? Toen zag ik een Instagramvideo waarin een moeder aan ChatGPT vroeg: "Hoe zou je kinderen onder controle houden vanuit het perspectief van de duivel?" Het antwoord beschreef exact hoe sociale media werken. Dat wilde ik in de film laten zien.’
Dit maakte dat Silver zelf ChatGPT vragen ging stellen. "Hoe zou je vanuit het perspectief van de duivel het verhaal van Molly Russell vertellen?”, was een van zijn vragen. Maar de filmmaker wilde ook dat AI zijn eigen verhaal zou laten zien. Daarom vroeg Silver ook: “Hoe zou je het verhaal van surveillancekapitalisme vertellen?".
Het is geen natuurwet dat algoritmes de macht overnemen, het zijn mensen die beslissen dat dit mogelijk is
‘Doordat ChatGPT is getraind op alles wat er op het internet staat, heeft het toegang tot kennis over Molly Russell en surveillancekapitalisme’, legt hij uit. ‘Surveillancekapitalisme staat aan de basis van waarom algoritmes werken zoals ze werken. We vonden het daarom interessant om de AI zo aan te sturen dat hij zijn eigen geschiedenis zou onthullen, om zo zijn rol in Molly’s dood te vertellen.’
‘Dat onthullen had in het begin nog het klassieke, apocalyptische idee dat machines de wereld overnemen, blikt Silver terug. ‘Maar we wilden juist laten zien dat het ménsen zijn in Silicon Valley die hun ideologie in deze applicaties verwerken. Het is geen natuurwet dat algoritmes de macht overnemen en tieners de meest gruwelijke dingen laten zien; het zijn mensen die beslissen dat dit mogelijk is.’
Een decennialange strijd
De regisseur wil met zijn film mensen bewust maken van de gevaren van het verdienmodel van Big Tech. Maar heeft het effect? Silver schat in dat het tientallen jaren zal kosten om de problematiek te onderkennen, bewustzijn te creëren en uiteindelijk daadwerkelijk verandering teweeg te brengen.
‘Dat zie je ook bij andere grote thema’s als de klimaatcrisis en de macht van de tabaksindustrie’, verklaart hij. ‘Het is lastig om op de korte termijn te beoordelen wat voor impact dit heeft. Daar gaat het wat mij betreft ook niet om. We moeten verzet blijven bieden tegen de ideologieën waarop Big Tech is gebouwd, ongeacht wat de impact op dit moment precies is.’
Geef kinderen hun slaapkamer terug
‘Toen ik tiener was, was de slaapkamer een veilige plek’, blikt de filmmaker terug. ‘Als je een rotdag had op school, sloot je je op in je kamer waar de buitenwereld niet binnenkwam. Nu is dat, door aanwezigheid van de smartphone, een plek geworden waar persoonlijke informatie aan je worden onttrokken.’
Als een mens zich zo zou gedragen als het algoritme, zouden we die nooit in de buurt van onze kinderen toestaan
Daarom geeft Silver dit een grote rol in de film, je ziet animatiebeelden, gemaakt met behulp van LiDAR-technologie, van Molly op haar slaapkamer, bevangen door haar smartphone. Silver: ‘Ons kind met een smartphone naar hun kamer sturen is alsof we een wildvreemde meesturen, die observeert en hun gedrag beïnvloedt. Als een mens zich zo opdringerig zou gedragen als het algoritme en continu ongepaste dingen zou zeggen, zouden we die nooit in de buurt van onze kinderen toestaan. Laat staan dat we ze zonder toezicht in hun slaapkamers laten.’
Het geruststellende is volgens Silver dat je op microniveau als bezorgde ouder makkelijker invloed kan hebben. Naast zo lang mogelijk wachten met een smartphone, goede voorlichting geven en alternatieven gebruiken voor apps van de Big Techreuzen, geeft Silver het terug claimen van de kinderslaapkamer dus als ultieme tip.
Molly versus het algoritme
Molly Russell leek een gewone tiener. Toch maakte ze op een avond onverwacht een einde aan haar leven.