Jakob Boer

Lucies maatschappelijke duikvlucht. Of: hoe ratings in het publieke domein de menselijke waardigheid en solidariteit ondermijnen.

Spoiler alert.

Hoewel, spoiler? Ik ben vast een van de weinige die nog niet bij is. Maar toch: wees gewaarschuwd.

Een duikvlucht in Netflix. Ik keek Nose Dive, de eerste aflevering van het derde seizoen Black Mirror, en was meteen weer verslaafd. 

Een geweldige seizoensopening, volgens het beproefde Black Mirror recept. Dat wil zeggen, een bestaand technologisch of sociologisch aspect van de hedendaagse mediacultuur wordt uitgelicht, uitvergroot, en tot in het extreme doorgevoerd zodat het resulteert in tamelijk verontrustende, dystopische science fiction. Het verontrustende is dat het vaak zo voorstelbaar en invoelbaar is. De makers slagen er (wat mij betreft) goed in het fenomeen in kwestie op zo'n manier voor te stellen dat het tegelijkertijd herkenbaar en toch ergens vreemd en ongemakkelijk is. Unheimlich noemde psychoanalyticus Sigmund Freud dit (uncanny in het Engels). De makers weten altijd een spanning onder de oppervlakte, een maatschappelijk pijnpunt bloot te leggen. En steken in die wonde vervolgens ongenadig hun creatieve, artistieke vinger. Soms is fictie toch echt vreemder dan de werkelijkheid.

Eerdere afleveringen gingen over bijvoorbeeld over de invloed van beeldvorming en media op de politiek, de mogelijkheid van door technologie ondersteund menselijk geheugen, of technologisch gemedieerd contact met de doden. In deze aflevering gaat het om ratings. Het verhaal speelt zich af in een orwelliaanse toekomst waarin mensen elkaar continu beoordelen d.m.v. ratings. Net zoals we tegenwoordig diensten en producten raten, beoordelen mensen in deze denkbeeldige toekomst elkaar als persoon. Naast dat dit de populariteit en sociale status van iemand mede – of in de wereld van Black Mirror (verder BM) moet ik eigenlijk zeggen: vooral – bepaalt, heeft de rating ook verdere, verstrekkende impact op het leven van mensen. Zo bepaalt iemands rating of hij in aanmerking komt voor een woning, welke auto hij kan huren, of zelfs waar hij zich wel of niet mag begeven in de openbare ruimte. Met andere woorden, de ratings zijn een allesbepalende factor in de maatschappelijke hiërarchie en de mate van sociale mobiliteit. We volgen in deze aflevering het hoofdpersonage Lucie (Bryce Dallas Howard) dat behoorlijk obsessief bezig is met haar rating en veel van haar tijd investeert in het opbouwen van een hogere rating. Vervolgens leven we met haar mee als ze op een angstaanjagende manier publiekelijk in ongenade valt en eigenlijk alles wat ze in haar leven heeft opgebouwd kwijt raakt.

Zoals gezegd, er zit veel herkenbaars in de voorgestelde wereld van BM. We kennen allemaal de macht van ratings, aandacht, en roem. Bedrijven is er veel aan gelegen om goede beoordelingen te krijgen. Zoveel dat ze bereid zijn vals te spelen door bijvoorbeeld goede recensies te faken of anderen te betalen voor positieve feedback. Of denk aan het belang van likes en volgers op Instagram. Hoe meer likes en volgers, hoe meer aandacht, hoe meer reclamegeld bedrijven over hebben voor zgn. influencers. Rondom Instagram is inmiddels een levendige zwarte markt (een miljoenenindustrie) ontstaan rondom de handel in (nep)likes en (nep)volgers. Zie hiervoor de documentaire #followme. We herkennen ongetwijfeld ook de gerichtheid op anderen en een zekere vorm van statusangst. De manier waarop we (sociale) media gebruiken – de eenzijdige nadruk op succesverhalen, de exponentiële uitvergroting van ons (virtuele) sociale netwerk waarmee we onszelf (negatief) vergelijken – zorgt als het ware voor een gigantische, haast continue bevestiging van deze zeer menselijke onzekerheden. Media hebben dus een duidelijke invloed op ons dagelijks leven, op onze sociale status en zelfs op de ontwikkeling van onze identiteit. Ik zou liegen als ik ontkende dat ook ik (in ieder geval toch soms) een zo goed mogelijk beeld van mezelf naar de buitenwereld projecteer in de hoop op waardering en respect. Ook ik ben gevoelig voor de beoordeling van anderen. Dit is een fundamentele eigenschap van mensen, sociale wezens als we zijn. Daar is op zich niks mis mee. Ik denk niet dat het reëel is om een wereld te willen waarin we elkaar niet meer beoordelen. Waar BM ons echter voor waarschuwt is onkritisch gebruik van technologie op een manier die de fundamentele menselijke gelijkwaardigheid en menselijke solidariteit ondermijnt. 

Het vervreemdende, verontrustende in BM komt door de mate waarin de oordelen van anderen bepalend zijn, niet alleen voor Lucies gevoel van eigenwaarde en identiteit (zoals dat ook voor ons kan zijn), maar des te meer ook voor haar levensloop, haar sociale status en haar economische positie. Met andere woorden, het ratingsysteem heeft een schrikbarend grote invloed op de kansen die zij (net als ieder ander) krijgt om in vrijheid keuzes te kunnen maken en haar leven te kunnen leiden naar haar eigen ideeën en overtuigingen. Die macht beperkt en bedreigt zo de individuele (keuze)vrijheid die de basis vormt van de democratische, liberale rechtsstaat zoals we die nu kennen. Waarmee ik overigens niet naïef wil zeggen dat er in onze huidige samenleving wél een complete kansengelijkheid bestaat, verre van dat zelfs. Ik ben me bewust van de toevallige (contingente) invloed op je leven van erfelijkheid, opvoeding, socio-economische posities van de ouders, of zelfs de plaats waar je opgroeit (zie dit filmpje over de invloed van je postcode op je leven bijvoorbeeld). Maar mijn punt is dat óók het gebruik van technologie, data, en algoritmes invloed heeft op je leven!

Er zijn verder nog een aantal belangrijke implicaties (enigszins willekeurig opgesomd) die ik uit de aflevering opmaak:

• Het verkrijgen en behouden van hoge ratings werkt sociaal gewenst gedrag in de hand. Alle menselijke interactie vervlakt zo in BM tot gemaakte, neppe hoffelijkheid; het over-de-toppunt van het gekende Amerikaanse exportproduct, de vriendelijke glimlach. Ook in dit aspect mengen zich het bekende en het vreemde. Onze huidige westerse samenleving kenmerkt zich eigenlijk al door een sterke neiging tot conformatie aan maatschappelijke normen. Daarbij komt dat mensen tegenwoordig ook steeds meer, sneller en agressiever aanstoot nemen aan elkaar en verwachten dat de ander zich aan hen aanpast. Denk bijvoorbeeld aan roken in het openbaar, vuurwerkvrije zones, of kindvrije campings. Of denk aan de vrijheid van meningsuiting in het publieke debat die onder druk is komen te staan ten gevolge van identiteitspolitiek als het gaat over onderwerpen als religie, racisme, seksisme, etc.
• Het ratingsysteem wordt ook ingezet in het publieke domein als straffende, disciplinerende maatregel om ongewenst gedrag tegen te gaan. Zo zijn er de middelen van tijdelijke puntenaftrek en een verdubbeling van de impact van negatieve ratings. Agenten hoeven eigenlijk zelfs geen vuurwapens meer te dragen, want hun sterkste wapen is het ratingsysteem zelf. Het geweldsmonopolie van de staat zoals we dat nu kennen, is in BM gereduceerd tot de macht van het uitdelen van ratingstraffen. Hoe typerend en hemeltergend is die glimlach van de politieagent die Lucie op het vliegveld bestraft en haar zo gruwelijk vriendelijk vraagt het terrein te verlaten? Ik zou er een boel puntenaftrek voor over hebben die lach van zijn gezicht te slaan – maar goed, dat terzijde. Meer nog dan dat, het systeem marginaliseert andersdenkende medemensen en vormt zo een bedreiging voor de socio-culturele diversiteit van samenleving. alleen wie zich dermate vergaand conformeert aan door meerderheid opgelegde norm kan zijn haar rating op peil houden. mensen worden deze manier als ware weggefilterd uit publieke leven, ze veroordeeld tot bestaan in marge.
• Hiermee samenhangend: het ratingsysteem werkt mede zo goed omdat het zelfregulatie in de hand werkt. Mensen zijn het systeem gaan internaliseren. Ze censureren en corrigeren zichzelf al uit angst voor het oordeel van anderen. De Franse filosoof Michel Foucault beschreef dit psychologische effect in termen van het panopticum, een gevangenis die zo gebouwd is dat iedereen steeds zichtbaar is voor elkaar. De alwetende, voortdurende blik van de ander gaat deel uitmaken van je eigen zelfbeeld. Het gevolg is dat er ook geen sterk door de staat geleid politieapparaat meer nodig is. De dystopische visie van BM omvat de uiteindelijke vervolmaking van de door Foucault al beschreven overgang van staatscontrole naar de macht van discipline.
• Het ratingsysteem functioneert als een nieuwe maatschappelijke vorm van onderscheiding en sociale ongelijkheid, een terugkeer naar een klassenmaatschappij. Hooggewaardeerde mensen omringen zich met een netwerk van anderen met hoge scores. Ziehier de geboorte van een nieuwe elite, de klasse van de 4.5+. De macht houdt zichzelf in stand. Een dubbeltje blijkt ook in de toekomst, utopische verhalen van tech-goeroes over democratisering door technologie ten spijt, maar moeilijk een kwartje te kunnen worden. Sociale mobiliteit is mogelijk, maar wel erg beperkt.
• Status en positie zijn huiveringwekkend precair. Het ratingsysteem kan ook snel tegen je gaan werken. Zodra je gemiddelde score lager wordt, door wat voor omstandigheden dan ook, zijn mensen eerder geneigd je een negatieve beoordeling toe te kennen. Op die manier treedt een vicieuze cirkel van neerwaartse sociale mobiliteit in werking die niet meer af te remmen valt. Een goede rating is geen garantie en maatschappelijk verval ligt altijd op de loer. Domme pech of een blunder kunnen genoeg zijn om je in het ongeluk te storten. Het ratingsysteem lijkt geen bescherming te bieden hiertegen. Statusangst kan in deze extreme vorm niet anders dan vermoeien, verlammen en ontmoedigen. Deze vorm van sociale onzekerheid kennen we ook in onze tijd. De Engelse hoogleraar Guy Standing spreekt ook wel van de maatschappelijke onderklasse van het precariaat  die zich kenmerkt door onzekerheid op het gebied van werk en inkomen, sociale (on)zekerheid, en het gevoel niet gezien te worden door de politiek. Standings wijst terecht op het mogelijke gevaar van wijdverbreid ongenoegen dat een bedreiging kan vormen voor de sociale cohesie.
• Het ratingsysteem ondermijnt door de genoemde sociale onzekerheid en klassenvorming ook de menselijke solidariteit. Een goede beoordeling is vooral een transactie, een gebaar waarvan men alleen maar kan hopen dat die wederkerig is. Solidariteit is in BM dan ook ver te zoeken. Lucie vindt het eigenlijk alleen maar bij die vrouwelijke trucker, maar tragisch genoeg weet ze het nauwelijks te herkennen en evenmin op waarde te schatten. Deze erosie van de solidariteit is ook in de realiteit al aan de gang. Ik denk bijvoorbeeld aan de manier waarop het opleidingsniveau een breuklijn in de maatschappij lijkt te worden. Hoger opgeleiden daten tegenwoordig bijvoorbeeld met hoger opgeleiden (e-Matching), en ze kunnen hun eigen autoverzekering met gunstigere premie afsluiten op basis van hun diploma (Promovendum).
• Het ratingsysteem ontmenselijkt je, ontdoet je van je persoonlijkheid en reduceert je tot een getal. 'The medium is the message', zei mediatheoreticus Marshall McLuhan al in de jaren '60 al in zijn canonieke boek Understanding Media. Je wordt in deze wereld je rating. In het beste geval ben je en 4.8, in een slechter scenario ben je een 1.5. Hoe dan ook wordt je een getal. Het gebeurt herhaaldelijk dat mensen elkaar letterlijk niet eens aankijken omdat ze alleen maar bezig zijn met de ratings. Ze zijn meer met zichzelf bezig dan met elkaar. De eenzijdige focus op het oordeel dat anderen van ons hebben neemt in de wereld van BM obsessieve, narcistische trekken aan. Omdat er zoveel van afhangt, verwordt het ratingsysteem tot een obsessie voor Lucie en velen met haar.
• Begrippen als vriendschap en liefde lijken dan ook verouderde begrippen te zijn geworden die niet meer van de tijd zijn. Het netwerk is nog steeds erg belangrijk, maar de relaties zijn ontdaan van hun emotionele, intieme betekenis die onze relaties met vrienden, families en geliefden kenmerken. Het is pijnlijk voor Lucie als ze ontdekt dat haar vroegere hartsvriendin Naomi haar op haar bruiloft uitnodigt als bruidsmeisje om zelf hogere ratings te krijgen. Maar Naomi kaatst de bal terecht terug: het houden van de speech is ook voor Lucie in de eerste plaats een mogelijkheid om hogere ratings te krijgen van de bezoekers die voornamelijk tot het 4.5+ publiek behoren.
• Het systeem kent geen genade. Het nare van het ratingsysteem is er volgens mij in gelegen dat het gedrag met persoonlijkheid verwart. Je wordt, met andere woorden, als mens afgerekend op je gedrag en niet gewaardeerd om wie je bent. Er lijkt maar weinig mogelijkheid tot persoonlijke verandering, de schadelijke gevolgen van je gedrag zijn direct en blijvend. Je bent wat je doet en dat blijf je. Ook hier echoot BM verschijnselen uit de echte wereld. Hoe vaak vellen we niet een onmiddellijk en genadeloos oordeel over mensen die we niet kennen? Hoe weinig staan we stil bij de schade die het oordeel van het publiek iemand kan toebrengen, terwijl het vaak op weinig meer dan tendentieuze, spektakelzuchtige berichtgeving in de media is gebaseerd? We lijken in het Twittertijdperk het te zijn verleerd ons oordeel uit te stellen en weloverwogen te oordelen. We spelen zelf voor rechter en politie tegelijk.
• Zoals alle goede sci-fi gaat BM over wat het is om mens te zijn. Pas als Lucie aan het einde van de aflevering in de gevangenis haar smartphone en bijbehorend oogimplantaat ontnomen worden, ziet ze eigenlijk pas weer echt wat zich voor haar neus afspeelt. Ze ziet de man in de cel tegenover haar in levende lijve in plaats van als een cijfer. Zo wordt ze weer meer mens. Zo hervindt ze ook weer haar essentiële menselijke kwaliteiten zoals humor, ironie, zelfspot, en relativeringsvermogen. Lees over het belang van ironie en menselijke solidariteit vooral het boek Contingency, Irony, and Solidarity van de Amerikaanse filosoof Richard Rorty.
• Wat sociaal wenselijk is en wat een succesfactor is, lijkt enigszins verwarrend, ongrijpbaar, of zelfs paradoxaal. Je wordt geacht je te conformeren aan de normen, maar niet op een overduidelijke manier. Je moet goed je best doen, maar niet te opzichtig. Je moet pretenties hebben, zonder pretentieus te zijn. Je moet jezelf zijn, maar niet teveel alsjeblieft. Je moet, kortom, vooral heel authentiek zijn. Hoe moeilijk is het om te gaan met deze tegenstrijdige geboden? Het is volstrekt voorstelbaar hoe klem een mens kan komen te zitten in deze maatschappelijke verwachtingen.
• Het belang van privacy en de wettelijke bescherming van persoonlijke gegevens. Een dergelijke toekomst kan alleen bestaan bij de gratie van verregaande deregulering en privatisering van big data. Een belangrijke manier om ons te wapenen tegen de macht van het algoritme is het opstellen van wetgeving die de privacy van personen voorop stelt en burgers beschermt tegen de macht van kapitalistische belangen. De vorm van liberalisme die het ratingsysteem is, is fundamenteel tegenstrijdig met het democratische, constitutionele beginsel van bescherming van de minderheid tegen de macht van de meerderheid.
• Iets wat in de aflevering interessant genoeg buiten beschouwing wordt gelaten, is het algoritme. De aflevering stelt de app waarmee mensen elkaar beoordelen voor als een gegeven, een onomstreden, transparante technologie, een soort neutraal algoritme. Vaak is het echter zo dat we in werkelijkheid niet weten hoe het algoritme werkt, behalve dan dat we vanuit een sceptische (of noem het cynische, afhankelijk van je wereldbeeld) basishouding er eigenlijk wel vanuit kunnen gaan dat het algoritme het economische belang van de eigenaar/ontwikkelaar dient. Volg de geldstroom en e komt vanzelf bij de belangen. In BM lijkt iedereen echter de regels van het spel te volgen. Weliswaar zijn er gespecialiseerde adviseurs die helpen met het boosten van iemands rating (hetgeen waarschijnlijk alleen betaalbaar is voor welgestelden, maar dat terzijde), maar zelfs die lijken allemaal binnen de wet te opereren. In de realiteit is dit volgens mij allemaal wat minder zuiver en is er eerder sprake van bewuste manipulatie en oneerlijke concurrentie.
• En ten slotte: wat is het bevrijdend om los te laten. Om je eens echt uit te spreken, je te laten gaan, je eigen emoties en bijbehorende fysieke sensaties weer eens te kunnen voelen, eens helemaal uit je plaat te gaan, geen fuck meer te geven om status of de mening van anderen. Lees hierover bijvoorbeeld Mark Mansons zelfhulpboek The Subtle Art of Not Giving a Fuck. Ik vond het einde van de aflevering, wanneer Lucie in de cel en op het dieptepunt van haar leven belandt, tegelijk deprimerend en hoopgevend. Ja, ze is alles kwijt waarvan ze dacht dat het waarde had in haar leven. Maar toch, het hernieuwde gevoel van vrijheid en menselijkheid dat ze ervoor terug heeft gekregen zou gek genoeg wel eens van grotere waarde kunnen zijn. Eindelijk kan ze eens uiting geven aan wie ze echt is, zonder de angst voor negatieve ratings. Ze vindt zichzelf weer, op een hopeloze en onverwachte plek.
  

Door ons een wereld voor te stellen waarin de macht van het getal allesoverheersend is, nodigt BM ons uit na te denken over de invloed op ons dagelijks leven van apps en algoritmes en toont het de donkere keerzijde van de tendens om ons leven steeds verder te kwantificeren. Zo daagt BM ons uit onszelf af te vragen hoe we de beschikbare bestaande en toekomstige technologie willen gebruiken in onze samenleving. Willen we het inzetten om sociale en economische ongelijkheid verder te laten toenemen of kiezen we voor solidariteit? Technologie is nooit een neutraal hulpmiddel maar is per definitie een ontwerp met bepaalde effecten en het gebruik ervan zou je daarom kunnen zien als een (politieke) keuze.

P.S

Eigenlijk is BM gek genoeg nauwelijks nog sci-fi, maar haast docu-fictie, als je bedenkt dat in China een soortgelijk 'sociaal-kredietsysteem' in 2020 al werkelijkheid lijkt te worden (er worden momenteel pilots gedaan in verschillende Chinese steden). China is bij uitstek een land waarin het individu, met diens onontvreemdbare mensenrechten, ondergeschikt is aan het belang van de meerderheid. De mens dient vooral ter meerdere glorie van de communistische staat China. Het is dan ook niet gek dat een ratingsysteem als deze juist daar als eerste werkelijkheid is geworden. Het lijkt me interessant of Chinese kijkers de aflevering net zo verontrustend vinden als ik, of dat het voor hen normaler is. Of dat ze het misschien zelfs wenselijk vinden. Een verschil tussen het BM systeem en het Chinese systeem is dat die laatstgenoemde duidelijk gekoppeld lijkt te zijn aan technologie (zoals gezichtsherkenning en gebruik van big data) en er (overheids)instanties zijn om dit te verwerken, terwijl het BM-systeem voornamelijk werkt door middel van directe beoordelingen tussen mensen ('peer-to-peer' als het ware). Is het dan toch de werkelijkheid die vreemder is dan fictie? Fokking eng!