Bewustmakende burgemeesters: Wordt u een ambassadeur voor een digitale detox?
Digitalisering en technologie zijn niet neutraal: ze vormen mee ons gedrag, onze kijk op de wereld en hoe we de maatschappij inrichten. Dat was de belangrijkste stelling van het college van 13 oktober. Maar daar hield het niet op. Digitalisering heeft zoveel invloed op ons leven dat het soms onmogelijk is om de gevolgen te overzien. Maar men moet ergens beginnen, dus hierbij de oproep aan jullie, burgemeesters om een ambassadeur van bewustwording te worden.
Tekst: Steven Blok en Katleen Gabriels
Digitalisering en technologie zijn niet neutraal: ze vormen mede ons gedrag, onze kijk op de wereld en hoe we de maatschappij inrichten. Dat was de belangrijkste stelling van het college van 13 oktober, dat Berenschot voor het NGB organiseerde. Maar daar hield het niet op. Digitalisering heeft zoveel invloed op ons leven dat het soms onmogelijk is om de gevolgen te overzien. Maar men moet ergens beginnen, dus hierbij de oproep aan jullie, burgemeesters om een ambassadeur van bewustwording te worden.
Eerst een paar sprekende voorbeelden om te bepleiten dat technologie absoluut niet neutraal is.
- Voorbeeld 1: in Nieuw-Zeeland kon een man van Aziatische afkomst niet zijn paspoort vernieuwen omdat de gezichtherkennende software dacht dat zijn ogen dicht in plaats van open waren, wat niet het geval was. Zie artikel
- Voorbeeld 2: Een team binnen Amazon had een programma gemaakt om toptalent te werven voor technische functies en software development. Het programma gaf kandidaten scores (van één tot vijf sterren, alsof het een review is op Amazon). Wat bleek: het programma had het niet zo op vrouwen, dus die kwamen niet door de selecties heen. Dat kwam – in ieder geval ten dele – omdat cv’s van toptalenten voorheen, in de afgelopen 10 jaar, van mannen waren, en het programma was daarop getraind. Zie artikel
- Voorbeeld 3: Een algoritme dat helpt bij gezondheids- en zorgbesluiten geeft zwarte patiënten minder extra zorg dan witte patiënten. Het algoritme wijst bepaalde risiconiveaus toe aan patiënten en onderzoekers vonden dat bij dezelfde risiconiveaus, zwarte patiënten daadwerkelijk zieker waren dan witte patiënten. Zie artikel
Deze voorbeelden zijn maar een kleine greep uit vele vergelijkbare voorbeelden. Het wordt snel duidelijk dat een technologie biased kan zijn en missers maakt op waarden die we belangrijk vinden zoals gelijkheid en rechtvaardigheid. Het risico van deze voorbeelden is dat ze technologieën ‘wat kleiner’ maken. Door de fouten uit de voorbeelden ontstaat snel het idee dat technologie nog ‘niet zo ver is.’ En deels klopt dat ook, maar tegelijkertijd is de staat van de technologie onvoorstelbaar ver. Laat ons nog twee voorbeelden geven:
- Voorbeeld 4: Het schilderij dat bij dit artikel staat is een afbeelding gemaakt door Artificiële Intelligentie (AI). Het heeft zelfs een kunstwedstrijd gewonnen. Jason Allen – de auteur, niet de schilder/tekenaar – gaf een ‘beschrijving in tekst’ aan een AI genaamd ‘Midjourny’ en deze afbeelding kwam er letterlijk uitrollen. En won een prijs.
- Voorbeeld 5: De telefoons van Google zijn niet zo populair in Nederland, maar wat in die telefoons zit (met name de Tensor Chip) is bijzonder indrukwekkend als het gaat om spraakherkenning. Zo kunnen deze telefoons gesprekken opnemen en live transcriberen (spraak-naar-tekst) terwijl de telefoon in iemands broekzak zit én maakt de telefoon/software onderscheid tussen verschillende sprekers. Gesprekken en wie spreekt, worden perfect – met de juiste interpunctie – live uitgeschreven. Google heeft de spraakherkenning ook getraind op syntax, intentie, context, jargon en dialect van spraak.
De betekenis van deze voorbeelden wordt betwist. De één vindt het kunstwerk maar niks. De ander ziet het als het einde van de ‘creatieve sector.’ Voorheen dachten ‘we’ dat routinematige activiteiten vervangen konden worden door robots, maar inmiddels zijn het ook de kunsten.
Het punt dat we willen maken, is dat de technologie echt al verder is dan we soms denken, maar dat er inherente weeffouten zijn. Soms zijn het onbedoelde fouten, hoe onrechtvaardig ze ook zijn. Maar soms is het ook een bewust ontwerp met negatieve gevolgen, daar komen we zo op terug. Eerste de diepte in: om de werking én de gevolgen van digitalisering beter te begrijpen zijn twee theorieën belangrijk:
- Mediatietheorie: technologie beïnvloedt (medieert) ons gedrag, onze kijk op de wereld en de relaties die we met de omgeving hebben. Denk aan hoe de smartphone ons verbindt met anderen, informatie en het nieuws.
- Mutual shaping theorie: stelt dat samenleving en technologie elkaar beïnvloeden. Dus technologie beïnvloedt de samenleving (bijvoorbeeld door mediatie), maar de samenleving beïnvloedt ook de technologie (denk aan de behoefte om op afstand te kunnen werken en enorme sprongen die aanbieders maakten in dat soort software: Zoom, MS Teams, Jitsi, GoToMeeting; Miro).
Deze twee theorieën helpen om de mogelijke gevolgen van technologie in kaart te brengen. Dat ons leven meer en meer gevormd wordt door technologie was ook al duidelijk zonder de bovengenoemde voorbeelden. Maar, geredeneerd vanuit deze theorieën, zijn de effecten groot: voor de individuen, voor het bestuurlijke/politieke landschap en voor de maatschappij als geheel.
Kinderen die vandaag geboren worden, zijn vaak hun digitale leven al eerder begonnen. Foto’s van echo’s zijn niet vreemd op sociale media en anders worden ze wel gedeeld in de WhatsAppgroepen (dus van Facebook-moederbedrijf Meta) van familie. Kinderen groeien op met sociale media en de negatieve effecten daarvan beginnen pas net aan het oppervlak te raken. Inmiddels is het ook mogelijk om een QR-code op een grafsteen te zetten. Mocht u dromen van de mogelijkheid om na de dood uw favoriete YouTubefilmpje te kunnen blijven delen. Het Onlife gaat letterlijk voorbij de grenzen van geboorte en dood. Zie https://www.thedailybeast.com/chatbots-by-james-vlahos-and-hereafter-ai-are-letting-you-talk-to-the-dead?ref=author
Dat het leven pertinent online is, is natuurlijk niet zomaar wenselijk en moreel gezien zijn er ook bezwaren. Maar vaak overzien we niet de gevolgen op lange termijn van ons handelen vandaag op het internet. The internet never forgets. Alles wat nu een keer online gezet wordt, zal op een manier vindbaar blijven (Hvyesprofielen – en Hyves is inmiddels al 10 jaar uit de lucht – zijn nog steeds te vinden via de Waybackmachine, zoek het maar eens op). Domme foto’s of gênante filmpjes kunnen niet meer de prullenbak in, maar gaan voor altijd in de diepvriezer. En wie weet wanneer iemand met een slimme tool de diepvriezer weet te openen om de documenten/video’s/foto’s spreekwoordelijk te ontdooien? Vergeten en vergeven wordt hiermee een stuk lastiger.
Het leven online is kwetsbaar. Elk individu wordt overladen met prikkels en informatie waardoor het lastig is om de juiste weg te vinden tussen die massa aan informatie. De invloed van media en technologie gaat steeds verder: van reclameposters in de publieke ruimte via reclame op tv tot gepersonaliseerde advertenties in je browser en gepersonaliseerd nieuws waarvan het platform weet dat het je emotioneert. Zie: Tim Wu beschrijft die trend in The Attention Merchants: The Epic Scramble to Get Inside Our Heads: https://scholarship.law.columbia.edu/books/64/
Een informatieomgeving die helemaal op u afgestemd is, is gevaarlijk. Als het doel is om iemand zo lang mogelijk aangehaakt te houden, moet de inhoud dat mogelijk maken. Dat zorgt vaak voor extreme beelden of artikels: waar we boosheid, angst of walging van krijgen. Dat zijn emoties die zorgen dat we aangehaakt blijven (of terugkomen). Inhoud die iets met ons doet; die zorgt voor engagement. En omdat grote techbedrijven met elkaar concurreren, ontstaat er een race to the bottom of brain stem. Wie kan het algoritme maken dat al onze aandacht vangt, pakt en houdt?
Op het moment dat iemand omringd is met steeds meer extreme informatie en inhoud, werkt dat polarisatie en ongevoeligheid voor ‘de Ander’ in de hand. Iemand wordt letterlijk door de meest machtige bedrijven en algoritmen geïnspireerd door informatie die steeds verder afstaat van de gedeelde werkelijkheid en leefwereld van medemensen. In zo’n situatie wordt het steeds lastiger om gezamenlijk een weg te vinden: gedeelde waarden verdwijnen, de kijk op de feiten verandert en tegenstanders hebben niet meer een inhoudelijk verschil, maar zijn moreel verschillend en dus ‘slecht’.
Dit onderwerp vraagt nog zoveel meer aandacht. Wat lastig is aan dit onderwerp, is dat er niet één oplossing bestaat. Digitalisering en hoe we ons daartoe verhouden is een kluwen van voor- en nadelen. In deze lastige situatie is – daar moet het toch écht mee beginnen – bewustwording de eerste stap. En we denken dat u als burgemeester in een uitgelezen positie staat om die bewustwording aan te jagen.
Waar moet men dan bewust(er) over worden? (Natuurlijk moet er ook van alles gebeuren rondom wetgeving, beleid, onderzoek en onderwijs, maar die discussie slaan we voor nu over). We houden het bij vier punten:
- Technologie is niet neutraal: dat hebben nu al betoogd en geïllustreerd, maar deze kern blijft belangrijk. Technologie heeft hele sterk – vaak verborgen – morele dimensies van ‘goed’, ‘ongewenst’ en ‘de eigenschappen van de ideale gebruiker.’ Omdat technologie onze relaties met/en de maatschappij verandert, wordt moraliteit óók beïnvloed. Denk bijvoorbeeld aan de vraag ‘voor wie is de technologie goed?’, voor de gebruiker, de maatschappij of alleen voor het bedrijf dat de technologie heeft ontwikkeld?
- We kunnen niet meer uitloggen: the internet never forgets en staat daarmee vergevingsgezindheid in de weg. Het is daarom goed om goed na te denken over wat we online plaatsen.
- Hoe het werkt is schimmig en niet transparant, maar we weten een paar dingen die gebeuren en die niet oké zijn:
- Er wordt van alles getest op gebruikers (soms zonder dat ze het doorhebben: zo testte Facebook ongevraagd de invloed van berichten op emoties op haar gebruikers. Wat bleek: negatieve uitingen van anderen leidden tot meer negatieve én minder positieve uitingen van gebruikers zelf). Zie link
- Als u vanuit TikTok direct op een browserlink klikt en daar naartoe gaat (en dus niet in uw eigen, standaardbrowser), zit er een code in die TikTok-browser die elke toetsaanslag zou kunnen bijhouden. Zie link
- U kent ze wel, de wat vreemde vormgeving op websites die misleidend overkomen. Dat zijn ‘dark patterns’.
Denk aan advertenties die eruitzien als ‘gewone’ content; waarschuwingen dat producten/diensten op dit moment erg gewild zijn; nudging naar knoppen (zie de afbeelding van Instagram bij dit artikel. Het is overduidelijk dat het de bedoeling is dat ik op de blauwe knop druk, maar dan geef ik meer data weg); nauwelijks ergens voor kunnen uitschrijven (opt out); het heel moeilijk maken om iets niet te accepteren (talloze knoppen zelf moeten uitschakelen van alle cookies die u niet accepteert). Er zijn nog veel meer voorbeelden. We mogen ook de enorme, sterke lobby van techbedrijven in Brussel niet negeren. Techbedrijven besteden de laatste jaren steeds meer aan lobbyactiviteiten. Zie link
- De gevolgen zijn groot: voor de democratie, voor jonge meiden, voor onderdrukte burgers, de lijst is oneindig, zie link. We raden u aan wat nieuwberichten te lezen of podcasts te luisteren over wat klokkenluider Frances Haugen bekend maakte over Facebook.
Misschien was u al bekend met deze materie, maar het kan ook zijn dat het bovenstaande nieuw is en het u nu een beetje duizelt. Mocht we uw aandacht stevig gegrepen hebben, klik rustig door op de links/bronnen die we hebben vermeld voor een verdere verdieping. We staan pas aan het begin om erachter te komen wat de daadwerkelijke effecten van digitalisering op ons leven zijn. Maar we staan ook pas aan het begin om er echt iets tegen te doen en hopen dat u met ons meedoet.
Meer lezen of luisteren:
- De podcast ‘Rabbit Hole’ van de New York Times:
- The Age of Surveillance Capitalism van Soshana Zuboff:
- Meer weten over de invloed op kinderen: het boek iGen: Why Today's Super-Connected Kids Are Growing Up Less Rebellious, More Tolerant, Less Happy—and Completely Unprepared for Adulthood—and What That Means for the Rest of Us van Jean Twenge
- En natuurlijk de boeken van de spreker van het college van 13 oktober, Katleen Gabriels:
- Hoe de digitale wereld je leven bepaalt
- Regels voor robots. Ethiek in tijden van AI :