Hoe de informatieoorlog onze samenleving beïnvloedt

Twee weken geleden, op een vrijdagavond, werd ik tijdens het lezen van Nexus, het nieuwe boek van Noah Harari, overvallen door een sensationeel gevoel: ik snapte ineens alles. Hoe de menselijke geest werkt, hoe AI werkt, wat het verschil is tussen deze twee, en wat het verband is tussen mens en AI enerzijds en de westerse democratische crisis anderzijds. Ik meende zelfs een glimp van God op te vangen en hoe Hij op zijn beurt weer verschilt van zowel de mens als AI. Kortom: ik raakte in een diepe vervoering omdat ik met dank aan Harari een perfect rationeel verband tussen al die grootheden had gevonden.

Vlug krabbelde ik wat aantekeningen op papier. Die zagen er ongeveer zo uit:

Daarna ging ik naar bed, in de volstrekte zekerheid dat ik de aantekeningen morgen moeiteloos zou kunnen omzetten in flitsend proza.

Dat was een denkfout.

Ik zag de verbanden niet meer. Wat gisteren zo helder leek was vandaag koeterwaals. Krabbels in een blok, meer niet. God was achter de wolken verdwenen en had de verbanden en woorden met zich meegenomen, onzichtbaar voor mij, aardse sterveling die zich de ene dag een koning waant en de andere dag geplaagd wordt door diepe twijfels.

Het vuur was uit me verdwenen en een diepe vermoeidheid nam bezit van me. Ik ondernam nog een manmoedige poging door maar gewoon te beginnen met typen, dan kwam het vast vanzelf weer terug – als een jazzmuzikant die rustig aftastend zoekt naar de juiste noten tot hij de swing heeft gevonden, maar er kwam geen woord meer uit mijn toetsenbord. Ik liep muurvast. Hoe kon iets dat gisteren zo overduidelijk was, vandaag geen enkele betekenis meer hebben?

Er zat niets anders op: al vloekend en tierend op mezelf klapte ik de laptop dicht, deed een dutje, daarna de dagelijkse boodschappen en een beetje de rotzooi opruimen die ontstaan was doordat ik die vorige dag zo in gedachten was opgegaan dat de aardse omgeving waarin ik me bevond totaal niet meer bestond. Daarna douchen en richting Arnhem, waar ik met mijn goede vriend Ro had afgesproken.

Ergens die avond, toen we tussen twee sets van een alleraardigste coverband buiten een sigaretje gingen roken te midden van op straat voetballende jongeren, en het onderwerp op AI kwam, zag ik het patroon ineens weer helder voor me, begonnen de verbanden op te lichten en de woorden weer te komen. Het vuur was terug. Pats, pats, pats, pats –  mijn hoofd draaide weer op volle toeren. Morgen zou ik de hele santenkraam in 1 ruk op papier zetten.

Maar morgen was er weer iets anders en zo sleepte de situatie zich twee weken voort, zonder dat ik veel verder kwam met mijn verhaal. Wat er wel bij kwam: nog meer informatie, nog meer aspecten die ik op een of andere manier moest invoegen in het grote plaatje.

Kortom, ik werd geplaagd door onder andere onderstaande factoren:

• Een feilbaar geheugen
• Stemmingswisselingen
• Sociale en werkverplichtingen
• Een beperkte capaciteit om allerlei variabelen met elkaar in verband te brengen en om alle variabelen überhaupt te overzien.

Daar heeft AI geen last van. Alleen al het geheugen van één toepassing overtreft het mijne in de zoveelste macht, theoretisch kan het zoveel variabelen verwerken dat zelfs Magnus Carlsen tot een beginneling wordt gedegradeerd. En het kan zich 24/7, week in, week uit, op zijn taak richten zonder afgeleid te worden door ander werk, sociale besognes, ergernissen, vermoeidheid en noem maar op.

Stel je voor hoe groot dan de capaciteit van gecombineerde AI-eenheden is.

Aan de andere kant: AI weet niet hoe het voelt om samen te spelen met andere muzikanten en elkaar tot grote hoogten te stimuleren, waardoor luisteraars zoals ondergetekende compleet uit hun plaat gaan,  AI heeft geen idee van de vreugde die slap lullen met je vrienden teweegbrengt, van het mystieke moment om al is het maar voor even alles te begrijpen, van het vinden van de perfecte kleur, het perfecte recept….Kortom: AI heeft geen bewustzijn, geen gevoelens. AI ervaart niets. Het is tegelijkertijd superslim en zich totaal onbewust van alles wat het leven mooi en zwaar maakt.

Informatie: de basis van iedere samenleving
Dus okay, wat nu? Hoe pak ik de zaken aan om als nietig mens toch weer op het juiste spoor te komen? Ik raak overweldigd door het aantal mogelijke connecties dat er is. Kies ik ervoor om uit te gaan leggen wat God nu precies is en wat het verschil is met zowel AI als de mens? Nee, die laten we nog even laten liggen, als een soort cliffhanger.

Misschien ingaan op de maatschappelijke gevolgen van AI? De voor- en nadelen? De gevaren? Pfff, alleen de gedachte al . Harari doet er 200 pagina’s over om duidelijk te maken wat informatie is, dat informatie de basis van onze gehele menselijke samenleving is, hoe informatie tot zowel bloei als ondergang van (dictatoriale en democratische) imperiums heeft geleid, aan welke voorwaarden ieder functionerend imperium (of land) moet voldoen, waarom we langzamerhand in een crisis geraken omdat niet meer aan die voorwaarden wordt voldaan – en dan pas komt hij bij AI en de toekomst uit. Hoe moet ik dat in hemelsnaam in een paar alinea’s weergeven?

Op basis waarvan maak ik eigenlijk de keuze om een bepaald onderwerp wel, niet of later te behandelen? Dat is een cruciaal en gecompliceerd punt, dat deels met ratio (oftewel intelligentie) te maken heeft maar uiteindelijk met bewustzijn en dus gevoelens. Ik voel letterlijk in mijn lichaam wat de juiste keuze is. Mijn lichaam wordt warm, ontspannen, ik voel me prettig – of bij een verkeerde keuze: mijn lichaam voelt gespannen aan, die zeurende pijn in mijn linkerschouder speelt weer op.

Op precies dezelfde manier werkt het bij die jazzmuzikant. Hij voelt wat de juiste noot is (bewustzijn), het is niet zo dat hij een wiskundige afweging maakt wat de beste noot is te midden van al die andere noten, zoals AI zou doen. Waarbij we wel moeten aantekenen dat hij ergens van binnen, onder of naast dat bewustzijn, op basis van ervaring, wel degelijk een rationele afweging heeft gemaakt op basis van jarenlange ervaring. (‘Deze toonladders passen wel bij elkaar, dit ritme werkt hier wel en daar niet etc.’). Maar het bewustzijn heeft het eerste en laatste woord.

Ping!

Uit het schijnbare niets krijg ik een idee. Waarom niet ChatGPT aanslingeren? Ik denk er nog geen seconde over na en volg mijn instinct.

Ik: Maak een mindmap waarbij de begrippen ‘God’, ‘mens’, ‘AI’, ‘democratie’, ‘bewustzijn’, ratio’, ‘feilbaarheid’, ‘controlemechanisme’, ‘wijsheid’, ‘macht’ en ‘bureaucratie’ allemaal met elkaar verbonden zijn

Chat GPT: Hier is een suggestie voor hoe je een mindmap kunt maken waarin deze begrippen met elkaar verbonden worden. Ik zal het beschrijven en aangeven hoe ze kunnen worden verbonden in zo’n mindmap:

1. Centraal begrip: Begin in het midden met een hoofdconcept, zoals bewustzijn, macht, of mens, afhankelijk van de invalshoek. Bijvoorbeeld, als we bewustzijn in het midden zetten, kunnen we vanuit dit begrip andere concepten verbinden.
2. Bewustzijn: Vanuit bewustzijn kun je verbindingen maken naar:
   • God: Bewustzijn als een hogere dimensie die sommigen aan een goddelijk principe koppelen.
   • Mens: Het bewustzijn als een uniek menselijk kenmerk dat tot zelfreflectie en ethische vraagstukken leidt.
   • AI: De vraag of AI bewustzijn kan bereiken en wat dit betekent voor de status van mens en machine.
3. Macht: Verbonden met:
   • God: De ultieme macht in religieuze zin, waar ethische richtlijnen en ultieme controle vaak aan gekoppeld worden.
   • Democratie: Macht wordt gedeeld en verspreid om te voorkomen dat één individu of groep te dominant wordt.
   • Bureaucratie: Als structuren om macht te organiseren en verdelen, maar ook om deze te controleren en structureren.
4. Mens: Centraal verbonden met:
   • Ratio: De menselijke rede als middel om de wereld te begrijpen, belangrijk in beslissingen binnen democratie en wetenschap.
   • Feilbaarheid: De menselijke neiging om fouten te maken, die aanleiding geeft tot controlemechanismen.
   • Wijsheid: Het ideaal om menselijke beslissingen en macht te baseren op wijsheid in plaats van puur rationele of machtsmatige motieven.
5. AI: Verbonden met:
   • Controlemechanisme: AI als potentiële tool voor controle, maar ook als iets dat zelf gecontroleerd moet worden om risico’s te beheersen.
   • Feilbaarheid: Net als mensen is AI feilbaar, wat risico’s en ethische vraagstukken oproept.
   • Bewustzijn: De vraag of AI ooit bewust kan worden, en wat dit zou betekenen voor menselijk bewustzijn en ethiek.
6. Democratie: Verbonden met:
   • Controlemechanisme: Democratie als een systeem om de macht van leiders te controleren.
   • Bureaucratie: Als ondersteuning van democratie, maar kan ook leiden tot verstrikking in regels.
   • Macht: Democratie verdeelt en verspreidt macht om het te balanceren en verantwoord te maken.
7. Wijsheid: Kan verbonden worden met:
   • Ratio: Ratio en wijsheid samen vormen de basis voor beslissingen, en vormen een tegenwicht voor pure macht.
   • Feilbaarheid: Wijsheid erkent menselijke fouten en leert ervan.
   • Macht: Macht die gebaseerd is op wijsheid wordt ethischer en zorgvuldiger toegepast.
8. Controlemechanisme: Dit begrip is verbonden met veel andere begrippen:
   • Bureaucratie: Bureaucratie dient vaak als een controlemechanisme binnen organisaties.
   • Democratie: Democratieën hebben controlemechanismen ingebouwd om machtsmisbruik tegen te gaan.
   • AI: AI kan zelf dienen als controlemechanisme, maar vraagt ook om externe controle.
9. Feilbaarheid: Verbindt met:
   • Mens: De mens is van nature feilbaar, wat het belang van controlemechanismen benadrukt.
   • AI: AI maakt ook fouten, dus ook voor technologie zijn er controle- en verbetermechanismen nodig.
   • Wijsheid: Wijsheid ontstaat vaak door fouten en leert van menselijke feilbaarheid.
10. Bureaucratie: Dit kan verbonden worden met:
    • Controlemechanisme: Bureaucratie als een systeem om gedrag en processen te regelen.
    • Macht: Bureaucratie kan de toegang tot macht reguleren, maar ook macht belemmeren door overmatige regels.
    • Democratie: Democratische structuren zijn vaak afhankelijk van bureaucratie om consistent en rechtvaardig te blijven.

In een visuele mindmap zou je deze concepten als cirkels of knooppunten tekenen en de relaties als lijnen of pijlen daartussen.

Hey, dat is interessant! AI lepelt exact dezelfde thema’s op als Harari. Alleen dan een stuk abstracter. We hebben voorbeelden nodig om duidelijk te maken wat er nu bedoeld wordt met bijvoorbeeld:

Democratie: Macht wordt gedeeld en verspreid om te voorkomen dat één individu of groep te dominant wordt.

Feilbaarheid: Wijsheid erkent menselijke fouten en leert ervan.

AI: AI maakt ook fouten, dus ook voor technologie zijn er controle- en verbetermechanismen nodig

Gelukkig levert Harari die voorbeelden aan de lopende band, en ik kan er zelf ook wel wat verzinnen, dus voorlopig hebben we chat GPT even niet nodig (maar toch bedankt!)

‘Informatie en psychologie
Wat is het machtigste wapen op aarde?’ vroeg ik aan de leerlingen van 6 vwo.

Het juiste antwoord volgde al spoedig: informatie. Een goed begrip van informatieoverdracht kan massa’s mobiliseren. In Nexus toont Harari dit onder andere aan door de invloed van de bijbel op de joodse en christelijke samenlevingen te bespreken, alsmede een analyse van de communistische regimes van de Sovjet Unie en China, het naziregime en het democratische systeem van de Verenigde Staten.

Deze vraag was onderdeel van een lessenreeks die uiteindelijk moet leiden tot het schrijven van een betoog of beschouwing. De leerlingen moeten stellingen kunnen onderbouwen met goede argumenten, die op hun beurt weer onderbouwd moeten worden door bijvoorbeeld academische onderzoeken te gebruiken. De onderliggende gedachte: door informatie op een logische manier te ordenen en goede wetenschappelijke bronnen te gebruiken, kunnen we in een (schriftelijk of mondeling) debat andere mensen overtuigen.

Iedereen die hier langer dan twee seconden over nadenkt en een blik op de geschiedenis en de actualiteit werpt, kan tot geen andere conclusie komen dat deze goed beargumenteerde vorm van informatieoverdracht er slechts één van vele is – en wel de meest  idealistische en naïeve.

De zender van informatie heeft vaak heel andere intenties, zoals macht (politici), geld (marketeers) en het handhaven van orde. De waarheid staat immers vaak op gespannen voet met dat laatste.

Alleen in een sprookjeswereld laat de ontvanger zich op grote schaal overtuigen door gedegen onderbouwingen. In de realiteit zijn we om heel andere redenen ontvankelijk voor informatie. Dan spelen er psychologische motieven mee (en dus ons bewustzijn), zoals confirmation bias. In normaal Nederlands: de neiging om informatie te zoeken en selecteren die onze bestaande overtuigingen ondersteunt. In nog normaler Nederlands en met een lichte twist: we willen informatie geloven die goed in ons straatje past. (dit is er nog maar 1, in totaal zijn er een stuk of 24 klassen van vooroordelen)

Iemand die economisch afhankelijk is van de bio industrie, is sneller geneigd om sceptisch tegenover klimaatverandering te staan. Een soldaat in het leger is sneller geneigd om de propaganda van zijn broodheren te geloven. Moraal is immers minstens zo belangrijk als munitie. Een voorstander van een ruimhartig asielbeleid is sneller geneigd om vervelende statistieken over het aantal vluchtelingen in de bijstand onder tafel te vegen. En ook een docent Nederlands met baanzekerheid voor wie de natuur belangrijker is dan werkgelegenheid, kan niet blind varen op zijn intuïtie.

Zelfs in de wetenschap, toch bij uitstek het bastion van idealistische waarheidsvinding, gebaseerd op een gedegen argumentatie, steekt het menselijk tekort zijn kop op en zijn machtspelletjes, geld verdienen en persoonlijke voorkeuren allerminst een uitzondering. Ook de wetenschapper lijdt aan confirmation bias. Wetenschappers laten zich inhuren door grote bedrijven, waardoor ze in ieder geval de schijn van belangenverstrengeling al tegen hebben, delen aan hun vriendjes (of in ieder geval aan niet al te kritische types) baantjes uit en hebben ook zo hun politieke voorkeuren. Deze keuzes vergoelijken ze door middel van een van de 24 biases. Het zijn net mensen.

En wat te denken van de rechtspraak? De journalistiek? In naam zouden ook de beoefenaars van deze vakken neutraal moeten zijn. En zelfs al ze dat in de grond al zijn en aan geen enkele bias lijden, dan blijven er nog genoeg andere menselijke tekorten over. Wat is bijvoorbeeld het effect op een uitspraak van een rechter die net twee nachten uit zijn slaap is gehouden door een krijsende baby? Of een journalist die flink aan de boemel is gegaan en daardoor de puf niet meer heeft om nog aan wederhoor te doen?

Als je het allemaal zo optelt, dan is het eigenlijk een wonder dat deze samenleving nog steeds functioneert, ook al piept en kraakt zij in haar voegen. Maar een robuuste samenleving kan de individuele fouten van haar leden opvangen, zolang er maar aan een aantal basisvoorwaarden wordt voldaan.

Harari heeft een uitzonderlijk talent voor het analyseren van deze basisvoorwaarden:

Een functionerende samenleving moet een gezamenlijk verhaal hebben
In lang vervlogen dagen werd de leider van een westerse samenleving gezien als een afgezant van God. En aangezien aan Zijn woord niet getornd kon worden, kon aan de afgezant ook niet getwijfeld worden. De samenleving kon bestaan omdat niet alleen de leider hierin geloofde, maar ook de bevolking.

Nederland is een land omdat we dat geloven (en in wezen een fictie, zoals Harari hier uitlegt). Met een duidelijke grens ten opzichte van andere landen. We geloven dat andere Nederlanders onze landgenoten zijn. Omdat we een gezamenlijke geschiedenis, een gezamenlijk verhaal hebben. Onze samenleving is gefundeerd op gedeelde normen en waarden. Daarom zijn we bereid om belastingen te betalen die ten goede komen aan andere Nederlanders, ook al weten we dat laatste niet zeker. Daarom geloven we in een rechtssysteem dat voor ons allen geldt. Daarom juichen we met zijn allen als Nederland scoort tegen Duitsland in de halve finale van het EK en treuren we als de situatie andersom is. Daarom hebben we scholen om het gezamenlijke  verhaal te verspreiden.

Zo lang we in meer of mindere mate in dat gezamenlijke verhaal geloven, is er orde. Verliezen we het geloof in dat verhaal, dan volgen machtsstrijden, chaos en anarchie.

Óf het gezamenlijke verhaal waar is, dat is van ondergeschikt belang. Alles draait om geloof, vergelijkbaar met het geloof dat een bepaald papiertje 5 euro waard is of dat een digitale overschrijving ook werkelijk betekent dat je armer of rijker bent geworden.

Dat is een belangrijk punt in Harari’s verhaal, dat nogmaals het herhalen waard is. Of men het nu leuk vindt of niet, de geschiedenis leert keer op keer opnieuw dat beleving boven waarheid gaat. Óf de republiek van Weimar een goede staatsvorm was of niet,  dat is voor de geschiedenis van ondergeschikt. Dát de republiek van Weimar ervaren werd als een slechte staatsvorm, leidde tot alle gevolgen van dien.

Controlemechanismen
Stel dat een samenleving de volgende normen en waarden met elkaar deelt:

• Alle bewoners dienen gelijk behandeld te worden.
• Iedere bewoner heeft recht op vrijheid van meningsuiting.

En stel nu dat dit in bepaalde gevallen niet gebeurt. De macht heeft bijvoorbeeld een bepaalde groep onterecht benadeeld, zoals in de Toeslagenaffaire. Betekent dit nu het einde van het gezamenlijke verhaal? Nee, nog lang niet, omdat er controlemechanismen zijn in een goed functionerende samenleving. Er zijn volksvertegenwoordigers en media die de macht controleren, het volk kan de macht weg stemmen, de slachtoffers kunnen de rechtspraak inschakelen.

Het gezamenlijke verhaal heeft weliswaar een flinke knauw opgelopen, maar de onderliggende normen en waarden blijven bestaan. De bevolking ziet zichzelf nog steeds als een samenleving en is nog steeds bereid om belasting te betalen. Een kleine minderheid gaat de straat op, maar van kritieke onrust is geen sprake.

Er worden maatregelen genomen om te voorkomen dat een dergelijk schandaal nog een keer kan plaatsvinden. Wetten worden veranderd, maar de grondbeginselen van de staat blijven bestaan en daarmee blijft het gezamenlijke verhaal bestaan.

Feilbaarheid
In bovenstaande samenleving staat niemand boven de wet. Niemand is onfeilbaar. Als de machthebbers niet functioneren, worden ze via de controlemechanismen afgezet en treden nieuwe vertolkers van het verhaal aan. Deze feilbaarheid is een essentieel aspect van een democratische samenleving.

In een dictatuur is de machthebber onfeilbaar, veranderen als gevolg daarvan de controlemechanismen van aard en wordt het gezamenlijke verhaal desnoods met geweld afgedwongen. Om zeker te weten dat niemand zondigt tegen het gezamenlijke verhaal, veranderen de controlemechanismen van richting: het volk controleert de machthebber niet meer, de machthebber controleert het volk.

Samenwerking
Uiteindelijk is samenwerking het toverwoord. De individuele wetenschapper, rechter, journalist of politicus die een uitglijder maakt, of een groep politici, wordt gecorrigeerd door zijn vakbroeders en door de andere zuilen die samen een democratie maken.

Democratie is niet ‘de meerderheid bepaalt’, democratie is gebaseerd op een gezamenlijk verhaal, controlemechanismen en feilbaarheid, zoals het blokkeren van de noodwet bijvoorbeeld aantoonde.

Wanhoop
Deze woorden, deze zinnen, ze komen er zo moeizaam uit. Er klopt iets niet, iets voelt niet goed. Als ik echt lekker op dreef ben, dan hoef ik geen enkele moeite doen, de woorden komen er als vanzelf uit; mijn geest heeft het verhaal vooraf al gecomponeerd., mijn vingers bewegen zich als vanzelf over het toetsenbord, als een pianist die zijn partituur kan dromen.

Maar nu is het alsof ik stotter, elke zin is een opgave. En als die zin er eenmaal staat, wis ik hem weer uit en begin weer aan de volgende zin die op zijn beurt weer uitgewist wordt. Ik zou me er gemakkelijk af kunnen maken en kunnen voortborduren op het boek van Harari, die nadat hij de grondslagen van onze democratische samenleving heeft gedefinieerd, ingaat op de vraag of AI voldoet aan de principes van
– het creëren van een gezamenlijk verhaal
– controlemechanismen
– feilbaarheid

Harari heeft daar zo zijn terechte bedenkingen bij en onderbouwt dit met voorbeelden. Zo is er het verhaal van de man die met behulp van AI veroordeeld werd tot een gevangenisstraf van 6 jaar, ondanks het feit dat geen menselijk wezen nou precies kon achterhalen hoe AI tot dat advies kwam. Een zaak die overeenkomsten kent met onze eigen toeslagenaffaire.

Of zoals Uva-onderzoeker Błażej Kuźniacki het onder woorden brengt:

We moeten begrijpen waarom AI bepaalde beslissingen neemt. Je kunt niet zeggen: “Ik leg u belasting op omdat AI dat voorstelde”. Uiteindelijk moet er een mens zijn met de bevoegdheid om een beslissing te nemen. We hebben bij de toeslagenaffaire gezien dat het fout gaat als het proces te geautomatiseerd en geheimzinnig is. AI zou in staat zijn geweest informatie te gebruiken die wettelijk gezien niet relevant is bij besluitvorming, zoals geslacht, religie, etniciteit en adres. Dat kan leiden tot discriminerende behandeling. Belastingdiensten moeten hun beslissingen kunnen uitleggen, anders kunnen ze die ook niet verantwoorden. Vertrouwen kan niet volledig of grotendeels overgedragen worden van mensen naar machines (bijvoorbeeld algoritmen).

Kortom: het gaat mis omdat AI als onfeilbaar wordt gezien en omdat als gevolg daarvan controlemechanismen ontbreken. Typische gevallen dus van Computer says no. Dat is Harari’s (en Kuźniacki ‘s) belangrijkste punt: AI op zich kan een zeer bruikbaar instrument zijn, maar wij als mensen moeten AI blijven controleren en er geen blind vertrouwen in hebben

Unheimisch
En dan begrijp ik ineens wat me zo dwarszit, waarom de woorden er zo moeilijk uitkomen en wat er scheelt aan het boek van Harari. Zijn waarschuwing voor de gevaren van AI is onbedoeld een waarschuwing voor onszelf, de mensheid. Op ongeveer de helft, toen hij nog steeds aan de hand van voorbeelden van het Stalinisme en nazi-Duitsland aan het verklaren was wat de pijlers van een democratische samenleving waren en hoe het mis kan gaan, bekroop me al een unheimisch gevoel. Harari stort een bak aan ellende over de lezer uit en komt dan uiteindelijk met de moraal van het verhaal: ‘het kan in de toekomst nog veel erger worden als we AI ongebreideld zijn gang laten gaan.’

Ook het tweede deel van het boek bestaat uit doemscenario’s en menselijk falen, en toen ik eindelijk bij het laatste hoofdstuk aankwam, waar nog iets van hoop uitspreekt omdat we nog steeds een kans hebben om het tij te keren, had ik alle vertrouwen in de mensheid allang verloren. Zeker omdat ik het boek las ten tijde van de Amerikaanse presidentsverkiezingen, de Israël oorlog, de rellen in Amsterdam en het aantreden van een nieuw kabinet in Nederland.

AI kan zeker een katalysator zijn voor alle problemen die we nu al hebben, maar nu een uitgebreide analyse geven van de toekomstige gevaren van AI voelt voor mij alsof je je zorgen maakt over een gebrek aan spaargeld terwijl je nu al nauwelijks te vreten hebt. En daarom moet een wat diepgaander analyse van hoe AI dan precies werkt en waarom we er niet blind op kunnen vertrouwen, hoe interessant ook, maar even wachten en volsta ik hier met een uitleg van Harari zelf. En ook God moet maar even wachten, dit is geen tijd voor metafysische beschouwingen.

Informatieoorlog
De grondslagen van de democratie worden nu al aangevreten. Dat het gezamenlijke verhaal barsten begint te vertonen zie je aan de Links/Rechts bubbles en de toegenomen agressie als we online en offline discussiëren. Of aan de kwestie wie nu precies mogen deelnemen aan het gezamenlijke verhaal, oftewel: wie mag zich volgens ons Nederlander noemen en wie niet?

Controlemechanismen zoals media en de rechtspraak en zelfs de grondwet worden aan de lopende band aangevallen. Daarmee bedoel ik niet een bepaald medium of een bepaalde rechter, maar de Media en de Rechtspraak in het algemeen. In de VS worden zelfs de verkiezingen an sich ter discussie gesteld.

Dat brengt ons op het verschil tussen beleving en werkelijkheid. Zoals al kort aangestipt is het voor het gezamenlijke verhaal (en dus het in stand houden van een functionerende samenleving) van ondergeschikt belang wat de realiteit is. Het beeld van de realiteit bepaalt alles.

Of het om in een simpele formule weer te geven:

Reëel wantrouwen in de samenleving +
Ongefundeerd wantrouwen in de samenleving
(eventueel aangewakkerd door belanghebbenden)
en algoritmes ) =
——————————————————
Aantasting geloof in rechtstaat

Hoe werkt dit ‘aangewakkerd door belanghebbenden en algoritmes’ nu precies? Twee voorbeelden. In de aanloop naar de verkiezingen in de VS besloot ik het advies te volgen dat ik zelf aan mijn leerlingen geef: ga zoveel mogelijk uit van bronnen en niet van commentaren op die bronnen. Dat bracht me op de podcasts van Joe Rogan met respectievelijk Trump en Elon Musk als gast.

In die laatste podcast kwam het gesprek op Hunter Biden’s laptop waarop belastend materiaal voor Joe Biden zou staan. De Washington Post schreef er een artikel over, dat vervolgens geband werd door Twitter, toen nog niet in handen van Musk. Dit was voor velen, waaronder Musk, aanleiding om Twitter te beschuldigen van censuur en de Democraten te beschuldigen van politiek machtsmisbruik door de media, in dit geval Twitter, te willen controleren.

Dit verhaal stond symbool voor iets veel groters: de gevestigde orde (Democraten én hun vriendjes van de media) blokkeerden dissidente meningen. Voor Musk de reden om Twitter te kopen.

Alleen zit het verhaal geheel anders in elkaar, zoals je hier en hier kunt lezen. Uit de correspondentie tussen medewerkers van Twitter bleek dat ze zelf ook worstelden met de kwestie en dat verwijzingen naar het artikel werden geblokkeerd omdat de laptop van Hunter Biden gehackt was en het Twitters policy was om geen nieuws uit gehackte computers toe te laten.

Uit verder onderzoek is ook niet gebleken dat er politieke motieven aan Twitter’s banbeleid ten grondslag lagen. Sterker nog: onderzoek wijst uit dat politiek rechts meer voordeel van de algoritmes heeft dan politiek links.

Saillant detail: het banbeleid van Twitter en andere social media wordt niet uitgevoerd door medewerkers zelf, maar door algoritmes. De input van de algoritmes (en daarmee eventuele vooroordelen) wordt wel door mensen verzorgd, en de output is net als bij het voorbeeld van de toeslagenaffaire volstrekt onvoorspelbaar. Het was ook het algoritme dat verwijzingen naar het verhaal van de Washington Post blokkeerde.

Een ander voorbeeld. Rogan en Musk bespreken het vermeend mogen stemmen van illegalen die door Democraten voor dat doel bewust verhuisd zijn naar ‘swing states.’ Een kwestie die ook al ‘debunked’ is.

Je kunt Musk van veel beschuldigen, maar dom is hij niet. Het is voor mij 100% zeker dat hij weet dat bovenstaande zaken onzin zijn, zeker omdat hij zélf de Twitter files gestart is. Maar hij weet ook hoe media tegenwoordig werken. De oorspronkelijke stellingname wordt door mensen geloofd, zeker als dit aansluit bij hun confirmation bias dat de Democraten het schuim der aarde zijn. Het aantal malloten daarentegen dat na het beluisteren van een 3 uur durende podcast ook nog zelf bronnen gaat onderzoeken valt op 1 hand te vallen.

En dus is de beleving vaak belangrijker dan de werkelijke feiten. Het gaat zelfs nog verder: Als die feiten in tegenspraak zijn met jouw mening, dan ontken je gewoon die feiten. Dan doe je de bronnen ook af als ‘linkse media’ die zelf aan een of andere bias lijden. Dat is het postmodernistische labyrint waarin we verzeild zijn geraakt. De waarheid bestaat niet meer.

(voor de goede orde: het gaat me niet om links/rechts discussies, deze voorbeelden moet je zien in het licht van heerschappen die welbewust informatie manipuleren en aan de stoelpoten van een samenleving zagen. En natuurlijk zijn er op links voldoende voorbeelden te vinden van individuen die hetzelfde doen, maar zij hebben veel minder macht. Mocht er toch sprake van een bias mijnerzijds zijn, dan laat ik me geheel volgens de regels van een goed functionerende samenleving graag corrigeren.)

Te ingewikkeld
Bovenstaande voorbeelden alleen al geven aan hoe ingewikkeld onze informatiemaatschappij geworden is. Sinds de komst van internet, social media en AI is de hoeveelheid informatie exponentieel gestegen, evenals het aantal meningen daarover. Dit leidt tot ertoe dat het steeds moeilijker wordt om de waarheid (de bronnen) te onderscheiden van de commentaren daarop, en commentatoren daar weer op. Of neem een site als facktcheck.org die ik hierboven citeerde en die op haart beurt ook weer gefackcheckt is.

Tel daar alle ingewikkelde problematiek bij op zoals de klimaatkwestie en het is geen wonder dat mensen de samenleving niet meer begrijpen. En juist dan zijn mensen vatbaar voor leiders die kracht uitstralen en geen twijfel lijken te kennen. Hoe complexer de wereld wordt, hoe eenvoudiger het verhaal wordt dat mensen willen geloven.

een visuele mindmap van ChatGPT waarbij de begrippen stikstof, co2, boeren, bio-industrie, klimaatverandering, regering, EU, Natura 2000, werkgelegenheid, huizentekort met elkaar verbonden worden – ter illustratie van de almaar toenemende complexiteit van de samenleving, waarbij alles met alles in verbinding staat.

Reële problemen
Is daarmee de kous af? Allerminst. Want er is wel degelijk een reële voedingsbodem waarop Trump en Musk kunnen floreren. Het verschil tussen rijk en arm is enorm, evenals het drugs- en opiatenprobleem, het geweldsprobleem, het immigranten- en illegalenprobleem en het daklozenprobleem. Het wantrouwen tegen de boven ons gestelden mag dan deels op lucht zijn gebaseerd en aangewakkerd worden door types die het niet zo nauw nemen met de rechtsstaat, dat betekent allerminst dat het wantrouwen totaal ongefundeerd is

De situatie in Nederland is niet veel beter, ook wij kampen met instanties die op wankelen staan en een hoop reële problemen, die slechts verminderd kunnen worden door het gezond verstand te gebruiken. Om dat te doen, moeten we ons beleid allereerst baseren op betrouwbare informatie.

Dat brengt ons bij een paradox van heb ik jou daar, een ware Catch-22 die onbedoeld ook in Plexus van Harari is te vinden: een zo objectief mogelijke weergave van de realiteit via ratio en gezond verstand is de enige mogelijkheid om het gezamenlijke verhaal in stand te houden, en tegelijkertijd zijn ratio en gezond verstand van ondergeschikt belang voor het gezamenlijke verhaal.

Maar het is de enige kans die we hebben.

Windmolens
Het besef van deze paradox en de aanhoudende slecht nieuws show: het is meer dan voldoende om twijfel om te laten slaan in cynisme en nihilisme. Soms voel ik me terneergeslagen, soms heb ik zin om mijn stem te verheffen en te vechten tegen windmolens door me in te beelden dat ik als miezerig individu enige invloed op het grote schouwspel heb, soms kruip ik in een hoekje met een boek van een al 100 jaar dode schrijver om naar het voorbeeld van Goethe te ontsnappen en soms doe ik maar gewoon of ik het eens ben met de meningen om me heen, zodat ik van het gezeik af ben. Ook dat kennen we uit de psychologie: Fight, flight, fleeze or flawn.

Maar ook die buien waaien weer voorbij. De mensheid heeft zich uit benardere situaties weten te redden. Een mens is een taai wezen met een bewonderenswaardig vermogen om weer uit de as te herrijzen. Ook dat weten we uit de psychologie en de geschiedenis.