column
04/04/2024
Jos de Keijzer
Er wordt veel gezegd over de gevaren van ai. Denk aan het verlies van banen of de ongezonde alwetendheid van ai.
Ik was 2 weken geleden bij een lezing van Kester Brewin die een boek geschreven heeft over het gevaar van ai. De titel ‘God-like’ is ontleend is aan een uitspraak van iemand in de AI-sector. Zijn theologische benadering helpt om de ideologische drijfveer achter ai beter te begrijpen.
Het gevaar is niet dat ai autonoom wordt of naar de macht grijpt. Het zijn juist #Terminator- en #Matrix-achtige scenario’s die ons blind maken voor de reële dreiging. Het gevaar is dat ai er al is en dat er ideologisch-religieuze krachten achter schuilgaan die nu al totale controle uitoefenen over de mens.
Dit is wat we al weten:
1. Ai betekent concentratie van macht. Ai is in handen van mensen die de wereld niet beter willen maken, maar vreselijk rijk willen worden: een heel kleine groep witte mannen die zich voornamelijk in de VS bevinden.
2. Ai werkt onrecht in de hand. Ai neemt de vooringenomenheid van zijn eigenaar over en leidt tot discriminatie. Ai zet de Westerse wereld (en vooral de VS) op voorsprong en zal het verschil tussen rijk en arm exponentieel versterken.
3. Ai automatiseert de mens. Ai zet de werknemer steeds meer in als een radertje in een proces met steeds minder bewegingsvrijheid.
4. Ai is niet een entiteit maar een web van big data met speciale logaritmische en procesmatige mogelijkheden. Ai heeft (dankzij Cambridge Analytica) nu al gezorgd voor Trump (2016) en Brexit (2020). Het was er al voordat iedereen ChatGPT aanzette.
Mijn ogen gingen pas echt open toen ik onlangs naar Tegenlicht van de VPRO keek. In de aflevering ‘De grote dataroof’ wordt Shoshana Zuboff, emeritus hoogleraar aan Harvard, geïnterviewd over wat zij surveillancekapitalisme noemt.
Zij beschrijft hoe big data, die Google en sociale media eerst als bijproduct van ons handelen over ons ontvingen, inmiddels al 20 jaar gebruikt wordt om ons in de gaten te houden. Big Tech verdient met onze lichamen geld: gezichtsuitdrukkingen, koopgedrag, locatie, lichaamstemperatuur, etc., wordt al door ai verwerkt en als product verkocht om ons nog gerichter met reclame te verleiden.
‘Dit is nog maar het begin’, zegt Zuboff. ‘Big Tech is uit op totale controle over elke stap die we dagelijks zetten als werknemer, als consument, als burger, als ouder of tiener. En we hebben er nooit toestemming voor gegeven! We trappen in de val onder het mom van gemak.’
Dít is het gevaar van ai. De religieus georiënteerde drang van de bezitters van ai naar totale controle om geld uit onze lichamen te persen. Ai zal nooit goddelijk worden, maar zijn alwetendheid geeft Big Tech onzichtbare totalitaire macht over ons: God-like!
Totale controle komt niet in de vorm van een eng kijkende robot, maar in de vorm van ontzorging. Al consumerend wandelen we een dystopie binnen!
Ik weet niet of je AI als “religieus georiënteerd” kunt omschrijven. “Religie” impliceert een of andere vorm van moraal, hoe gebrekkig ook. Het probleem van “Big Tech” en het kapitalistische systeem in het algemeen is niet dat het “immoreel” is, maar dat het “amoreel” is. Het impliceert vrij van moraal en daarmee “objectief” te zijn.
“Nothing personal, just business.”
Big Tech-bazen als Marc Zuckerberg en Jeff Bezos beseffen niet dat “moraal” is wat mensen tot mensen maakt. “Amoreel” is in wezen de diepste vorm van “immoreel”. Het reduceert mensen tot dingen.
Om mijn favoriete auteur Terry Pratchett te citeren, in een dialoog tussen een oude heks en een goedwillende priester, uit het boek Carpe Jugulum:
“There’s no greys, only white that’s got grubby. I’m surprised you don’t know that. And sin, young man, is when you treat people as things. Including yourself. That’s what sin is.’
‘It’s a lot more complicated than that -’
‘No. It ain’t. When people say things are a lot more complicated than that, they means they’re getting worried that they won’t like the truth. People as things, that’s where it starts.”