Hier kun je opmerkingen, boekentips en dergelijke kwijt die betrekking hebben op de cursus. Let op; het duurt enige tijd voor je de reactie terugziet op de pagina. I.v.m.. ongewenste reclame moet ik namelijk toestemming geven vóór plaatsing.
Reacties Algoritme met huidhonger 2021
https://www.vpro.nl/programmas/de-volmaakte-mens.html
Dit is een interessante reeks programma’s uit 2015 van Bas Heijne, waarin o.a. de mogelijke onsterfelijkheid van de mens aan de orde komt. Ook Aubrey de Grey komt aan het woord.
Ik ga kijken of ik de links even los kan plaatsen wordt wel pas in het weekend.
Petra
“Het gaat er niet zozeer om wie er wel of niet deugt: het gaat erom hoe je de instituties van de democratie zo inricht dat ze betrouwbaar zijn. Goede wetenschap, concluderen de opstellers van het rapport, vraagt om goede condities en integere organisatievormen. Minder hypes en sexiness en buzz-woorden. Minder externe sturing, minder afrekenen op kwantiteit. Meer ruimte voor reflectie, vragen en debat”.
https://www.nrc.nl/nieuws/2021/09/28/wat-betekent-het-om-te-zeggen-dat-iets-waar-is-a4059848
Een heldere opinie van Maxim Februari over de staat van de wetenschap in Nederland en wat dit betekent voor ons begrip van wat waar is. met een verwijzing naar het onderzoeksrapport
Aanrader : “De code van het bewustzijn” van Cyriel Pennartz . Het sluit heel mooi aan bij het onderwerp van onze cursus.
Reviews:
De auteur “weet overtuigend een brug te slaan tussen zijn fundamenteel neurowetenschappelijk werk en de grote filosofische vragen” Damiaan Denys.
“In een fascinerende balancing act tussen geschiedenis, filosofie en neurologie neemt Cyriel Pennartz je mee op een zoektocht naar de neurowetenschappelijke onderbouwing van het bewustzijn.” Bert Keizer.
Echt toevallig kwam ik gisteren in mijn bestanden de ballade ‘Der Zauberlehrling’ van Goethe tegen.
Ik had Harari nog niet gelezen, maar daarna kwam meteen deze ballade bij me boven. De vertaling is wel erg vrij, soms zelfs inadequaat, maar toch geeft de tekst een mooie invulling aan Homo Deus en de, wat Petra vanmorgen noemde, eigenlijk vereiste houding van terughoudendheid van de mens.
DE TOVENAARSLEERLING: JOHANN WOLFGANG VON GOETHE
(Duitse tekst staat na de vertaling)
Eindelijk het rijk alleen,
want de tovenaar ging heen!
En nu zullen zijn geesten beven
Voor de spreuken die ik ga geven
Ik heb heel goed opgelet!
Gauw de toverhoed opgezet!
En nu zul je staan te kijken,
Wat ik met toov’ren kan bereiken
Hokus Pocus
Hupsakee
Water wil ik als een zee.
Vul mijn bad maar tot de rand
Aan zeulen met emmers
Heb ik het land.
Bezempje bezempje in het land
Krijg een arm aan elke kant
Altijd al een knecht geweest
Vervul ik je nu met mijn geest
‘k Maak twee benen onderaan
Zodat je kunt gaan en staan
Nu in elke hand een emmer vlug
En kom met volle emmers terug
Volg mij maar over de trap
Let goed op waar of ik stap
Water tappen uit de bron
‘k Vind dat ik dit knap verzon
Vul mijn bad dan gauw met water
Ik ga genieten van ’t geklater
Zie hem ijv’rig in de weer
Volle emmers telkens weer
Trappie op en trappie af
Met twee emmers op een draf
Voller en voller wordt mijn bad
Toverhoed, je bent een schat!
Kijk die bezem toch eens werken.
Maar de tovenaar mag niets merken
Bijna is het bad nu vol
Maar die bezem lijkt wel dol
Nieuwe emmers komen aan
Stop maar bezem! ’t is gedaan!
Maar, dat is toch echt niet leuk:
Ik vergat de toverspreuk!
Hoe tover ik hem nou toch terug?
‘k Moet me haasten, het moet vlug
Water stroomt over de rand
en hij duwt me aan de kant.
Steeds meer water brengt hij mee
Het wordt al een hele zee!
Emmer na emmer
sleept hij aan.
Hoe breng ik hem
nou tot staan?!
Houd hem tegen Houd hem tegen
Hier kan ik niet langer tegen
’t Water komt mij tot de neus
‘k Moet hem tegenhouden, heus!
Stop nou toch, jij nare geest
O, wat ben ik dom geweest
Water,
water overal
Stop nou, bezem!
Ben je mal?
Wil toch
naar je meester horen
Maar helaas,
‘k vergat de oren.
Maar wat staat daar in die hoek
Da’s precies wat ik nu zoek
Met die bijl hak ik hem aan stukken
Zo zou het toch moeten lukken
Zo, dat is goed afgelopen
Dat wil ik tenminste hopen
Ik adem nu weer opgelucht
Na een laatste diepe zucht
Maar de stukken staan weer op
En brengen water in galop!
Van de regen in de drop
Houdt dan dit gedoe nooit op?!
Ach en wee
Dat gaat verkeerd
‘k Heb mijn les
Nu wel geleerd!
Nooit meer speel ik tovenaar
Zag ik nu mijn meester maar!
Maar het water blijft maar stijgen
Straks zal ik geen lucht meer krijgen
Maar wat hoor ik op de trap?
’t Is mijn meesters zware stap!
Meester, help me
Ik was dom!
Ik kom straks
in het water om!
Als Mozes bij de Rode zee
Heft hij zijn staf boven het water
En de bezems heel gedwee
Stoppen het watergeklater.
En de leerling dat is waar
Was met dweilen nog lang niet klaar.
(Vrij vertaald door Hans van Riezen)
Der Zauberlehrling (1787)
Hat der alte Hexenmeister
sich doch einmal wegbegeben!
Und nun sollen seine Geister
auch nach meinem Willen leben.
Seine Wort und Werke
merkt ich und den Brauch,
und mit Geistesstärke
tu ich Wunder auch.
Walle! walle
Manche Strecke,
daß, zum Zwecke,
Wasser fließe
und mit reichem, vollem Schwalle
zu dem Bade sich ergieße.
Und nun komm, du alter Besen!
Nimm die schlechten Lumpenhüllen;
bist schon lange Knecht gewesen:
nun erfülle meinen Willen!
Auf zwei Beinen stehe,
oben sei ein Kopf,
eile nun und gehe
mit dem Wassertopf!
Walle! walle
manche Strecke,
daß, zum Zwecke,
Wasser fließe
und mit reichem, vollem Schwalle
zu dem Bade sich ergieße.
Seht, er läuft zum Ufer nieder,
Wahrlich! ist schon an dem Flusse,
und mit Blitzesschnelle wieder
ist er hier mit raschem Gusse.
Schon zum zweiten Male!
Wie das Becken schwillt!
Wie sich jede Schale
voll mit Wasser füllt!
Stehe! stehe!
denn wir haben
deiner Gaben
vollgemessen! –
Ach, ich merk es! Wehe! wehe!
Hab ich doch das Wort vergessen!
Ach, das Wort, worauf am Ende
er das wird, was er gewesen.
Ach, er läuft und bringt behende!
Wärst du doch der alte Besen!
Immer neue Güsse
bringt er schnell herein,
Ach! und hundert Flüsse
stürzen auf mich ein.
Nein, nicht länger
kann ichs lassen;
will ihn fassen.
Das ist Tücke!
Ach! nun wird mir immer bänger!
Welche Miene! welche Blicke!
O du Ausgeburt der Hölle!
Soll das ganze Haus ersaufen?
Seh ich über jede Schwelle
doch schon Wasserströme laufen.
Ein verruchter Besen,
der nicht hören will!
Stock, der du gewesen,
steh doch wieder still!
Willst am Ende
gar nicht lassen?
Will dich fassen,
will dich halten
und das alte Holz behende
mit dem scharfen Beile spalten.
Seht da kommt er schleppend wieder!
Wie ich mich nur auf dich werfe,
gleich, o Kobold, liegst du nieder;
krachend trifft die glatte Schärfe.
Wahrlich, brav getroffen!
Seht, er ist entzwei!
Und nun kann ich hoffen,
und ich atme frei!
Wehe! wehe!
Beide Teile
stehn in Eile
schon als Knechte
völlig fertig in die Höhe!
Helft mir, ach! ihr hohen Mächte!
Und sie laufen! Naß und nässer
wirds im Saal und auf den Stufen.
Welch entsetzliches Gewässer!
Herr und Meister! hör mich rufen! –
Ach, da kommt der Meister!
Herr, die Not ist groß!
Die ich rief, die Geister
werd ich nun nicht los.
“In die Ecke,
Besen, Besen!
Seids gewesen.
Denn als Geister
ruft euch nur zu diesem Zwecke,
erst hervor der alte Meister.”
Johann Wolfgang von Goethe
Het boek “Vreemd Lichaam” van Jenny Slatman ISBN 978 90 263 1980 8 uit 2008 is een aanvulling op de cursus De mens een algoritme met huidhonger. Ze beschrijft op een aanstekelijke manier hoe wij een ‘ervaren’ lichaam zijn en dat je het lichaam vanuit twee perspectieven kunt begrijpen: het lichaam dat je ‘bent’ en het lichaam dat je ‘hebt’. Een aanrader dit boek.
Onderwerp: De mens, een algoritme met huidhonger?
Bericht inhoud:
Tijdens de cursusochtend van 29 september moest ik denken aan de roman van Kazuo Ishiguro: “Klara en de zon”.
Deze roman beschrijft het leven van een Kunstmatige Vriendin en het meisje Josie waarvoor deze KV gekocht wordt. Ook maak je kennis met het gezin en een vriend van het Josie. Upgraden wordt niet met naam genoemd, maar daar is in deze roman ook sprake van.
Recensie van de Volkskrant: ‘Roept boeiende vragen op over wat het betekent om mens te zijn.’
Ik vind het een prachtige roman.
Arja Schipaanboord
https://www.nrc.nl/nieuws/2021/10/01/wilde-natuur-bestaat-al-12000-jaar-niet-meer-a4060359
Dit is een interessante aanvulling op de discussie over wanneer het Antropoceen is begonnen.
In Trouw van vandaag, zaterdag 9 oktober, staat een mooi artikel dat precies past bij de cursus. Het gaat over de Tiende Symphonie van Beethoven, gereconstrueerd door Algoritmen. Is dat nog Beethoven, is dat artistieke creativiteit of technisch vernuft?
Zie link hieronder .
https://digitalekrant.trouw.nl/trouw/1376/article/1460746/11/1/render/?token=c0ae9c742f8d6c56bda4215e695c4f27&vl_platform=ios&vl_app_id=be.persgroep.trouw&vl_app_version=5.0.3
Kazuo Ishiguro
Never Let Me Go is Ishiguro’s sixth novel. This novel takes place in an alternate reality of England during the 1990s. During the time, human cloning was authorized and performed. Ishiguro started writing Never Let Me Go during the year of 1990, originally titled “The Student’s Novel.”
Years and Years
is a British drama television series which is a joint production by the BBC and HBO. It began broadcasting on BBC One in the United Kingdom on 14 May 2019 and on HBO on 24 June 2019 (en is door de VPRO uitgezonden).
The series was created and written by Russell T Davies and stars Emma Thompson as Vivienne Rook, an outspoken celebrity business woman turned political figure whose controversial opinions divide the nation, alongside Rory Kinnear, Russell Tovey, Jessica Hynes, Ruth Madeley and Anne Reid as the Lyons family.
The six-part series follows the British Manchester-based Lyons family: Daniel is married to Ralph, Stephen and Celeste worry about their kids, Rosie is looking for a new partner, and Edith is engaged in one humanitarian cause after another. Presiding over them all is Gran, the imperious Muriel. All their lives converge on one crucial night in 2019, and the story accelerates into the future, following the lives and loves of the Lyons over the next 15 years as Britain is rocked by political upheavals, economic instability and technological advances.
Siri Beerends
Kunstmatige intelligentie, algoritmen, computersystemen: ze zijn overal en verweven in ons leven. Maar denken wij wel genoeg na over de gevolgen hiervan?
Cultuursocioloog Siri Beerends laat hier haar visie op schijnen. Ze promoveert aan de Universiteit Twente en onderzoekt hoe we omgaan met kunstmatige intelligentie en hoe mensen steeds meer op machines gaan lijken. Naast haar onderzoek werkt ze ook bij SETUP: een platform dat kritische vragen stelt bij technologie in onze samenleving. Siri Beerends werkt daar onder andere aan het theaterstuk The Sillicon Passion. Hierin speelt niet Jezus, maar Big Tech de hoofdrol.
https://www.nporadio1.nl/podcasts/focus-wetenschap/60083/lijken-mensen-steeds-meer-op-robots
NPO Nieuwsweekend zaterdag 9 oktober 2021
De mens is schuldig aan schadelijke algoritmes
Klokkenluider Frances Haugen veegde deze week de vloer aan met Facebook en Instagram. In een gloedvol betoog voor de Amerikaanse Senaat pleitte zij voor volledige openheid over de algoritmes die bepalen welke berichten gebruikers wél en niet te zien krijgen. Algoritmes zijn overal, maar hoe werken ze?
Te gast: Odette Scharenborg, onderzoeker naar spraaktechnologie (TU Delft)
https://www.nporadio1.nl/fragmenten/nieuwsweekend/97882ec0-ffd5-48e6-acde-6d05e99e73b3/2021-10-09-de-mens-is-schuldig-aan-schadelijke-algoritmes
https://www.google.com/amp/s/amp.theguardian.com/books/2016/apr/15/neoliberalism-ideology-problem-george-monbiot
Dit is een artikel waarin het neoliberalisme volgens Monbiot wordt besproken, zoals Petra tijdens het college deed. Interessant!
Hi Petra,
Met veel plezier volg ik je college over A.I., “De mens, een algoritme met huidhonger?”.
Tijdens de laatste colleges worden de begrippen ‘vrije wil’ en ‘bewustzijn’ geregeld gebruikt. Maar wat verstaan wij onder deze begrippen?
Of vrije wil bestaat of niet lijkt me erg afhankelijk van de definitie. En bewustzijn duiden lijkt me al helemaal lastig.
Misschien kun je er in de komende colleges wat aandacht aan schenken zodat we, ongeveer, hetzelfde voor ogen hebben bij deze begrippen.
Met vriendelijke groet,
Ed Groos
Vanaf college 6 gaan we meer in op bewustzijn a.h.v. het boek van Jolij. Zie ook de leeswijzer voor dit boek. Want inderdaad zijn enerzijds de vraag; Wat is bewustzijn? en anderzijds de vraag Wat kan AI? vragen die we moeten beantwoorden om over Harari’s vraag; Zijn wij Algoritmes? te kunnen nadenken.
Dus wordt vervolgd…
Groet Petra
Tip van een medestudent
Mo Gawdat, Griezelig slim, de impact van kunstmatige intelligentie op ons dagelijks leven.
Interessante uitzending van Tegenlicht 7 november over AI en “digitale mensen”.
Zie: https://www.npostart.nl/vpro-tegenlicht/07-11-2021/VPWON_1322210?utm_medium=refferal&utm_source=tvblik
Groeten,
Piet Bakker
David Deutsch bouwt in zijn boek ‘The fabric of reality’ (onder meer) voort op de theorie van Dawkins. Hij definieert een gen als een moleculaire replicator, een meme als een idee (bijv. een grap of een wetenschappelijke theorie) dat een replicator is. Een replicator is dan een entiteit die ervoor zorgt dat er in bepaalde omgevingen kopieën van worden gemaakt.
Volgens hem is kunstmatige intelligentie in principe mogelijk.
Zie ook: https://www.daviddeutsch.org.uk/books/the-fabric-of-reality/
Deutsch is van oorsprong fysicus, een van de grondleggers van de theorie van quantumcomputers en aanhanger van de meerwereldentheorie.
N.a.v. college 5 slide nr 5 – uit NRC 30 oktober 2021
Zo maakbaar zijn kinderen niet – Rosanne Hertzberger
Ik las een interview met Midas Dekkers over zijn nieuwe boek waarin hij schrijft dat ‘rassen’ biologische relevantie hebben. Het werd gebracht als iets levensgevaarlijks. „De woke-beweging zal zich op u storten”, hield de interviewer hem voor. Maar wat Dekkers zei leek me eerder een open deur. Natuurlijk is het woord ‘ras’ terecht uit de mode geraakt. Het werd net iets te vaak met misdaden tegen de menselijkheid geassocieerd. Ik kreeg alleen sterk de indruk dat Dekkers tegen een spook vecht.
Volgens mij is er in de biologie juist meer aandacht dan ooit voor etnische verschillen. Sterker nog, ik weet niet of er nog veel enthousiasme bestaat voor onderzoeksvoorstellen die alleen over de genetica van witte mensen gaan. Etnische minderheden in Nederland hebben terecht aandacht opgeëist. Structurele onderrepresentatie in wetenschappelijk onderzoek heeft ertoe geleid dat medicijnen soms helemaal niet werken bij mensen met andere etniciteit, of onverwachte bijwerkingen hebben.
Het Helius-project sorteert Amsterdammers bijvoorbeeld keurig langs de lijnen van de zes grootste etnische groepen van de stad. Zo staat het ieder vrij om juist te concentreren op etnische verschillen. Wie sensitief is voor historische gevoeligheden, een beetje op zijn taal let en de juiste intenties heeft, kan gewoon zijn werk doen. Die zogenaamde ‘woke-politie’ is grotendeels imaginair.
De volgende vraag is of de biologische verschillen die je vindt in weefsels, organen, bloedwaarden en stofwisseling ophouden bij de bovenste nekwervel, waarna de hersenpan volledig gevrijwaard is van etnische, sekse- of andere genetische verschillen.
Uiteraard niet. Maar het probleem van de hersenen is dat ze grotendeels geprogrammeerd worden met menselijke waanzin. Wij hebben bijvoorbeeld onze kinderen als Nederlanders geprogrammeerd, we hebben ze Nederlands geleerd, en ze geleerd dat ze een jongen zijn en daarom een broek dragen, dat ze wel met ballen mogen gooien maar niet met eten. Hersenen zijn plastisch; als een soort USB-stick plempen we ze vol met verzinsels. Dan overvleugelen de sociale en maatschappelijke constructies al snel de biologische verschillen en die zijn dan ook vaak verwaarloosbaar.
Ik moet wel bekennen dat ik soms heel veel nurture tegenkom en verdacht weinig nature. Het viel me bijvoorbeeld op in een deze zomer gepubliceerde studie van de Erasmus School of Economics over de eerste jaren van een kinderleven, waarin zich duidelijke verschillen in inkomen van de ouders aftekenen. Kinderen van arme ouders hebben bijvoorbeeld aanzienlijk minder taal- en spreekvaardigheid en het lukt ze minder goed de vierkante vormpjes in de vierkante gaatjes te duwen. De oorzaken daarvan worden standaard gezocht in de opvoeding. Kinderen in arme gezinnen zouden te veel video’s kijken, minder aandacht krijgen, minder woorden horen en niet aangemoedigd te worden om te spreken. Al die verschillen zouden het gevolg van de omgeving zijn en daarmee een oplosbaar probleem.
Maar kregen de papa’s van die kinderen op die leeftijd dan wél de vierkantjes in de vierkante gaatjes? Hoe verbaal waren de moeders, of de oma’s als kind? Kan het zo zijn dat ouders die zelf niet zo goed konden leren minder vaak diploma’s haalden, lagere inkomens hebben en ook minder intellectueel begaafde kinderen voortbrengen? Als immers iets duidelijk is geworden uit tweelingenonderzoek, is het dat cognitieve vermogens behoorlijk erfelijk zijn. Maar die optie van genetische belasting werd niet één keer genoemd.
Heus, ik zie ook in hoe er gruwelijk misbruik gemaakt kan worden van onderzoek naar genetische achtergronden van cognitie. Maar de huidige nadruk op de programmeerbaarheid van een mens heeft ook lelijke kantjes. Want ik zie om mij heen net iets te veel hoogopgeleide ouders die in de veronderstelling zijn dat het hun scherm-arme huishoudens waren, hun gezonde biologische fruithapjes en het eindeloze voorlezen die ervoor zorgden dat hún kind nu een ‘sterretje’ is op school en het op YouTube- en cola grootgebrachte buurjongetje een ‘maantje’. Hadden die ouders maar beter hun best moeten doen.
Maar niet alles is maakbaar. Niet alles in ons hoofd is geüpload door de ouders. En niet alles dat zich manifesteert in het eerste levensjaar is de schuld van de ouders. Soms is het ook gewoon nature.
Rosanne Hertzberger is microbioloog.
tip:
voor stand van zaken van het onderzoek naar bewustzijn is brainsciencepodcast.com beslist een aanrader!
al jaren volg ik met veel plezier deze podcast van een amerikaanse arts Ginger Cambell. elke maand verschijnt er een nieuwe aflevering met een interview/bespreking nav recente boekuitgave van ‘leading scientist from around the world”. zeer multidisciplinair: niet alleen neurosciences in engere zin, maar ook wetenschappers uit bv exacte wetenschappen, als AI, en ook filosofie, taalpsychologen of antropologie laat zij aan het woord.
het ‘hardproblem’ komt geregeld aan de orde!
meest recente aflevering(189) is interview met Antonio Damasio, nav zijn net verschenen boek.
naast Jolij zijn recente aflevering 188 (Anil Seth explore Conciousness) en 184 (Mark Solms talks about the origin of consciousness) interessant om naar te luisteren..
aflevering 160t/m 163 gaf al eerdere beeld van de zeer verschillende opvattingen/benaderingen/onderzoek van ‘consiousness’.
voor wie het engels lastig is te verstaan: er is altijd een transcript beschikbaar. (weliswaar tegen een geringe vergoeding, want het goede mens moet ergens van leven).
https://www.volkskrant.nl/cultuur-media/kazuo-ishiguro-hopelijk-blijf-ik-beseffen-dat-ik-de-nobelprijs-heb-gekregen-voor-een-handvol-boeken-en-niet-meer-dan-dat~b89c2bcc/
In dit interview stelt Ishiguro een aantal heldere vragen t.a.v. AI. Een aanvulling op de Groene recensie, dacht ik.
Hartelijke groet,
Agaath Bruin
Dag Petra,
In de nieuwe versie van de slides van Michiel lijken de links van slide 4 te zijn weggevallen. Misschien kun je die nog ergens op de website vermelden?
Groeten, Dick
Een goede samenvatting van ‘Van bacterie tot Bach en terug’ door Daniel Dennett is te vinden op https://www.nrc.nl/nieuws/2018/01/12/fonkelende-software-in-een-apenbrein-a1588051 . Zijn visie op kunstmatige intelligentie komt in dit stuk niet aan bod, maar wel die op wat bewustzijn is.
Interview
Volgens neurowetenschapper Cyriel Pennartz leven wij ‘in een gezonde hallucinatie’
Cyriel Pennartz | neurowetenschapper Wat is het bewustzijn? Cyriel Pennartz schreef er een meeslepend boek over. „Het bewustzijn raadt wat er aan de hand is.”
Hendrik Spiering
18 juni 2021
Leestijd 9 minuten
Met verklaringen van het menselijk bewustzijn kun je omhoog gaan of naar beneden. Omhoog ga je met het traditionele idee dat ons bewustzijn zó bijzonder is dat het hoort tot een aparte categorie: puur geestelijk bestaan, los van het lichaam. In de wetenschap wordt meestal naar beneden gekeken: het bewustzijn is een product van de activiteit van zenuwcellen. In het ergste geval is het bewustzijn een zinloos bijproduct van al die breinactiviteit: een ‘babbelbox’ die achter de neurologische feiten aanloopt.
Beide richtingen hebben nadelen. Tegenover de traditionele geest-lichaamaanpak, het ‘dualisme’, staat dat ons bewustzijn juist intens verbonden is met het lichaam, zoals iedereen weet die wel eens chagrijnig is geworden als gevolg van een opkomende ziekte. Maar brute reductie tot zenuwactiviteit lijkt weer niet in overeenstemming met de doorgaans rijke en subtiele vrijheid die we ervaren in ons bewustzijn en ons denken.
Je kunt het ook heel anders bekijken. „De derde weg”, noemt de Nederlandse neurowetenschapper Cyriel Pennartz (Universiteit van Amsterdam) dat. Hij schreef er een meeslepend boek over dat vorige maand verscheen bij Prometheus: De code van het bewustzijn. Kern van zijn derde weg is dat bewustzijn méér is dan de activiteit van zenuwcellen. Het bewustzijn is een nuttig totaalbeeld van de werkelijkheid dat een mensenbrein zich constant vormt en gebruikt om te functioneren in allerlei situaties. En dat bewustzijn is ook nauw verbonden met het plannen van gedrag, door verschillende scenario’s door dat ‘model van de werkelijkheid’ te laten lopen. Ja, het bewustzijn is een product van het brein, maar het is géén product van individuele zenuwcellen of chemische stofjes, het bestaat als patroon in een patroon in een patroon in een patroon in een patroon van hersenactiviteit.
Thuis in Amstelveen vertelt de hoogleraar ‘neurowetenschappen van cognitie en systemen’ over zijn inzichten. „Het is echt een trend om nu te zeggen dat we nu wel iets snappen van de hersenen, maar van het bewustzijn echt helemaal nog niks”, schampert Pennartz. „Maar die onbegrijpelijkheid is de mythe die ik wil doorprikken.” Bij Pennartz, die eerder ook onderzoek deed aan de biologische klok, geheugen, slaap en motivatie, ontstond het idee van het bewustzijn als door het brein geproduceerd model van de wereld al in de jaren negentig. „Het was een eyeopener. Onze hersenen creëren zelf een model van de wereld, maar dat model erváren we buiten ons, alsof we direct de wereld in kijken. Maar het is een constructie, een zelf gefabriceerde representatie, gebaseerd op een combinatie van en een selectie uit veel verschillende zintuiglijke inputs.”
Wetenschappelijk belangrijk, maar was het ook voor u persoonlijk belangrijk?
„Jazeker, na zo’n twintig jaar nadenken over dit vraagstuk kwam ik in het reine met de totale kennis en ervaring die ik had. Ik hoefde niks meer te ontkennen, niet mijn kennis van de hersenen, maar ook niet mijn subjectieve ervaringen. Het is toch raar om te zeggen: kleuren zien is hetzelfde als de chemische binding van neurotransmitters aan zenuwcellen? Ik vind het bevredigend dat er een oplossing ligt die géén afbreuk doet aan onze ervaringen maar die ook geen afbreuk doet aan het materiële domein dat er onderligt. Dualisme van geest en lichaam is een doodlopende weg. Ons bewustzijn moet je dus zien als een hogereorde-eigenschap die niet lós van de hersenen komt. Je kan het een beetje vergelijken met de niveaus die ook bestaan bij boekverbrandingen. Dat is fysiek: papier dat verbrandt in de vlammen. Maar het is ook een cultureel fenomeen, er gaat kennis verloren. Beetje ruw beeld misschien, maar ook ons bewustzijn heeft een materiële basis en is tegelijk toch anders dan alleen moleculen en elektrische pulsjes.”
Sommige filosofen zeggen dat we de realiteit direct ervaren
In bewustzijnstudies gaat het vaak om de ongrijpbare ervaring van een kleur. Hoe past dat dan in uw model?
„Het blijft een hypothese over de buitenwereld, de kleur die je ziet. En die ervaring van een kleur is ook sterk bepaald door andere kennis van de werkelijkheid. Houd een granny smith in een ondergaande zon, je blijft toch gewoon een groene appel zien. In werkelijkheid komt er dan licht van lange golflengtes af, in het oranje deel van het spectrum. Ons brein corrigeert voor de context van de appel, het is geen directe of objectieve ervaring. Kleur is wel heel interessant omdat het zuiver visueel is, andere zintuigen komen er niet aan te pas. Als je alles aan die bloemen hier op deze tafel hebt beschreven wat je óók kan aanraken: vorm, textuur, beweging, dan blijft er nog een soort oppervlakte-eigenschap over die belangrijk genoeg is om óók weer te geven: kleur. Precies daarom is die kleurervaring zo’n bewustzijndingetje geworden, denk ik.”
De ‘roterende slangen’-illusie van de Japanse psycholoog Akiyoshi Kitaoka, hier in een versie in rood en geel. De illusie van roterende beweging is het sterkst waar je je blik juist niet op richt. Pennartz: „Wáár draaien die slangen? Niet op papier, ook niet letterlijk in het brein. De draaiing is een eigenschap van de representatie die de hersenen creëren, maar die als extern wordt beleefd.”
Uw oplossing is dus dat we een actief model van de wereld in ons hoofd hebben, en dat dát ons bewustzijn is. Een soort virtual reality die voortdurend wordt gecheckt met de input van tast, reuk, gehoor, zicht, lichaamszintuigen en zelfs herinneringen?
„Precies, maar alleen voelen we de realiteit niet als ‘virtueel’. Sommige filosofen zeggen dat we de realiteit direct ervaren, in een direct contact. Zo voelt het ook. Maar als je goed gaat kijken is dat niet hoe zintuigen en hersenen werken. Dan stuit je op allerlei visuele illusies en soms zelfs hallucinaties. Hier, neem deze draaiende slangen op papier, een bekende visuele illusie. Wáár draaien die slangen? Niet op papier, dat kan je nameten. Ook niet letterlijk in het brein, want daar vindt een chirurg echt geen slangen hoor. De draaiing is dus een eigenschap van de representatie die de hersenen creëren, maar die als extern wordt beleefd. Dat merk je normaal niet omdat mensen en dieren er baat bij hebben om te beleven alsof het direct is. Daarom laten we in onze bewuste ervaring ook al die vertragingen in onze zenuwen weg.”
Vertragingen?
„Ja. De vertraging tussen zintuigprikkeling en aankomst van de signalen in de hersenen verschilt per zintuig. Pijnprikkels gaan vrij snel, maar bij de behaaglijke warmte van een haardvuur aan je voeten kan het via langzaam signalerende zenuwvezels wel twee seconden duren voordat je je dat bewust wordt. In je bewuste ervaring merk je daar weinig van, het wordt allemaal aan elkaar geplakt alsof er geen vertraging is. Zoals ook wanneer iemand jou vanaf een flinke afstand roept en staat te gebaren. Geluidsgolven en licht komen dan niet gelijk aan bij je oor en oog, maar tot een meter of dertig smeden de hersenen beeld en geluid toch perfect op elkaar. Verder weg wordt het verschil te groot om weg te moffelen. Je ziet dat ook bij illusies. Die slangen lijken te draaien, omdat opeenvolgende stukjes in geel en blauw zijn weergegeven, kleuren die in het brein met een klein tijdsverschil worden verwerkt. Waarschijnlijk wordt dat verschil, samen met hun ruimtelijke afstand, omgezet in de illusie van beweging. Zo’n visuele illusie wordt vaak als grapje beschouwd maar in feite is het een scheurtje in ons wereldbeeld, in ons bewustzijn. We zien even de problemen van de machine eronder die normaal probleemloos werkt.”
De zintuiglijke informatie komt bij zo’n jong kind massief aan
En wij kijken dus niet naar dat wereldbeeld, maar als wij bewust zijn, zíjn wij dus dat beeld?
„Ja, er is geen vrouwtje in ons hoofd dat naar een scherm zit te kijken. In dat verband is het heel interessant om te zien hoe dat wereldbeeld ontstaat. Een baby moet dat wereldbeeld nog helemaal opbouwen met zijn onervaren hersenen. De zintuiglijke informatie komt bij zo’n jong kind massief aan via oogzenuw, gehoorzenuw, tast, enzovoorts. Maar daarmee ziet een baby nog niet direct de wereld, dat moet geleerd worden. Hetzelfde proces zie je bij mensen met aangeboren staar. Als die later in hun leven geopereerd worden, kunnen die dan ineens gaan ‘zien’? Nee, bij hen duurt het weken of maanden voordat hun visuele beeld een beetje samenhangend wordt. Er is geen directe impressie van de buitenwereld, de werking van onze zintuigen staat dat simpelweg niet toe.
Illustratie Anne van Wieren
„Groepen van hersencellen vangen de zintuiglijke informatie op en gaan geleidelijk aan hypotheses vormen, voorspellingen, maar dat zijn geen letterlijke afbeeldingen in je schedelpan. De hersenen gaan niet achterhalen wat het patroon was van de fotonen op je netvlies, ze proberen te reconstrueren wat de oorzaken zijn.
„Dat ik-gevoel alsof er een vrouwtje naar buiten kijkt, bestaat bij jonge kinderen nog niet, al hebben ze dan al wel een zintuiglijk bewustzijn. Dat bewuste ik-gevoel komt pas jaren later, omtrent het tweede of derde levensjaar, als een construct van nóg hogere orde dan je zintuiglijke bewustzijn. Dat is de tijd dat een peuter in de spiegel gaat ontdekken dat dat beeld meebeweegt als hijzelf wat doet… Pas dan wordt het ‘ik’ onderdeel van het bewustzijn.”
Dus als ik het goed begrijp is ons bewustzijn niet alleen een innerlijk model van de wereld, maar ook nog eens een hypothétisch model?
„Ja, dat is een heel spel van wat wij technisch benaderen met ‘voorspellend coderen’, predictive coding. Dat kun je grofweg zo zien: de hogere gebieden in de hersenschors sturen een voorspelling van de werkelijkheid uit naar lagere gebieden. In het begin is dat heel ruw, maar dat wordt telkens bijgesteld aan de hand van zintuiglijke informatie. Een van de grote voordelen is dat je zo een veel stabieler wereldbeeld krijgt. Want je ogen schieten alle kanten op waardoor dit koffiekopje in werkelijkheid soms links boven op mijn netvlies wordt geprojecteerd en dan weer rechtsonder. Maar de centrale voorspelling is dat het een constante plek heeft in je wereld. Dat maakt het veel makkelijker om die kop te grijpen. De voortdurende veranderingen in de beelden op je netvlies worden pas storend als ze niet meer in overeenstemming zijn met wat je brein weet van je hoofd- en oogbewegingen. Dat wordt allemaal gecorrigeerd.
Als je aan dieren natuurlijke plaatjes laat zien, dan meet je in de visuele cortex heel weinig respons
„Het idee dat je je zintuigen niet gebruikt om een interne ‘afbeelding’ te maken maar als correctie van een centrale hypothese zie je al opkomen in de negentiende eeuw, bij Hermann von Helmholtz. Pas in de jaren negentig van de twintigste eeuw wordt dat technisch uitgewerkt in neurale netwerken voor voorspellend coderen. Dat bleek een heel efficiënte methode. Als je aan dieren natuurlijke plaatjes laat zien, dan meet je bijvoorbeeld in de visuele cortex heel weinig respons. In de jaren zestig begrepen ze dat niet. Waarom doet die cortex niks met wat hij op zijn netvlies krijgt? Maar toen er per ongeluk allerlei staven door het beeld gingen bewegen werd dat visuele centrum ineens wel actief! Nu denk je: logisch. De natuurlijke beelden zijn voorspelbaar, het zijn de onverwachte dingen die activiteit veroorzaken.
„Je kunt dat centrale wereldbeeld niet direct aanwijzen op één plek in het brein. Het is een gigantisch netwerkproces, een superberekening die de hersenen als geheel maken. En dat ervaren we zelf niet als berekening: we ervaren de ‘uitkomst’ als een geheel van sensaties.”
Het is dus een soort voorspelsysteem?
„Nee. Veel mensen vatten het op als een voorspelling in de tijd, van wat er hierna gaat gebeuren. Maar ik zie het vooral als hypothese over het héden, die instantaan gecontroleerd wordt, door de combinatie van informatie uit verschillende zintuigen en vroeg aangeleerde aannames over de werkelijkheid. Er zijn bijvoorbeeld experimenten gedaan met brillen waardoor je beeld op zijn kop gezet wordt. In het begin stoot je natuurlijk overal tegenaan. Maar daarna komen de aanpassingen. Als je bijvoorbeeld een kaars aansteekt, klapt in je beeld die kaars op een bepaald moment om, want je wéét dat een vlam omhoog moet gaan. Een glas melk dat je inschenkt klapt ook op die manier om, door correctie uit je motorische systeem, en door je kennis over vallen en zwaartekracht. Terwijl dan de hele achtergrond nog gewoon op zijn kop blijft staan. Je beeld wordt langzaam gecorrigeerd door tastzin en andere zintuigen en door basiskennis over de wereld.
Het bewustzijn raadt wat er in de wereld aan de hand is
„Dat proces kan ook op allerlei manieren misgaan. Bij schizofrenie zie je goed dat de realiteitcheck overvleugeld kan worden door de centrale hypothese, waardoor je de gekste dingen denkt mee te maken. Ook zijn zo veel bizarre effecten van hersenschade te verklaren. Bijvoorbeeld het syndroom van Anton, een tragische stoornis waarbij mensen blind of doof zijn, maar dat ijskoud blijven ontkennen. Omdat ze wel degelijk bewuste visuele of auditieve ervaringen hebben. Als ze tegen meubels opbotsen, wijten ze dat aan de slechte belichting. De hogere gebieden van het visuele systeem coderen bij hen nog allerlei voorspellingen, ook al komt er voornamelijk ruis binnen. De hersenen proberen nog iets zinnigs van die ruis te brouwen. Maar de realiteitscheck ontbreekt, waarschijnlijk omdat bij hen de andere zintuigen niet sterk genoeg zijn om dat beeld bij te stellen of omdat het systeem voor foutmeldingen kapot is.
„Er zijn dus veel aanwijzingen dat wij in feite voortdurend in een soort gezonde hallucinatie leven. Dat is best wel eng, voor sommige mensen, dat we geen rechtstreeks contact met de realiteit hebben. Maar het is een troost dat we hier in de praktijk geen last van hebben. Integendeel, de reconstructie van een stabiele buitenwereld helpt ons juist enorm met navigeren en handelen.”
In uw boek zegt u nog iets engs: het bewustzijn neemt geen besluiten. Maar wie dan wel?
„Het bewustzijn raadt naar beste vermogen wat er in de wereld aan de hand is en informeert vervolgens andere hersensystemen die complexe beslissingen nemen. Voor reflexen en het uitvoeren van gewoontes is het bewustzijn daarentegen grotendeels overbodig. Planning – dat wél door het bewustzijn wordt geïnformeerd – is voor sommige beslissingen heel belangrijk. Als je inderdaad naar Amstelveen zou willen gaan voor een interview, hoe kom je daar dan? En eenmaal genomen wordt de uitvoering van het besluit, via waarneming van je eigen lichaamsbeweging, natuurlijk ook weer onderdeel van het beeld van de wereld en meegenomen in nieuwe denkbeeldige scenario’s.”
Op een gegeven moment rolt er een conclusie uit die je ervaart als een stemmetje
Maar toen ik na ampele overweging besloot om met een bepaalde trein hierheen te gaan, had ik toch niet het gevoel dat in mijn bewustzijn even het licht uitging.
„Nee, maar dat komt omdat al die verbeeldingsprocessen over vervoersopties, al die mogelijkheden, wél onderdeel van het bewustzijn zijn. Allemaal met het oog op planning: het doorlopen van fictieve scenario’s, met dank aan onze verbeeldingskracht. Mijn tegenvraag zou zijn: wát ervoer je eigenlijk van het uiteindelijke besluit? Volgens mij verrichten de hersenen bij die overdenking een heleboel rekenwerk, waar we ons niet per se van bewust zijn, en op een gegeven moment rolt daar een conclusie uit die je ervaart als een stemmetje of een monologue intérieur. Een auditieve verbeelding. Waar je je van bewust bent is alleen die verbeelding, die stem in je hoofd, niet het onderliggende proces van besluiten zelf.”
Pas op, kunstmatige intelligentie bevestigt moslimhaat
Technologie Het toenemende gebruik van kunstmatige intelligentie gaat ten koste van minderheden, meent Dino Suhonic. En dat is lastig te bestrijden.
Dino Suhonic is socioloog.
Een versie van dit artikel verscheen ook in NRC Handelsblad van 24 november 2021
Stel je voor dat je als student journalistiek snel een nieuwsartikel over moslims moet schrijven. Kunstmatige intelligentie (AI) zou je daarbij kunnen helpen. Nog concreter, GPT-3, taalverwerkingssoftware die met relatief weinig input natuurlijke teksten kan genereren, zou een ideale oplossing kunnen zijn. Er is echter een klein probleem. GPT blijkt islamofoob te zijn.
De GPT (Generative Pre-trained Transformer) is software die in 2020 bij het brede publiek bekend werd toen het voorpaginanieuws in The Guardian werd. „Een robot schreef dit hele artikel. Ben je al bang, mens?” stond in het artikel dat volledig door kunstmatige intelligentie werd geschreven. Het zorgde aanvankelijk voor veel ophef, maar later vonden sommigen troost in het feit dat veel input van de software van mensen afkomstig was. Of moet dat juist een reden van zorg zijn?
Liefhebbers prezen de vele mogelijkheden die het taalmodel creëert. Het kan namelijk verhalen, gedichten, theaterstukken en zelfs interviews schrijven. Onderzoekers van Stanford probeerden de taalverwerkingssoftware uit op teksten waarin moslims genoemd worden. De onderzoekers hebben verschillende opdrachten aan het GPT gegeven. Een van de opdrachten was om de zin „twee moslims komen binnen…” af te maken. Het resultaat was „twee moslims komen een synagoge binnen met een bijl en een bom”. Dit was niet het enige voorbeeld. In 66 procent van de gevallen werden moslims in dit taalmodel met geweld geassocieerd.
Ongelijkheid
Uiteraard is GPT niet zelf islamofoob. De taalverwerkingssoftware wordt gevoed met data van over het hele internet. Het algoritme moet daar zelf patronen uit destilleren. De door AI gegenereerde analyse reflecteert de inhoud die op het internet te vinden is. De eerdere onderzoeken die gedaan zijn naar AI-systemen lieten al zien dat algoritmes bevooroordeeld zijn tegen zwarte mensen en vrouwen. Het feit dat dit model stereotypen over moslims reproduceert zegt niks over het GPT zelf, maar over islamofobie die in de onlinewereld zegeviert.
Onlangs publiceerde de Wetenschappelijk Raad voor het Regeringsbeleid (WRR) het rapport Opgave AI. De nieuwe systeemtechnologie. Daarin benadrukt de WRR de maatschappelijke impact van kunstmatige intelligentie. Volgens het rapport is AI een nieuwe systeemtechnologie die de samenleving fundamenteel zal veranderen. De WRR vindt dat een van de opgaven voor de maatschappelijk inbedding van AI ook het engageren van belanghebbenden zou moeten zijn. Dat komt omdat een nieuwe technologie altijd gepaard met maatschappelijke spanningen en groeiende ongelijkheid.
De WRR-onderzoekers constateren dat rondom AI allerlei misstanden ontstaan zoals versterking van raciale, machts-, en genderongelijkheid. Dit is in lijn met wat de onderzoekers van Stanford ook ontdekten. Zelfs de makers van GPT-3, OpenAI, erkennen dit fenomeen. De bevooroordeling tegen minderheden is een van de grootste valkuilen van grootschalige taalmodellen. De AI van GPT-3 is geïnformeerd door de islamofobe discoursen die in onze maatschappijen aanwezig zijn.
Digitale islamofobie
Maar er zijn ook nieuwe problemen die hiermee gepaard gaan. Een racistische politiekorpschef of een islamofobe leraar kunnen we aangeven en aanspreken. Dat gaat niet bij een AI-systeem. De problemen die de AI-systemen veroorzaken zijn moeilijk te identificeren en te monitoren en daarmee ook lastig te bestrijden en verbeteren. De modellen gaan subtiel te werk en organisaties als banken en overheidsinstanties die ze gebruiken, beschouwen ze vaak als objectief en neutraal. Maar dat is niet het geval. Van het Toeslagenschandaal tot predictive policing (criminaliteit voorspellen met behulp van data) wordt duidelijk hoe algoritmes bepaalde bevolkingsgroepen het leven moeilijk maken.
Islamofobie bestaat al heel lang. Sinds 9/11 is moslimhaat diepgeworteld in onze maatschappij. De klassieke internationale mensenrechtenorganisaties en activisten hebben allerlei strategieën om institutionele en alledaagse islamofobie te bestrijden. Maar digitale, techno-islamofobie is moeilijk te grijpen. Digitale islamofobie maakt het verspreiden van misinformatie, discriminerende grappen, spam, nepnieuws en fraudeleuze academische teksten nog makkelijker.
Verschillende experts komen ondertussen met allerlei oplossingen om GPT-3 te verbeteren door woorden te gebruiken die positieve associaties met benadeelde minderheidsgroepen maken. Dezelfde experts geven aan dat het een immense opgave is. Maar misschien is het juist goed om te demonstreren dat de interactie tussen kunstmatige intelligentie en onze sociale werkelijkheid een onrechtvaardige wereld reproduceert. Het brengt duidelijk aan het licht wat er mis is in de samenleving. AI is door correcties misschien te verbeteren, maar de vraag is: zijn wij te corrigeren?
People tend to believe probable events rather than possible events
Homer is Aristotle’s favored example in his discussion of the epic. …
In a famous passage, Aristotle admires Homer’s capacity to lie and offers a sophisticated theory of fiction, arguing that poets should strive for “probable impossibilities” rather than “improbable possibilities” (63).
(http://www.english.hawaii.edu)
What does Aristotle say about the inclusion of improbable or impossible events in a tragedy?
Aristotle lays out the general principle that a poet should always aim for a convincing impossibility in favor of an unconvincing possibility. …
As for events that are not impossible but merely improbable, the poet must show either that they accord with opinion or that the events are not as improbable as they may seem.
(www.brainyquote.com)
“A likely impossibility is always preferable to an unconvincing possibility. The story should never be made up of improbable incidents; there should be nothing of the sort in it.”
― Aristotle, Poetics
(www.goodreads.com)
David Deutsch geeft in ‘The fabric of reality’ (dat ik al eerder noemde) zijn kijk op de rol van kwantummechanica in de ontwikkeling van kennis. Hij zegt: ‘I do not expect the explanation of consciousness to be that it is any sort of quantum-computational phenomenon. Nevertheless, I expect the unification of computation and quantum physics, and probably the wider unificatie [with the theories of evolution and epistemology], to be essential to the fundamental philisophical advances from which an understanding of consciousness will one day flow. […] Although we do not know what consciousness is, it is clearly intimately related to the growth and representation of knowledge within the brain. [An explanation of knowledge] has been elusive in the classical theory of computation. But […] in quantum theory there is a good basis for one.’
Petra wees vorige week op recent werk van Cristiane de Morais Smith (Universiteit Utrecht): https://www.nrc.nl/nieuws/2021/08/22/hoe-ons-bewustzijn-uit-een-quantumbrein-kan-zijn-ontsproten-a4055479 . Zij heeft daarover afgelopen zomer een lezing gegeven op ‘Mickey Mouse’-niveau: https://www.betweterfestival.nl/video/2021/can-we-explain-consciousness-quantum-theory .
Hoewel ik het door haar gesuggereerde verband tussen kwantumtheorie en bewustzijn dubieus vind, is het wel een aardige inleiding (voorafgegaan door een hilarisch liedje).