ChatGPT, een nieuwe wijk in onze oude stad

Hoe werkt ChatGPT?

De toegankelijkheid van ChatGPT maakt – samen met de op het oog behoorlijk goede teksten die het produceert – de opmars van kunstmatige intelligentie (AI) zichtbaar. ChatGPT volgt daarbij het pad dat de afgelopen jaren gangbaar is geworden bij de ontwikkeling van AI. Grof samengevat is dat met grote hoeveelheden rekenkracht heel veel voorbeelden bekijken. Op basis daarvan heeft ChatGPT zich de menselijke taal eigen gemaakt. Het bekijkt enorme hoeveelheden teksten, leert om het volgende woord in een zin te voorspellen, en door daar heel goed in te worden kan het zelf teksten produceren.

In filosofische terminologie bewandelt ChatGPT de weg van het empirisme: ervaringen zijn de primaire bron van kennis. Het programma heeft geen vooraf opgestelde regels over bijvoorbeeld grammatica meegekregen, het was een tabula rasa, een onbeschreven blad. En de ervaringen die het verwerkt – het bekijken van enorme hoeveelheden teksten – zijn niet opgedaan in de echte wereld. ChatGPT is een laboratoriumproduct, het is niet een halfjaar naar Rome geweest om Italiaans te leren.

De Chinese kamer van Searle

Een dergelijke benadering roept bij filosofen vragen op. Zo verzette John Searle zich met zijn gedachte-experiment van de Chinese kamer al tegen het idee dat het produceren van goed lopende zinnen laat zien dat er sprake is van begrip. In dat gedachte-experiment worden er aan iemand die in een afgesloten ruimte zit vragen in het Chinees gesteld. Diegene kent geen Chinees, maar heeft een instructieboek bij de hand om toch de vragen in het Chinees te beantwoorden. Omdat de opgesloten persoon na verloop van tijd heel goed met het instructieboek uit de voeten kan, lijkt het voor buitenstaanders net of de opgesloten persoon het Chinees beheerst. De opgesloten persoon is echter alleen het Engels machtig. Zo is het met computers ook, aldus Searle. Zij kunnen weliswaar doen alsof zij de menselijke taal beheersen, begrijpen doen zij die niet.

Wittgenstein en ChatGPT

De werkwijze van ChatGPT sluit op het eerste gezicht dan beter aan bij de ideeën van de taalfilosoof Ludwig Wittgenstein. Volgens hem is de betekenis van taal voor een belangrijk deel gelegen in het gebruik ervan. Niet in de achterliggende gedachten. Bekend is zijn voorbeeld van iemand die een briefje met daarop de tekst ‘vijf rode appels’ aan een kruidenier geeft. De betekenis daarvan is volgens Wittgenstein gelegen in wat de kruidenier vervolgens doet – als het goed is vijf rode appels pakken. Dat past bij ChatGPT: door taal op een juiste manier te gebruiken, bijvoorbeeld door zinnige antwoorden te geven, kan het toch komen tot betekenisvol taalgebruik.

Daar staat echter tegenover dat Wittgenstein sterk wijst op het sociale en contextuele karakter van taal. Het spreken van een taal betekent volgens de Oostenrijkse filosoof dat je ‘deel uitmaakt van een activiteit, of van een levensvorm’. Daar lijkt het bij ChatGPT aan te schorten. Het mag dan antwoord geven op medische vragen, het heeft nog nooit een ziekenhuis vanbinnen gezien, laat staan coschappen gelopen. Evenmin buigt het zich samen met andere wetenschappers op congressen over de nieuwste vragen van een vakgebied. En ChatGPT voert geen heftige innerlijke emotionele strijd bij het schrijven van een liedje, aldus een verontwaardigde Nick Cave nadat een fan ChatGPT om een songtekst in Nick Cave-stijl had gevraagd.

Nadelen van ChatGPT

De aanpak van ChatGPT leidt dus tot criticasters die wijzen op de tekortkomingen van een programma dat slechts op een statistische manier naar taal kijkt. Daarmee kan ChatGPT weliswaar zinnen en teksten produceren die vaak overtuigend overkomen, maar het programma is bijvoorbeeld niet gegrond in de echte wereld en spreekt niet noodzakelijkerwijs de waarheid. Er circuleren dan ook de nodige missers van ChatGPT, al dan niet na een suggestieve vraagstelling. Negen vrouwen zouden bijvoorbeeld een zwangerschap in één maand kunnen volbrengen, en ook fictieve biografieën produceert ChatGPT in een handomdraai.

In tijden van klimaatverandering komen daar zorgen over het energieverbruik van ChatGPT bij. En wat te denken van de macht van BigTech? Microsoft investeert fors in OpenAI, het bedrijf achter ChatGPT. Gezien de twijfelachtige omgang van grote technologiebedrijven met fundamentele waarden als de waarheid en privacy, noopt dat bij ChatGPT tot terughoudendheid.

Een nieuwe buitenwijk

Volgens Ludwig Wittgenstein is onze taal als een oude stad. Het is ‘een wirwar van steegjes en pleintjes’ met ook ‘een groot aantal nieuwe buitenwijken met rechte en regelmatige straten en met gelijkvormige huizen’. ChatGPT is vooralsnog een nieuwe buitenwijk, laat het geen stedenbouwkundige vernieuwing worden die het oude centrum sloopt.