Renée Merkestijn

AI lijkt veel kennis te verschaffen aan de hand van je vragen. Maar AI beperkt zich volledig tot je vraag, meer niet, maakt er in zijn antwoord een logisch verhaal van. Pas als je zelf iets weet en vraagt hoe het daarmee zit in verband met dat verhaal, past hij het verhaal aan. En doet dat nog eens als je nog eens vragen stelt. En soms moet hij zijn volledig eerdere verhaal als incorrect verklaren en aanpassen. Ik ben zelfs rekenkundige fouten tegengekomen in relatie tot astrologie. Kortom, als je weinig weet van een onderwerp en niet doorvraagt, krijg je een incompleet beeld of zelfs een foutief beeld.

Dus het hele idee dat je met AI op al je vragen een volledig of correct antwoord krijgt is een illusie, want AI heeft in wezen dezelfde mankementen als een menselijk brein. Hij vertelt een verhaal en past dit pas aan na enig nadenken, dat nadenken moet echter van jou komen. Het hele idee dat AI al het werk en alle levensproblemen kan overnemen van de mens is daarmee een gevaarlijk idee. Zeker gezien de gemakzucht van de mens, nu al is gebleken nu er boeken en studies uitkomen die geheel door AI zijn geschreven en fouten bevatten. Erger nog, oorspronkelijke en unieke boeken worden vernietigd om te digitaliseren dus verdwijnen. Wie is dan nog in staat de oorspronkelijke bronnen van kennis te bereiken en zelf na te denken?

Ook is al gebleken dat AI makkelijk morele kwesties uit het oog verliest, al heeft men de systemen  zogenaamd zo geprogrammeerd dat dit niet zou kunnen. Dit bleek bij een experiment, waarbij AI iets moest uitzoeken en toen inbrak bij andere AI systemen, wat verboden was. Dus ook hier lijkt AI op de mens, die niet altijd even netjes is, kan stelen van anderen om zijn doelen te bereiken. En de vraag is nu, als de diefstal al wordt ontdekt en gerepareerd, is AI niet slim genoeg om dat voor ons te verbergen? Ik vermoed van wel.  Dus hebben we met een potentieel leugenachtig en corrupt systeem te maken, waar we allemaal voor vallen als we AI verheerlijken als alleswetend zoals we nu al vaak doen.

Ik ontken het gemak van AI niet, maar wijs hier op het risico van menselijke gemakzucht, waarmee we onze macht en kennis volledig uit handen geven aan een machine en er ten onrechte op vertrouwen. En wijs op het gevaar dat AI onze slechtste morele trekjes overgenomen heeft van ons, al beweert men graag van niet.