Kunstmatige intelligentie, wie heeft het er niet over vandaag de dag? Een mooie ontwikkeling, als je het Francis Welbie vraagt, maar we moeten wel waakzaam blijven. Algoritmes mogen niet ons leven gaan bepalen. In deze blog deelt Francis zijn zorgen.
Little Britain
De jongeren onder ons zegt het misschien niet veel, maar wie – net als ik – aan het begin van de 21e eeuw regelmatig voor de buis zat gekluisterd, kent ongetwijfeld de televisieserie Little Britain. Personage Carol Beer demonstreerde op hilarische wijze hoe organisaties kunnen doorslaan in het volgen van de regels. Als bankmedewerkster, reisadviseur bij het reisbureau Sun-Searchers en receptionist bij het St. John’s Hospital moet ze regelmatig nee verkopen, simpelweg omdat de computer niet met de juiste informatie terugkomt. Zeg ‘Computer says no’, en mensen van ‘een zekere leeftijd’ weten precies wat je bedoelt.
Toeslagenaffaire
Hoewel de serie al een tijdje achter ons ligt, is ‘Computer says no’ nog steeds actueel. Onlangs was ik bij een bijeenkomst, waar het onder andere – hoe kan het ook anders vandaag de dag – over kunstmatige intelligentie ging. Ik schreef al eerder een blog over de commotie rondom ChatGPT. Ook tijdens deze bijeenkomst waren de meningen verdeeld. Veel mensen waren enthousiast, maar er waren uiteraard ook kritische geluiden te horen. Als onze kennis steeds meer in systemen verdwijnt, dan worden we ook steeds afhankelijker van die systemen. Daarvan kan je je afvragen of het goed is. Zo blijkt bijvoorbeeld uit de toeslagenaffaire wel hoe moeilijk het soms kan zijn om controle te houden over algoritmes die data verwerken. Voor je het weet, zegt de computer ‘nee’ en dan ben je in de aap gelogeerd.
Kritisch blijven
Het zal niemand verrassen dat ik, omgeven door test-nerds en low-code-geeks, behoorlijk enthousiast ben over een platform als ChatGPT. Maar ik ben zeker niet blind voor de mogelijke gevolgen. Ik denk dat AI heel waardevol kan zijn, maar we moeten kritisch blijven. Wat gebeurt als we een algoritme in gaan zetten dat te pas en te onpas ‘nee’ verkoopt? Ik hoor het ook om me heen, privé, maar ook in mijn ondernemerskring. Mensen die bijvoorbeeld een bankrekening willen openen en van het kastje naar de muur worden gestuurd. Medewerkers – in de vorm van een chatbot of van vlees en bloed – die niet verder komen in een aanvraagproces omdat de computer niet doet wat zij willen dat het doet. Als we niet oppassen verdwijnt daarmee onze flexibiliteit volledig en dat kan niet de bedoeling zijn.
Yes!
Kunstmatige intelligentie? Francis says yes! Maar denk ook na over de potentiële risico’s en voorkom dat we met z’n allen een stelletje Carol Beer’s gaan worden en nog maar een ding kunnen zeggen: Computer says no!
NIEUWSGIERIG?
De testers van RisQIT houden in ieder geval niet van nee verkopen. Wil je weten hoe wij werken? Neem dan vrijblijvend contact met ons op. Interesse in een toffe job als tester? Kijk dan even bij onze vacatures!