D66-leider Sigrid Kaag is beducht voor de gevaren die kunstmatige intelligentie (AI) met zich meebrengt voor de democratie. ‘Het beest groeit’, zei Kaag in een toespraak voor het D66-partijcongres, afgelopen zaterdag in de RAI in Amsterdam. Technologische vooruitgang is ‘een groot goed’ maar sommige ontwikkelingen zorgen volgens haar ook voor vervreemding.Op het gebied van AI is de zelflerende chatbot ChatGPT ‘nog maar het begin’, denkt Kaag. Zij ziet met name risico’s in de mogelijkheden om met behulp van AI nepvideo’s te maken. ‘De manipulatie van beeld vervaagt de grens tussen nep en echt.’ Daardoor zal ‘wereldwijd wantrouwen gevoed worden’.
AI kan volgens Kaag ook een instrument zijn voor kwaadaardige regimes om invloed uit te oefenen in andere landen. Daarnaast verwacht zij dat er banen verloren zullen gaan. Een visie die zij deelt met het World Economic Forum dat voorspelt dat in 2027 44% van de hedendaagse vaardigheden van werkenden overbodig zijn. Het verder afbrokkelen van de middenklasse dat dit tot gevolg heeft, kan de nekslag worden voor het broze vertrouwen in de instituties van de democratie, stelt Kaag.
De AI-wet van de Europese Unie
Europa kwam ondertussen een stap dichter bij het aannemen van nieuwe wetgeving die toepassingen en tools op basis van AI – zoals ChatGPT en Bard – gaan reguleren. Donderdag werd in Brussel besloten om de AI-wet – die al twee jaar in de maak is en volgend jaar gereed moet zijn – verder aan te scherpen. Dat zal Kaag als muziek in de oren klinken. Onder de nieuwe regels vallen ondermeer het gebruik van gezichtsherkenning, biometrische surveillance en AI-toepassingen. Zo worden ChatGPT, Bard en andere tools straks langs een meetlat gelegd om een risico-inschatting te kunnen maken van ‘laag’ tot ‘onacceptabel’. In eerdere versies van het wetsvoorstel zouden LLM’s (Large Language Models) waar de generatieve AI van deze chatbots op gebaseerd zijn, nog van wetgeving worden uitgesloten, schrijft Het Financieele Dagblad. Ook gezichtsherkenning in de publieke ruimte wordt in de nieuwe wet sterk aan banden gelegd en de bedrijven achter de AI-software, zoals Microsoft en Google zullen hun technologie vergaand transparant en inzichtelijk moeten maken.
Het beest beteugelen
Of Europese wetgeving het groeiende beest netjes aan de lijn kan laten lopen, valt natuurlijk te bezien. Dat beest is niet in z’n eentje, maar leeft in groepen en de dierenparken waar ze – onder de hoede van Venture Capital of staatskapitaal – opgroeien, spelen en jagen zijn verdeeld over de hele wereld, met de grootste concentraties in de Verenigde Staten en China en niet in Europa.
Neurorechten
AI-act klaar? Dan is het eigenlijk al wat aan de late kant om over de volgende stap na te denken; met de komst van quantumcomputers wordt het de gewoonste zaak van de wereld om gedachten (en misschien zelfs gevoelens) uit te lezen. Zelfs zonder deze supercomputers gaat het decoderen van de hersenen met behulp van scans en AI steeds sneller. Hoe zit het dan met copyright en privacy? Hebben we straks neurorechten nodig? Experts roepen in de Volkskrant op tot een debat.