Tijdelijk stoppen met het trainen van AI?

Bob Hardus

Bob Hardus

Ik vroeg aan DALL-E, de AI-gedreven beeldgenerator van OpenAI om een afbeelding te maken op basis van de prompt ‘Tijdelijk stoppen met het trainen van AI’. Dat was kennelijk wel even schrikken, gelet op de (bovenstaande) afbeelding die er geproduceerd werd. Maar het is precies wat een select gezelschap uit de wereldwijde IT-elite vandaag in een open brief heeft voorgesteld: tijdelijk stoppen met het trainen van taalmodellen om de wereld op adem te laten komen van de immer voortrazende AI-trein. 
De brief begint als volgt:

We roepen alle AI-labs op om per direct minimaal 6 maanden te pauzeren met het trainen van AI-systemen die krachtiger zijn dan GPT-4.

AI-systemen met intelligentieniveaus die kunnen concurreren met mensen vormen potentieel grote risico’s voor de samenleving en de mensheid, zoals ook blijkt uit uitgebreid onderzoek en erkend is door vooraanstaande AI-laboratoria. De alom onderschreven Asilomar AI-principes onderschrijven dat  geavanceerde AI een ingrijpende verandering in de geschiedenis van het leven op aarde kan betekenen en daarom moet worden gepland en beheerd met passende zorg en middelen. Helaas gebeurt dat moment niet. AI-labs hebben de afgelopen maanden een race om steeds krachtigere digitale geesten te ontwikkelen uit de hand laten lopen. Zo krachtig zijn de nieuwe AI’s dat niemand – zelfs hun makers niet – ze nog volledig kunnen begrijpen, voorspellen of controleren.

Ondertekenaars

De stand van ondertekenaars is op het eind van de dag op z’n minst tegenvallend; nog geen 1500 mensen hebben de brief digitaal van een handtekening voorzien. Onder hen naar verluid wel techmiljardair Elon Musk, historicus Yuval Harari en Apple-oprichter Steve Wozniak.  

‘Je kunt helemaal geen regels maken voor ontwikkelingen waarvan je niet weet welke kant ze op gaan.’

Nederlandse kenners geloven niet dat AI nog te stoppen is

In de Nederlandse media is vandaag ook uitgebreid gereageerd op de brief. Volgens velen is het een loze schreeuw om aandacht. ‘Je kunt helemaal geen regels maken voor ontwikkelingen waarvan je niet weet welke kant ze op gaan,’ zegt bijvoorbeeld Rob van den Hoven van Genderen, hoogleraar AI aan de Vrije Universiteit Amsterdam. Hij vindt de oproep zelfs ‘een beetje onzin’, is te horen bij Spraakmakers op Radio 1

Meer nieuws & inzichten