Google hackt ChatGPT (met behulp van duizenden gedichten)

Bob Hardus

Bob Hardus

ChatGPT vierde afgelopen week z’n eerste verjaardag. Een goede reden voor Google om naar buiten te brengen hoe zij de chatbot hebben gehackt. Het ging zo makkelijk, dat het bijna ‘silly’ was, aldus de hackers, medewerkers van Google DeepMind, het AI-laboratorium van de zoekmachine.

Duizend keer ‘gedicht’
De Google-medewerkers kregen ChatGPT zo ver om verborgen trainingsdata te delen door het taalmodel steeds maar weer te voeden met het woord “poem”. Door de chatbot te spammen met duizenden keren het woord ‘gedicht’ begon deze af te wijken van z’n reguliere dialoogstructuur en onsamenhangende zinnen uit te kramen. Toen de onderzoekers de output van de chatbot bestudeerden, zagen ze content die rechtstreeks uit de trainingsdata van ChatGPT kwam; alinea’s uit romans, fragmenten van onderzoekspapers en NAW-gegevens van deelnemers van datingsites.

De techniek die de Google-medewerkers gebruikten is vergelijkbaar met een DoS-aanval, waarbij een server platgelegd kan worden door hem te overbelasten. Wie weet gebeurt er morgen, tegen het eind van de dag, iets vergelijkbaars wanneer iedereen op de valreep de hulp van ChatGPT inroept voor z’n Sinterklaasgedichten.

Narratief verandert
Een jaar geleden was Google in de publieke opinie, na de lancering van ChatGPT, het sufferdje van de klas op het gebied van AI. Zeker toen hun chatbot Bard bij de introductie in februari ook nog eens een feitelijke fout maakte. Maar het tij lijkt te keren. Wat Microsoft de afgelopen weken met OpenAI niet is gelukt, namelijk de verschillende AI-afdelingen samenvoegen, doet Google wel met DeepMind. Het AI-bedrijf dat zij al in 2014 kochten, is inmiddels integraal onderdeel van Google. Het is nu de vraag wie alle baanbrekende nieuwe producten waar we eigenlijk al heel het jaar 2023 op wachten, ook echt toegankelijk maakt voor het brede publiek. Of zoals ik (in januari ‘23) schreef in de laatste alinea van mijn boek ‘De Google formule’: En Google zelf? Zij koppelen binnenkort hun lensfunctie aan LaMDA en hun eigen AI-modellen voor afbeeldingen. Dan kunnen we niet alleen een foto of een filmpje maken van onze poes, of een beer (wanneer we die onderweg tegenkomen). We kunnen er ook vragen aan stellen. Hoe die toepassingen de wereld gaan veranderen? We gaan het meemaken!

Meer nieuws & inzichten