Google geeft weer rare antwoorden na een AI-update. Was het eerder een beeldgenerator die racistische uitingen produceerde, nu gaat het om de AI-Overviews in de zoekmachine die soms wel heel bijzondere antwoorden genereren. Van het advies om lijm op pizza’s te doen als de kaas niet goed blijft zitten, tot het eten van een dagelijkse portie stenen.
Levensgevaarlijk
Google heeft snel beterschap beloofd, maar het kwaad is – wederom – geschied. En waar de beeldgenerator – hoe erg de raciale bias ook is – niet tot de core business behoort, zijn radicaal foute antwoorden in een zoekmachine die door veel mensen als belangrijkste bron voor informatie over voeding en andere gezondheidskwesties wordt gebruikt, in feite levensgevaarlijk.
AI Overviews werden twee weken geleden aangekondigd als één van de grootste veranderingen binnen de zoekmachine in jaren*. Google maakte in februari dit jaar een samenwerking met internetforum Reddit bekend om rechtstreeks in te tappen op de user generated antwoorden van dit platform.
Niet zo’n goed idee?
Misschien is één bron (Reddit) toch een stuk minder betrouwbaar dan het beste antwoord op basis van de meeste stemmen? In het basisalgoritme van de zoekmachine wordt het beste antwoord immers bepaald op basis van de meeste én meest relevante inkomende links. Het lijkt er namelijk op dat de AI-Overviews zijn opgesteld door Google’s Gemini AI die voor het antwoord op een vraag door de database van Reddit en andere internetfora scant. Dit sluit goed aan bij de belangrijkste update van Google uit 2022. Deze helpful content update zorgde er namelijk voor dat antwoorden van platforms zoals Reddit en Quora automatisch hoger kwamen dan andersoortige pagina’s zoals blogs. Wie weet bouwt Google nu wel – beter laat dan niet – een extra wegingsfactor in.
Het hek is van de dam
Houden we deze dramatische ontwikkeling nog tegen? OpenAI (en grootaandeelhouder Microsoft), Google en andere big tech doen er alles aan om nieuwe AI-features zo snel mogelijk te lanceren, waarbij ze het met de waarheid niet zo nauw nemen. Heeft OpenAI immers niet ook vorige week aangekondigd dat ze hun taalmodellen gaan trainen met Redditcontent?
* de functie werkt nog niet in Nederland.
