De AI-gestuurde antwoorden in Google Search bleken volgens het bedrijf niet altijd ‘nuttig’ te zijn geweest. AI Overviews is daarom sinds vorige week op verschillende vlakken ingeperkt op zijn kunnen en het bedrijf geeft daar nu meer uitleg over.
Lijm op een pizza zouden we niet aanbevolen krijgen in een culinaire blog. Als we receptideeën aan AI opvragen, dan kunnen we dit dodelijk goedje wel voorgesteld krijgen. Een week nadat een X-gebruiker screenshots deelde van het opvallende antwoord, komt Google met een verklaring.
Onvoldoende relevante data op het internet
Liz Reid, verantwoordelijke voor Search bij Google, legt de schuld gedeeltelijk bij het LLM. Er wordt meer bepaald gesproken van ‘gegevensleemten’. Dat speelt een rol bij zoekvragen waar slechts een klein aantal zoekresultaten voor zijn. Reid haalt er een voorbeeld bij dat online circuleerde waarin de gebruiker zich afvroeg ‘Hoeveel stenen moet ik eten?’
De verklaring wordt voorafgegaan aan een uitleg over de manier waarop AI Overviews, de benaming van Google’s AI-gegeneerde zoekresultaten, werken. Er wordt gewezen op een verschil met chatbots, die ‘eenvoudigweg’ een output genereren op basis van trainingsdata. “Hoewel AI Overviews worden aangedreven door een aangepast taalmodel, is het model geïntegreerd met onze belangrijkste webrangschikkingssystemen en ontworpen om traditionele ‘Search’-taken uit te voeren, zoals het identificeren van relevante, hoogwaardige resultaten uit onze index.”
Op basis daarvan besluit Reid dat AI Overviews eigenlijk niet ‘hallicuneert’, ofwel zaken verzint om een vraag maar te kunnen beantwoorden. Een fout maakt het LLM door misinterpretatie of gegevensleemten. In de blog wordt aangegeven dat met dergelijke zaken is afgehandeld door onder andere AI Overviews te beperken in het produceren van humoristische content. De AI mag daarnaast minder vragen van gebruikers beantwoorden, omdat de technologie volgens Google niet in alle vragen nuttig is gebleken.
Tip! In de meest recente podcast bespreken we de ontwikkelingen rondom de AI-zoekmachine van Google en de toenemende onrust als gevolg ervan.