Stack Exchange experimenteert met AI-gegenereerde antwoorden, ondanks het feit dat er nog steeds een verbod geldt op het gebruik van AI-gegenereerde content op Stack Overflow, het gedeelte van de site dat zich richt op ontwikkelaars.
De Answer Assistant, aangeduid als een Labs-experiment, maakt gebruik van AI-gegenereerde antwoorden. Het verbergt die echter totdat ze door de gemeenschap zijn geverifieerd, bewerkt en beheerd. Dit meldt DevClass.
Beperkt aantal sites
De introductie van de Answer Assistant gebeurt voorzichtig. Ongetwijfeld is dit vanwege de gevoeligheid van dit onderwerp binnen de Stack Overflow-gemeenschap. Het experiment wordt in eerste instantie beperkt tot Stack Exchange-sites waar moderators ermee hebben ingestemd om deel te nemen.
Websites kunnen bepalen op welke vragen AI-gegenereerde antwoorden zijn toegestaan. Het AI-antwoord blijft privé totdat het is goedgekeurd door gebruikers met voldoende reputatie. Eenmaal geverifieerd, wordt het publiekelijk zichtbaar en toegeschreven aan een antwoord-bot.
Het experiment zal verschijnen op slechts een paar Stack Exchange-sites. Namelijk Arts and Crafts, Raspberry Pi en User Experience. De Stack Overflow-ontwikkelaarsite is nog niet opgenomen. Er zijn honderden Stack Exchange-sites over onderwerpen variërend van koffie tot 3D-printen, maar Stack Overflow is veruit de grootste, met 1.200 vragen per dag in vergelijking met 155 per dag voor de op één na populairste site (Mathematics).
Minder onbeantwoorde vragen
Door de dominante positie van Stack Overflow binnen Stack Exchange is het onwaarschijnlijk dat een belangrijke nieuwe functie zoals deze daar uiteindelijk niet zal landen, mocht het experiment in productie worden genomen. Volgens de officiële aankondiging is het doel van de Answer Assistant om het aantal onbeantwoorde vragen te verminderen. En om de participatie binnen elke gemeenschap te vergroten.
De context hiervan is dat het verkeer naar Stack Overflow sterk afneemt. Dit komt waarschijnlijk omdat ontwikkelaars AI-assistenten rechtstreeks vanuit hun IDE gebruiken in plaats van de site te bezoeken. Stack Overflow heeft zichzelf al gepositioneerd als een databron voor AI-assistenten. Het gebruikt ook AI om gebruikers te helpen bij het formuleren van vragen via de experimentele Question Assistant.
Gebruikers verwachten menselijke antwoorden
Tot nu toe heeft de site echter AI-gegenereerde content afgewezen. Het verbod werd in 2022 ingesteld, waarbij een document uitlegde dat AI-content ongeschikt is voor gebruik op Stack Overflow. Gebruikers verwachten menselijk geschreven antwoorden, en AI kan niet betrouwbaar bronnen citeren. Het document benadrukt ook dat AI-antwoorden elders gemakkelijk te verkrijgen zijn, en dat als een gebruiker een AI-antwoord wilde, diegene er waarschijnlijk al een had gezocht.
Een andere kwestie is de mate waarin AI-antwoorden mogelijk worden beïnvloed door data afkomstig van Stack Exchange zelf. Het gebruik van AI die is getraind op AI-gegenereerde data is riskant. Een onderzoek van Rice University in Houston in Texas concludeerde dat zonder voldoende nieuwe, echte data in elke generatie van een cyclus, toekomstige generatieve modellen gedoemd zijn om in kwaliteit (precisie) of diversiteit (variatie) achteruit te gaan.
Als experiment kan de Answer Assistant misschien nooit breed worden uitgerold. Toch kan het voor de site een verleidelijke strategie lijken als reactie op het dalende verkeer. Het Stack Exchange-team heeft een introductie van de Answer Assistant geplaatst in het Meta Stack Exchange-forum. De reacties zijn tot nu toe grotendeels negatief.