Snowflake heeft de GenAI-tool Cortex Analyst geïntroduceerd. Hiermee zijn klanten in staat om op basis van normale vragen analyses uit te voeren op bestanden in hun Snowflake Data Cloud-omgeving. Dit moet het opvragen van informatie uit dashboards versnellen.
De nieuwe GenAI-tool moet gebruikers helpen bij het samenstellen van dashboards voor hun zakelijke informatie of het uitvoeren van analyses. Waar eerder hiervoor nog speciale hulp van data scientists nodig was, met de daarbij komende vertragingen, moet dit met het gebruik van een GenAI-tool sneller kunnen plaatsvinden.
In plaats van dat data scientists een dashboard moeten aanmaken of een bestaand dashboard moeten aanpassen, kunnen zakelijke gebruikers met Cortex Analyst direct de data in de Snowflake Data Cloud-omgeving bevragen en analyses hierop uitvoeren.
De in normale taal gestelde vragen van medewerkers worden hierbij automatisch vertaald in SQL-queries die vervolgens op Snowflake kunnen draaien.
LLM’s en stappenplan
Onder de motorkap draait Cortex Analyst op verschillende LLM’s, waaronder Mistral AI SAS en de Llama LLM’s van Meta. Gebruikers hebben ook de mogelijkheid de LLM’s van OpenAI op Azure te gebruiken.
Het proces waarmee Cortex Analyst deze LLM’s gebruikt voor het verwerken van zoekvragen bestaat uit verschillende stappen. Als eerste stap instrueert de tool de LLM’s om SQL-code te genereren om de door de gebruikers gewenste analyses uit te voeren.
Daarna draait Cortex Analyst de gegenereerde zoekvragen via een geautomatiseerde debugging-model genaamd Error Correction Agent. Deze tool ontdekt onder meer situaties waarin een LLM data probeert te bevragen met gehallucineerde commando’s die geen onderdeel vormen van de SQL-syntax.
In de volgende en laatste stap worden alle LLM-gegenereerde zoekvragen door het onderdeel Synthesizer Agent gehaald. Dit onderdeel destilleert de zoekvragen in een enkele code snippet die de uiteindelijke gevraagde analyse kan uitvoeren.
Meer betrouwbaarheid
Voor het vergroten van de betrouwbaarheid en om ervoor te zorgen dat de gebruikte LLM’s niet in de war raken voor het genereren van de zoekvragen, gebruikt Snowflake Cortex Analyst simpele schema’s. Dit zijn de bestanden die bepalen hoe de betreffende dataset in een analyticsproject wordt geformatteerd.
Cortex Analyst is zodanig geconfigureerd dat het geen zoekvragen van gebruikers verwerkt die voor de betreffende LLM’s misschien te complex zijn. Hierbij worden dan alternatieve zoekvragen gesuggereerd die wel betrouwbaar kunnen worden beantwoord.
De GenAI-tool van Snowflake is nu in public preview. In het komende kwartaal worden er nog een aantal verbeteringen aan de tool doorgevoerd. Bijvoorbeeld een update die ondersteuning toevoegt voor multi-turn chat-interacties. Een andere update is onder meer de mogelijkheid meer complexe data processing-taken uit te voeren.
Lees ook: Snowflake brengt Cortex AI naar regio’s waar LLM nog niet beschikbaar is