Organisaties zijn volop bezig applicaties te voorzien van AI, om zo slimmere software te realiseren. Toch kan het lastig zijn om daadwerkelijk een koppeling te leggen met de bedrijfsdata. Dat wil je wel, want door AI op die manier te voeden, krijgt de business user een zo compleet mogelijke output gepresenteerd. Op dit gat springt Snowflake tijdens de Data Cloud Summit 2024-conferentie in middels updates voor Cortex.
Met de updates positioneert Snowflake een van zijn belangrijkste troeven van de Data Cloud nu prominenter. Eind 2023 onthulde het bedrijf Cortex, een volledig beheerde dienst die organisaties in staat stelt eenvoudiger AI-apps te bouwen. Cortex realiseert dit met functies om large language models (LLM’s), taak-specifieke modellen en vector search-opties toe te voegen aan software. Op die manier kan de Data Cloud meer betekenen voor AI. Snowflake ondersteunde oorspronkelijk vooral analytics workloads, iets wat AI ook is, maar met de ontploffing van kunstmatige intelligentie tijdens de afgelopen 18 maanden, zoeken bedrijven nieuwe mogelijkheden. Onderstaande afbeelding schetst een beeld van wat Snowflake doet met Cortex.
Na een private preview van iets meer dan een halfjaar is Cortex inmiddels algemeen beschikbaar. Op de Data Cloud Summit gaat Snowflake dan ook vol voor het updaten van Cortex en het aanprijzen wat de dienst kan. Vooral omdat Cortex staat voor het grotere doel van Snowflake: het bereiken van iedere gebruiker in een organisatie. De ambitie is om de Data Cloud een plek te maken waar ook de niet-dataprofessional mee om kan gaan voor het realiseren van AI-apps.
Nieuwe chatervaring
Snowflake gaat deze ambitie omzetten met de introductie van Cortex Analyst en Cortex Search. Waar het op neerkomt is dat de meest gebruikte LLM-toepassingen, chatbots, sterker moeten worden in het geven van het juiste antwoord. Dit door de integratie met bedrijfsgegevens te verbeteren, zodat een chatbot met gestructureerde en ongestructueerde data om kan gaan. Cortex Analyst, dat gebouwd is met de Meta Llama 3- en Mistral Large-modellen, maakt het mogelijk veilig applicaties te bouwen bovenop analytische gegevens in Snowflake. Cortex Search gebruikt op zijn beurt retrieval- en ranking-technologie van Neeva, het bedrijf dat Snowflake in mei 2023 overnam, in combinatie met Arctic-embed. Dit maakt het mogelijk software te bouwen die documenten en andere tekstgebaseerde datasets meeneemt. Hiervoor wordt vertrouwd op hybride search; een combinatie van vector en tekst.
Tip: Snowflake neemt gevallen Google-alternatief Neeva over
Op het presenteren van deze twee nieuwe Cortex-functies, die beide spoedig in public preview gaan, verzamelde we al een reactie van een gebruiker. Zo liet Mukesh Dubey, Product Owner Data Platform bij Bayer, aan Techzine weten: “Wat als interne functionele gebruikers specifieke vragen rechtstreeks op hun bedrijfsgegevens zouden kunnen stellen en antwoorden zouden kunnen krijgen met basisvisualisaties? De kern van deze mogelijkheid zijn antwoorden van hoge kwaliteit op een natural language query op gestructureerde gegevens, die op een operationeel duurzame manier worden gebruikt. Dit is precies wat Snowlake Cortex Analyst voor ons mogelijk maakt. Waar ik het meest enthousiast over ben, is dat we nog maar net begonnen zijn en dat we ernaar uitkijken om meer waarde te ontsluiten met Snowflake Cortex AI.”
Hierboven noemden we al even dat Cortex ook veiligheid centraal stelt bij het ontwikkelen van applicaties. Om dit onderwerp kracht bij te zetten, maakt Snowflake spoedig Cortex Guard beschikbaar. Deze component gebruikt de input-output safeguard Meta Llama Guard, voor het filteren en markeren van schadelijke content in bedrijfsdata. Het kan dan gaan om geweld, haat of criminele activiteiten. Cortex Guard is dan ook vooral een feature voor het verbeteren van vertrouwen in AI, ook wel trustworthy AI.
No-code AI-ontwikkeling
Waar Cortex Analyst en Cortex Search ongetwijfeld zullen gaan helpen, is bij het verlagen van de drempel van ontwikkeling. Veel bedrijven zien ook de mogelijkheid die versimpelslag te realiseren met no-code. Daar stapt Snowflake nu wat verder in met de nieuwe AI & ML Studio. Bedrijven kunnen deze omgeving gebruiken om via bouwblokken AI-apps snel te bouwen. Een visueel component als een bouwblok beschikt over voorgeschreven code voor het verrichten van handelingen. Door via drag-and-drop AI-apps te bouwen, kan het ontwikkelproces in theorie veel sneller gebeuren. Hoe dat in de praktijk uitpakt, weten we nog niet. Tijdens de Data Cloud Summit 2024 is de functie nog in private preview. Snowflake belooft dat gebruikers eenvoudig modellen kunnen testen en evalueren binnen de studio, om op die manier de meest kosteneffectieve optie te vinden voor de gebruikstoepassing.
Via de AI & ML Studio krijgen bedrijven straks ook toegang tot Cortex Fine-Tuning. Deze feature moet helpen bij het versterken van de prestaties van een LLM en het leveren van een gepersonaliseerde ervaring. Het betreft een serverless customization, die beschikt over een subset Meta- en Mistral AI-modellen. De modellen kunnen gebruikt worden via een Cortex AI-functie, waarbij toegang beheerd wordt via role-based access controles van Snowflake.
Techzine is deze week aanwezig op de Data Cloud Summit. Eerder brachten we al het nieuws over de samenwerking met Nvidia en de nieuwe data catalog Polaris.