SAP HANA Cloud krijgt de beschikking over vector-features voor ongestructureerde data, zodat AI-modellen worden gevoed met meer context. Ook moeten hallucinaties afnemen door de data naar de modellen te brengen.
Bij een vector datastore worden gegevens opgeslagen als high-demensional vectors, oftewel een wiskundige vertegenwoordiging van attributen. Het voordeel van het opslaan van data op die manier is dat het zoeken naar en ophalen van data sneller en accurater kan verlopen. In het geval van de vector-features die SAP aan de HANA Cloud-database gaat het dan om ongestructureerde data uit text, beelden en audiobestanden.
SAP wil dat het toevoegen van de vector-functionaliteit het ophalen van objecten door intelligente data-applicaties sneller verloopt. Gebruikers van de data-app kunnen hun vraag stellen in gewone taal, waarbij een model beter antwoord kan geven vanwege de additionele informatie waarover het voortaan beschikt.
Naast het versimpelen van de interactie met LLM’s, helpt SAP met de vector datastore ontwikkelaars bij het implementeren van generatieve AI in applicaties. De HANA Cloud-database zal vector attributen opslaan en doorzoeken, in combinatie met de business data waarover het al beschikt. “Met de vector-mogelijkheden maakt SAP HANA Cloud Retrieval Augmented Generation (RAG) mogelijk, wat de combinatie van LLM’s en private business data combineert”, legt SAP uit. De data-applicaties leren van en omarmen de nieuwe beschikbare informatie.
De vector-mogelijkheden moeten in het eerste kwartaal van 2024 beschikbaar zijn.
Lees ook: SAP brengt met Build Code generatieve AI naar ontwikkelaars
Generatieve AI foundation
Een andere manier om developers te helpen bij het ontwikkelen met generatieve AI komt er met AI Foundation. SAP omschrijft die als een one-stop-shop voor ontwikkelaars om AI- en generatieve AI-aangedreven extensies en applicaties op het Business Technology Platform te bouwen.
AI Foundation brengt verschillende SAP-tools samen en voegt nieuwe features toe. Zo beschikt de nieuwe BTP-toevoeging over AI-services, generatieve AI-management, AI-workloadmanagement, toegang tot business data en context en lifecycle management. Dit is gebaseerd op SAP AI Core, SAP AI Launchpad en SAP HANA Cloud.
Later dit jaar zal AI Foundation ook beschikken over generative AI hub in SAP AI Core. Deze toevoeging biedt ontwikkelaars toegang tot LLM’s van andere leveranciers. Ontwikkelaars kunnen meerdere modellen orkestreren. De hub biedt ook tools voor prompt engineering en andere features voor het versnellen van de bouw van generatieve AI-applicaties.
De generative AI hub, beschikbaar in december, zal samenwerken met de vector datastore van SAP HANA Cloud.
Techzine is deze week aanwezig op SAP TechEd en zal over de belangrijkste updates berichten plaatsen. Houd de website goed in de gaten.