Microsoft heeft een aantal nieuwe mogelijkheden aan zijn Azure AI-portfolio toegevoegd. De belangrijkste aankondigingen zijn de komst van Azure OpenAI Data Zones, een SLA voor zeer lage latency, nieuwe beschikbare AI-modellen en beschikbaarheid via GitHub Marketplace.
De nieuwe mogelijkheden binnen het Microsoft Azure AI-portfolio moeten gebruikers van deze beheerde AI-diensten nog beter helpen bij het bouwen en schalen van AI-oplossingen en -toepassingen.
Azure OpenAI Data Zones
Een belangrijke nieuw toegevoegde optie is onder meer de mogelijkheid van Azure OpenAI Data Zones. Deze specifieke zones voor de beheerde OpenAI-mogelijkheden binnen Azure moeten bedrijven meer controle geven over data privacy en residency.
Concreet geeft deze nieuwe optie van dataregio’s klanten in de EU en de Verenigde Staten de mogelijkheid data binnen deze oplossing te verwerken en op te slaan in de specifieke regio’s. Op dit moment is deze optie beschikbaar voor het Standard (PayGo)-tier en binnenkort voor de Provisioned-tier.
Daarnaast is een 99,9 procent latency SLA geïntroduceerd voor het genereren van tokens. Deze SLA moet garanderen dat klanten altijd de beschikking hebben over gegarandeerde snelheden voor het genereren van tokens. Hiermee moeten ontwikkelaars meer vetrouwen krijgen in de prestaties van de dienst.
Ook zijn binnen het Azure OpenAI-portfolio nu meer opties voor de verschillende o1-preview, o1-mini, GPT-4o en GPT-4o-mini LLM’s beschikbaar.
Nieuwe beschikbare LLM’s
Andere nieuwe mogelijkheden zijn onder meer de beschikbaarheid van nieuwe LLM’s binnen het Microsoft Azure AI-portfolio. De nieuwe LLM’s richten zich vooral op de gezondheidszorg en bestaan uit multimodale medische vision-modellen, zoals MedImageInsight voor het analyseren van medische beelden, MedImageParse voor beeldsegmentatie en CXRReportGen voor het genereren van gedetailleerde gestructureerde rapporten.
Verder zijn nu ook LLM’s van Cohere en Mistral AI toegevoegd, waaronder Cohere Embed 3 en Ministral 3B. Ook is nog meer fine-tuning mogelijk voor Microsoft’s eigen mini-LLM’s Phi-3.5-mini en Phi-3.5-MoE.
Playgroud voor testen en vergelijken
Ten slotte zijn de Azure AI LLM’s nu ook, met behulp van de Azure AI model inference API, beschikbaar via GitHub Marketplace. Ontwikkelaars kunnen hierdoor gratis LLM’s testen en vergelijken in een ‘playgroud’-omgeving. Wanneer zij een bepaald LLM willen gebruiken, kunnen ze via hun Azure-account inloggen en overstappen naar een betaalde tier.
Lees ook: Azure AI Studio algemeen beschikbaar gemaakt met GPT-4o en Phi-3-vision