AWS automatiseert provisionering voor machine learning in Kubernetes

AWS introduceert Amazon Sagemaker voor Kubernetes: een tool die hardware automatisch kan provisioneren op maat van machine learning-workloads in containers. Dergelijke workloads hebben specifieke vereisten en die configureren zonder hulp is een tijdrovend werk.

Wie Kubernetes-containers gebruikt voor machine learning, loopt tegen specifieke hardwarevereisten aan. De machine learning-workloads zijn atypisch. Een geconaineriseerd model voor training van een algoritme maakt bijvoorbeeld intens gebruik van gpu-rekenkracht, wat betekent dat een administrator moet aanpassen hoe Kubernetes gpu-rekenkracht toewijst om de efficiëntie te optimaliseren. In de praktijk gaat het gebruik van containers voor machine learning binnen AWS gepaard met heel wat configuratiewerk dat bovendien een risicop op hardware-overprovisionering met zich meebrengt.

AWS wil aan die inefficiëntie tegemoet komen met de introductie van Amazon Sagemaker voor Kubernetes. De tool werkt samen met de Kubernetes-orchestrator om het management dat eigen is aan machine learning-containers te automatiseren. Sagemaker voor Kubernetes heeft voorgeconfigureerde workflows aanboord waarmee compute-systeembronnen automatisch geconfigureerd en geoptimaliseerd worden voor specifieke workloads.

Beschikbaarheid

Bovendien zorgt de tool ervoor dat hardware pas geprovisioneerd wordt wanneer nodig. Omgekeerd wordt geprovisioneerde hardware uit gebruik genomen wanneer de containers er geen beroep meer op doen. AWS claimt dat Sagemaker voor Kubernetes zo een nagenoeg perfecte schaalbaarheid met bijna 100 procent efficiënt gebruik van systeembronnen met zich meebrengt. Ontwikkelaars kunnen de tool implementeren zonder dat daar extra code voor nodig is.

Amazon kondigt Sagemaker voor Kubernetes aan tijdens de jaarlijkse Re:Invent-conferentie in Las Vegas. De tool is per direct beschikbaar in een handvol AWS-clusters waaronder EU (Ierland) naast US East (Ohio), US East (N. Virginia) en US West (Oregon).

Lees al het nieuws, aankondigingen en analyses rond AWS Re:Invent 2019 hier.