Red Hat OpenShift AI 2.15 komt met model registry en bias detection

Red Hat OpenShift AI 2.15 komt met model registry en bias detection

De nieuwe versie van Red Hat OpenShift AI zal de komende dagen beschikbaar worden om bedrijven beter te ondersteunen bij hun AI-workloads.

Dit gebeurt via een technology preview van een model registry, een centrale plek voor het beheren van modellen. Door de modellen beter te organiseren, wordt het eenvoudiger om ze te delen, te deployen en te volgen. Er is ook de mogelijkheid om meerdere modelregistries in te zetten.

Red Hat OpenShift AI 2.15 introduceert daarnaast tools voor het detecteren van bias. Hiermee richt het platform zich op data scientists en AI-engineers, die door de bias van een model te monitoren beter kunnen inspelen op het vergroten van vertrouwen. Het platform biedt inzicht in hoe een model presteert op basis van de trainingsdata en hoe eerlijk het handelt in productie. Voor deze tools werkt Red Hat samen met TrustyAI, een community die een toolkit heeft voor het ontwikkelen van verantwoorde AI.

Ondersteuning voor Nvidia en AMD

Red Hat biedt ook ondersteuning voor Nvidia NIM, een set microservices voor versnelde levering van generatieve AI-applicaties. NIM ondersteunt een grote hoeveelheid modellen voor schaalbare inferentie on-premises of in de cloud via API’s. Op het gebied van hardware is er daarnaast een nieuwe samenwerking met AMD, waardoor gebruikers AMD GPU’s kunnen inzetten voor modelontwikkeling. Als onderdeel van de samenwerking is er toegang tot images voor training.

Tip: Red Hat maakt van OpenShift de hybride AI en cloud-pion