3 min Applications

IBM heeft rotsvast vertrouwen in Granite-modellen

IBM heeft rotsvast vertrouwen in Granite-modellen

IBM breidt zijn portfolio aan AI-modellen verder uit met de introductie van Granite 3.0, een set aan open-source LLM’s. Daarnaast breidt het bedrijf zijn AI-portfolio uit met een nieuwe Watsonx-assistent voor coderen en een nieuwe versie van zijn AI-platform IBM Consulting Advantage.

IBM breidt zijn AI-portfolio groot uit met nieuwe LLM’s, een verbeterde code-assistent en AI-platformuitbreidingen. De basis hiervan wordt gevormd door de introductie van Granite 3.0-LLM’s.

De LLM’s komen beschikbaar in drietal varianten: de basismodellen, modellen met extra regels en veiligheid en zogenoemde ‘Mixture -of-Experts (MoE)’. De algemene basismodellen van de Granite 3.0 LLM’s zijn Granite 3.0 8B Instruct, Granite 3.0 2B Instruct, Granite 3.0 8B Base en Granite 3.0 2B Base.

De LLM’s met extra securitymogelijkheden zijn Granite Guardian 3.0 8B, en Granite Guardian 3.0 2B. De specifieke MoE LLM’s zijn Granite 3.0 3B-A800M Instruct, Granite 3.0 1B-A400M Instruct, Granite 3.0 3B-A800M Base en Granite 3.0 1B-A400M Base.

In tegenstelling tot veel LLM’s van concurrenten, zijn alle IBM Granite 3.0-modellen open source beschikbaar. Dit moet deze modellen volgens IBM betere prestaties, flexibiliteit en autonomie geven voor (groot)zakelijk gebruik.

Onder de motorkap

De nu gepresenteerde Granite 3.0 8B and 2B LLM’s zijn ontworpen als ‘werkpaard’-modellen voor zakelijk AI-gebruik, bijvoorbeeld door het leveren van sterke RAG-, classificatie-, samenvattings-, entiteitsextractie-functionaliteit en gebruik van tooling. De LLM’s kunnen makkelijk worden gefinetuned met (eigen) zakelijke data en in verschillende zakelijke omgevingen of workflows worden geïntegreerd.

De IBM LLM’s zijn onder de motorkap getraind, met behulp van Nvidia H100-GPU’s, op meer dan 12 miljard datapunten uit 12 verschillende talen en 116 verschillende programmeertalen met een nieuwe tweetrapstrainingsmethode. Eind dit jaar moeten de Granite 3.0 8B en -2B LLM’s de context window van 128.000 karakters ondersteunen en multimodale begripsmogelijkheden voor documenten.

Overige introducties

Naast de Granite 3.0-LLM’s heeft IBM, hierop voortbordurend, ook een nieuwe versie van de watsonx Code Assistent geïntroduceerd. Deze AI-assistent voor coderen is nu op de Granite LLM’s gebaseerd en bied hulp bij het coderen in programmeertalen als C, C++. Go. Java en Python. Ook helpt het bij het moderniseren van zakelijke Java-applicaties. Verder zijn de coderingsmogelijkheden van de Granite LLM’s nu toegankelijk via de VSC-extensie IBM Granite Code.

IBM heeft met de introductie van de nieuwe LLM’s ook zijn AI-delivery platform IBM Consulting Advantage verschillende updates gegeven. De Granite 3.0 LLM’s worden binnen dit platform nu de standaard aangeboden LLM’s.

Binnen het IBM Consulting Advantage AI-platform worden daarnaast nog twee specifieke (consultancy)diensten gepresenteerd; IBM Consulting Advantage for Cloud Transformation and Management en IBM Consulting Advantage for Business Operations.

Deze diensten omvatten domeinspecifieke AI-agents, applicaties en methodes op basis van best practices. Hiermee kunnen IBM-consultants klanten helpen met het versnellen van de overstap naar de cloud, het inzetten van AI met taken als het moderniseren van code, quality engineering en het uitvoeren van werkzaamheden op het terrein van personeelszaken, financiën en inkoop.

Beschikbaarheid IBM Granite 3.0 LLM’s

De open-source IBM Granite 3.0 LLM’s zijn nu beschikbaar op HuggingFace. De specifieke Granite 3.0 Instruct-modellen voor commercieel gebruik zijn nu beschikbaar via het IBM watsonx-platform. Binnenkort komt ook een selectie van de modellen beschikbaar via NVIDIA NIM microservices en Google Cloud Vertex AI Model Garden-integraties met HuggingFace.

Lees ook: IBM huwt AI-platform met zoveel mogelijk data: wat is Watsonx?