Cisco kondigt vandaag tijdens Partner Summit aan dat het de eigen modellen beschikbaar gaat stellen via Model Foundry. Met andere woorden, domein-specifieke AI-modellen die het zelf ontwikkelt zijn nu centraal beschikbaar. Dat lijkt wellicht niet zo’n grote stap, maar is dat wel degelijk. We leggen in dit artikel uit waarom.
Vraag een willekeurige beslisser bij een organisatie wat deze van AI vindt en het antwoord zal in de regel een variant zijn op het volgende: “We moeten er iets mee en zien er de meerwaarde van in, maar we durven het gezien het wispelturige karakter en prestaties van AI-modellen niet aan om er echt vol voor te gaan.”
Model Foundry is, in combinatie met andere onderdelen, Cisco’s reactie op antwoorden van deze strekking. Dit nieuwe onderdeel binnen Cisco Cloud Control moet organisaties, via partners, het vertrouwen geven dat de modellen goed presteren, ook als er meer autonomie bij komt kijken, en dat dit gebeurt in een vertrouwde en veilige omgeving.
Wat is Cisco Model Foundry?
Als je het helemaal plat slaat is Model Foundry een platformdienst die Cisco binnen Cloud Control aan gaat bieden. In eerste instantie is het een dienst voor partners, Cisco breidt de beschikbaarheid van Model Foundry ook uit naar onder andere AWS en Microsoft om developers en enterprises in het algemeen toegang te geven tot wat Model Foundry te bieden heeft. En dat is best wat.
Je kunt Model Foundry zien als de plek waar alle AI-modellen die Cisco zelf ontwikkelt beschikbaar komen. Dit zijn kleinere modellen (SLM’s) die zijn getraind op een zeer specifieke dataset en dus goed zijn in zeer specifieke taken.
Wat zit er in Cisco Model Foundry?
Bij de lancering van Model Foundry zitten er vier modellen in:
Het Deep Network-model (inmiddels toe aan versie 1.4) houdt zich bezig met NetOps, bijvoorbeeld troubleshooting. Het Decision Model is een beslislaag voor AI-agents die zich bezighouden met het netwerk. Via dit model weten agents onder andere welke tools ze achtereenvolgens moeten pakken, maar ook of bewijs en diagnose van een netwerkprobleem met elkaar overeenkomen.
Het Time Series Model is specifiek gericht op data die machines continu genereren, bijvoorbeeld iedere seconde. Dat is data waar generieke AI-modellen veel moeite mee hebben. Tot slot is er nog het Antares-3B-model. Dat is het meest krachtige, maar nog altijd relatief kleine, model uit de Antares-serie, dat zich richt op het vinden van kwetsbaarheden in software.
Het doel is om van Model Foundry een catalogus te maken met allerlei modellen waar partners uit kunnen kiezen.
Waarom is Model Foundry belangrijk?
Model Foundry is eerst en vooral een manier voor Cisco om hun first-party aanbod van modellen aan te kunnen bieden, aan partners en later ook aan andere partijen. Dat was nog niet altijd mogelijk. Zo zijn er modellen die min of meer verstopt zaten in eigen tooling. Die konden helemaal niet los aangeboden worden. In dit opzicht is Model Foundry dus vooral een manier om meer uit de investeringen in de eigen modellen te halen. Die komen nu namelijk bij veel meer klanten terecht.
Naast meer waarde uit de eigen modellen halen en als het goed is meer omzet te genereren, is er echter ook nog een andere, veel belangrijkere, reden waarom Model Foundry een goed idee is. En dat is dat een dergelijke dienst een belangrijk gat in het aanbod van, in dit geval, partners opvult. Die kunnen hun klanten namelijk heel erg goed helpen door de modellen binnen Model Foundry en in breder opzicht binnen Cisco Cloud Control aan te bieden.
Partners kunnen de modellen aanbieden as-is, maar ook per klant nog een klein beetje finetunen om het nog wat beter passend te maken. Ze kunnen er ook een inferencing-dienst omheen bouwen. Het enige wat ze volgens Cisco nodig hebben is een API key om Model Foundry in te kunnen zetten.
Prestaties en vertrouwen komen samen
Uiteindelijk is Model Foundry een belangrijk onderdeel van een groter geheel, dat moet leiden tot betere prestaties maar ook meer vertrouwen in AI. Voor veel organisaties start dit geheel met hoe goed de diensten zijn die hun dienstverleners (de Cisco-partners dus) leveren. Als we er gemakshalve vanuit gaan dat partners goed weten wat hun klanten nodig hebben, dan is die kennis in combinatie met de focus van de modellen in Model Foundry in potentie een uitstekend combinatie.
Veel Cisco-partners zullen die kennis ook steeds meer krijgen, want dat is min of meer waar het nieuwe Cisco 360 Partner Program om vraagt. Dat is veel meer gericht op verticale expertise, in security, networking of een ander onderdeel van het portfolio van Cisco.
Op deze manier komen met Model Foundry meerdere dingen samen. Allereerst is er de kracht van de kleine modellen. Die moet zorgen voor goede resultaten bij inzet van AI voor specifieke doeleinden. Daarnaast is er het gegeven dat Model Foundry vanuit Cisco Cloud Control aangeboden wordt. Dat fungeert dan weer als AI-harness en moet ervoor zorgen dat de modellen met vertrouwen ingezet kunnen worden door partners.
De moeten tot slot hun klanten zo goed mogelijk helpen. Dit kunnen ze nu als het goed is doen zonder zich druk te maken om de randzaken. Dat is althans het verhaal op papier. Het is een goed verhaal, met potentieel een grote impact op de uitrol van AI vanuit partners bij klanten. De partners moeten zich wel weer aanpassen en zich instellen op het leveren van deze dienst aan hun klanten. Hoe dat gaat, zullen we over een tijdje wel horen. Cisco Model Foundry gaat vandaag in Controlled Availability voor partners.