Vorige week bracht Google onaangekondigd een app uit waarmee gebruikers een reeks open beschikbare AI-modellen van het ontwikkelplatform Hugging Face lokaal op hun telefoon kunnen draaien.
De app heet Google AI Edge Gallery en is beschikbaar voor Android. Binnenkort volgt ook een iOS-versie. Gebruikers kunnen met de app geschikte modellen zoeken, downloaden en uitvoeren om bijvoorbeeld afbeeldingen te genereren, vragen te beantwoorden of code te schrijven en bewerken. Alles gebeurt lokaal op het apparaat, zonder internetverbinding. De app gebruikt de rekenkracht van ondersteunde telefoons.
Hoewel AI-modellen in de cloud vaak krachtiger zijn, kleven er ook nadelen aan. Sommige mensen willen liever geen persoonlijke of gevoelige gegevens naar externe servers sturen, of ze willen AI gebruiken op plekken zonder internetverbinding.
App in experimentele alphaaversie
Google noemt de AI Edge Gallery een experimentele alphaversie. De app is te downloaden via GitHub en toont op het startscherm snelkoppelingen naar AI-functies zoals beeldanalyse, of chatten. Door een functie te kiezen, verschijnt een lijst met geschikte modellen, waaronder bijvoorbeeld Google’s Gemma 3n.
Daarnaast biedt de app een zogenaamde Prompt Lab, waarin gebruikers met één enkele invoer een taak kunnen starten. Denk aan het samenvatten of herschrijven van tekst. De Prompt Lab bevat sjablonen en instelbare parameters om het gedrag van de modellen aan te passen. Gebruikers kunnen zelf een taalmodel kiezen via Hugging Face-integratie, of een eigen taalmodel inzetten via LiteRT.
De prestaties kunnen verschillen, zo waarschuwt Google. Nieuwere telefoons met krachtigere hardware voeren de modellen doorgaans sneller uit. De grootte van een model speelt ook mee: grotere modellen doen er langer over om een taak uit te voeren dan kleinere.
Google nodigt ontwikkelaars uit om feedback te geven op de ervaring met AI Edge Gallery. De app valt onder de Apache 2.0-licentie en is daardoor vrijwel zonder beperkingen te gebruiken, ook in commerciële toepassingen.