Clock IA > Lokal AI: Google udgiver stille og roligt en app, der sætter digitale hjerner i din smartphone
Lokal AI: Google udgiver stille og roligt en app, der sætter digitale hjerner i din smartphone

AI i din lomme, selv offline? Google har en (næsten) hemmelig app til det

Google lancerer i smug AI Edge Gallery: den kunstige intelligens, der hvisker i din smartphones øre, selv offline. Lover det en mini-revolution?

Har du nogensinde stået uden netværk, lige når et eksistentielt spørgsmål (eller noget langt mere trivielt) krævede en kunstig intelligences oplyste mening? Frustrerende, ikke sandt? Nå, Google synes at have hørt vores bønner som afkoblede teknofile. Virksomheden fra Mountain View har stille og roligt lagt en eksperimentel app op i sidste uge, kaldet Google AI Edge Gallery. Hvad lover den? At køre AI-modeller direkte på din Android-telefon (iOS kommer snart) uden behov for at røre så meget som en streg Wi-Fi eller 4G, når først modellen er downloadet.

01/06/2025 22:18 Jérôme

AI i kort kredsløb: din mobil bliver dirigenten

Så, konkret, hvad kan en lokal AI egentlig? Forestil dig: i stedet for at sende dine forespørgsler til fjerne, superkraftfulde servere i datacentre, er det din telefons processor, der sættes i arbejde. Det er lidt som at have en lille digital hjerne om bord. Hovedfordelen er først og fremmest privatliv. Farvel til bekymringen om, at dine personlige eller følsomme data skal gennem skyen for at blive analyseret. Alt forbliver hos dig, eller rettere sagt, i din lomme. Og så er der den praktiske side: AI'en er tilgængelig selv i den mest afsidesliggende døde zone.

Google AI Edge Gallery, beskrevet på dens GitHub-side som en "eksperimentel Alpha-version", henter sine AI-modeller fra en velkendt katalog blandt udviklere: Hugging Face. Det er en slags enormt samarbejdsbibliotek, hvor man kan finde og dele forhåndstrænede AI-modeller. Appen giver dig mulighed for at downloade dem, der er kompatible, og derefter bruge dem til at generere billeder, besvare spørgsmål eller endda skrive og rette kode.

Overdrevne høflige AI? Den nye benchmark, der måler deres tilbøjelighed til at smigre.

Prompts, snak og præstationer: hvad kan du forvente?

Grænsefladen tilbyder genveje til opgaver som "Ask Image" (for at stille spørgsmål til et billede) eller "AI Chat" (for en samtale med AI'en). Men kernen for de tekniske entusiaster er uden tvivl "Prompt Lab".

Hvad er en "prompt"? Det er simpelthen den instruktion, du giver til AI'en. "Prompt Lab" er altså et rum til eksperimenter: bed AI'en om at resumere en tekst, omskrive en anden eller generere kode, alt sammen via såkaldte "single-turn"-opgaver (én interaktion for ét svar). Flere modeller er tilgængelige for hver opgave, som Googles Gemma 3n, der giver mulighed for at sammenligne deres præstationer.

Google advarer dog: "Your mileage may vary", forstået som: resultaterne kan variere. Moderne enheder med kraftigere hardware vil køre modellerne hurtigere. Størrelsen på AI-modellen spiller også en rolle: en stor model vil være langsommere til at besvare et spørgsmål om et billede end en mindre og optimeret model. Projektets GitHub-side nævner desuden, at der er realtids præstationsinformation tilgængelig, som f.eks. initial respons tid (TTFT) eller dekodningshastighed.

Min AI har smadret alt: Hvis skyld er det (og hvem betaler regningen)?

En åben legeplads (og nogle ukendte faktorer)

En af de mest interessante aspekter er, at appen er udgivet under en Apache 2.0-licens. Uden at gå for meget i detaljer med juridisk jargon betyder det, at den kan bruges, ændres og distribueres ret frit, også til kommercielle formål. Det er en klar invitation til udviklersamfundet om at tage værktøjet i brug, udforske det og give feedback. GitHub-siden fremhæver desuden muligheden for at "teste dine egne lokale LiteRT .task-modeller", en Google-teknologi til optimeret modeludførelse på enheder.

Indsatsen er stor: selvom AI i skyen ofte er mere kraftfuld, er udsigten til en lokal AI med god ydelse og respekt for privatlivet tiltalende. Spørgsmålet er, hvordan denne "eksperimentelle" initiativ vil udvikle sig, og om den brede befolkning vil følge med. Vejen er lang, før din smartphone bliver en alsvidende og selvstændig orakel, men Google har netop lagt en interessant byggesten.

Google I/O 2025: Når AI rydder din indbakke og handler for dig

Vidste du det?

Ifølge projektets GitHub-side integrerer Google AI Edge Gallery appen "Google AI Edge Core APIs and tools for on-device ML" samt en "LiteRT: Lightweight runtime for optimized model execution". Kort sagt nøjes Google ikke med at tilbyde en galleri, men også de underliggende værktøjer, så udviklere kan optimere og køre AI-modeller effektivt direkte på vores enheder.

Så, klar til at downloade din første AI-model for at snakke med din telefon, selv i flytilstand? Æraen med lokal AI er måske lige begyndt. Og det er ret gode nyheder for vores små (og store) digitale nysgerrigheder, sikret mod de nysgerrige blikke fra den store internet-sky. Nu er det din tur!

Jerome

Ekspert i webudvikling, SEO og kunstig intelligens, min praktiske erfaring med at skabe automatiserede systemer går tilbage til 2009. I dag, udover at skrive artikler for at afkode aktualiteter og udfordringer inden for AI, designer jeg skræddersyede løsninger og fungerer som konsulent og underviser for en etisk, effektiv og ansvarlig AI.

Facebook - X (Twitter) - Linkedin
Clock IA > Lokal AI: Google udgiver stille og roligt en app, der sætter digitale hjerner i din smartphone