Sztuczna inteligencja w kieszeni, nawet offline? Google ma (prawie) sekretną aplikację do tego

Google po cichu uruchamia AI Edge Gallery: sztuczną inteligencję, która szepcze do ucha twojego smartfona, nawet bez połączenia z internetem. Czy to zapowiedź minirewolucji?

Czy zdarzyło ci się kiedykolwiek utknąć bez zasięgu akurat wtedy, gdy nurtowało cię egzystencjalne (lub zupełnie banalne) pytanie, a odpowiedź miała dać tylko sztuczna inteligencja? Frustrujące, prawda? Cóż, wygląda na to, że Google usłyszało modły technologicznych wygnańców. Firma z Mountain View po cichu udostępniła w zeszłym tygodniu eksperymentalną aplikację o nazwie Google AI Edge Gallery. Jej obietnica? Uruchamianie modeli AI bezpośrednio na twoim telefonie z Androidem (wersja dla iOS ma się wkrótce pojawić) – bez konieczności łapania choćby kreski Wi-Fi czy 4G po pobraniu modelu.

SI w obiegu zamkniętym: Twój smartfon staje się dyrygentem

Więc jak to właściwie działa, ta lokalna SI? Wyobraź sobie: zamiast wysyłać zapytania do odległych, superwydajnych serwerów w centrach danych, procesor w twoim telefonie bierze sprawy w swoje ręce. To trochę jak posiadanie miniaturowego cyfrowego mózgu na pokładzie. Główną zaletą jest przede wszystkim prywatność. Koniec z obawami, że twoje dane osobowe lub wrażliwe wędrują przez chmurę w celu analizy. Wszystko zostaje u ciebie, a właściwie w twojej kieszeni. Dochodzi też aspekt praktyczny: SI jest dostępna nawet w głębokiej „białej plamie”.

Google AI Edge Gallery, opisana na stronie GitHub jako „eksperymentalna wersja Alpha”, czerpie modele SI z dobrze znanego developerom katalogu: Hugging Face. To coś w rodzaju ogromnej, współdzielonej biblioteki, gdzie można znaleźć i udostępniać wstępnie wytrenowane modele SI. Aplikacja umożliwia pobranie tych kompatybilnych, a następnie wykorzystanie ich do generowania obrazów, odpowiadania na pytania, a nawet pisania i poprawiania kodu.

Magia cyfrowa: sztuczna inteligencja Google przemienia Cię w artystę wszechstronnego!

Prompty, pogawędki i wydajność: czego się spodziewać?

Interfejs oferuje skróty do zadań takich jak „Ask Image” (do zadawania pytań o obraz) czy „AI Chat” (do rozmów z SI). Ale prawdziwym sercem dla majsterkowiczów jest zapewne „Prompt Lab”.

Czym jest „prompt”? To po prostu instrukcja, którą przekazujesz SI. „Prompt Lab” to przestrzeń do eksperymentów: poproś SI o podsumowanie tekstu, przepisanie go czy wygenerowanie kodu – wszystko w ramach tzw. zadań „single-turn” (jedna interakcja, jedna odpowiedź). Dla każdego zadania dostępnych jest kilka modeli, jak np. Gemma 3n od Google, pozwalających porównać ich wydajność.

Google ostrzega jednak: „Your mileage may vary”, czyli wyniki mogą się różnić. Nowoczesne urządzenia z mocniejszym sprzętem będą działać szybciej. Liczy się też rozmiar modelu SI: większy model będzie wolniej odpowiadał na pytanie dotyczące obrazu niż mniejszy, zoptymalizowany. Na stronie GitHub Google AI Edge Gallery wspomniano, że dostępne są informacje o wydajności w czasie rzeczywistym, jak czas pierwszej odpowiedzi (TTFT) czy prędkość dekodowania.

Take It Down!: Ameryka wyciąga ciężką broń przeciwko intymnym deepfake’om – między ochroną a dreszczem cenzury

Otwarty plac zabaw (i kilka niewiadomych)

Jednym z najciekawszych aspektów jest to, że aplikacja została udostępniona na licencji Apache 2.0. Bez wchodzenia w prawniczy żargon oznacza to, że można ją dość swobodnie używać, modyfikować i rozpowszechniać, także komercyjnie. To wyraźne zaproszenie dla społeczności developerów do przetestowania narzędzia, zgłębienia go i wyrażenia opinii. Zresztą, strona GitHub podkreśla możliwość „testowania własnych lokalnych modeli LiteRT .task”, czyli domowej technologii Google do zoptymalizowanego działania modeli na urządzeniu.

Stawka jest wysoka: choć SI w chmurze często pozostaje potężniejsza, perspektywa wydajnej i dbającej o prywatność lokalnej SI jest kusząca. Pozostaje zobaczyć, jak rozwinie się ta „eksperymentalna” inicjatywa i czy zdobędzie popularność. Droga do smartfona jako wszechwiedzącego, autonomicznego wyroczni jest jeszcze długa, ale Google właśnie położyło intrygujący klocek.

Sztuczna inteligencja w pracy: czy zapowiadana rewolucja okazała się klapą?

Więc gotowy, by pobrać swój pierwszy model SI i pogadać ze swoim telefonem, nawet w trybie offline? Era lokalnej SI może dopiero się zaczynać. I to dobra wiadomość dla naszej (małej i dużej) cyfrowej ciekawości, z dala od wścibskich oczu wielkiej internetowej chmury. Teraz twoja kolej!