Google "AI Edge Gallery":
Lokale KI-Modelle für Android-Smartphones

Google hat die experimentelle App "AI Edge Gallery" für Android veröffentlicht, mit der Nutzer KI-Modelle von Hugging Face he­runter­laden und offline auf ihren Geräten ausführen können. Alles läuft ohne Internetverbindung , eine iOS-Version ist in Aussicht.

Offline-KI für unterwegs

Bei Github kann man sich ab sofort die AI Edge Gallery als experimentelle App herunterladen, mit der sich KI-Anwendungen auch ohne Internetverbindung nutzen lassen. Aktuell ist die App exklusiv für Android-Geräte erhältlich, doch eine iOS-Version wird zeitnah erwartet.

Experimentelle Alpha-Version

Google kennzeichnet die AI Edge Gallery als "experimentelle Alpha-Version", die mithilfe der Hugging Face Community viele verschiedene KI-Modelle zur Verfügung stellt. Die Google AI Edge Gallery erlaubt es den Nutzern, diese KI-Modelle direkt auf ihren Smartphones herunterzuladen und auszuführen. Damit lassen sich Bilder generieren und Fragen beantworten, außerdem kann man Code schreiben und bearbeiten - alles nur über die Rechenleistung des Smartphones. Die App ist noch im Alpha-Test-Stadium Im Gegensatz zur Gemini-App von Google, die eine Internetverbindung erfordert, bearbeitet die AI Edge Gallery alle Anfragen direkt auf dem Gerät selbst. Ein zusätzliches "Prompt Lab" ermöglicht es Nutzern, Aufgaben mit auswählbaren Vorgaben durchzuführen, etwa das Zusammenfassen oder Umschreiben von Texten.

Im Prompt Lab stehen diverse Vorlagen und individuell anpassbare Einstellungen zur Verfügung, um die Leistung der Modelle zu optimieren. Beim Starten der App kann man sich ein passendes Modell für die jeweilige Anfrage auswählen. Obwohl KI-Modelle, die in der Cloud betrieben werden, oft leistungsfähiger sind als lokale Varianten, haben sie auch ihre Tücken.

Viele Nutzer haben möglicherweise Bedenken, persönliche oder sensible Daten an externe Rechenzentren zu übermitteln, oder möchten Funktionen nutzen, ohne auf WLAN oder mobile Daten angewiesen zu sein.


Google umgeht das Problem mit einer speziellen Engine. Die AI Edge Gallery nutzt "LiteRT" (Lite Runtime). Damit sollen die KI-Funktionen lokal effizient ausgeführt werden, ohne dass Daten in die Cloud gesendet werden müssen. Die Leistung bleibt dennoch hinter der Google-Cloud zurück, was sich bei vielen Aufgaben zeigt.

Nutzer sollten aber die Größe der herunterladbaren LLMs (Large Language Models) im Auge behalten. Diese Modelle variieren in der Größe von 560 MB bis 4,4 GB und werden im Speicher des Geräts abgelegt. Nutzer sollten daher sicherstellen, dass ausreichend Speicherplatz zur Verfügung steht.

Hugging Face als Quelle für KI-Modelle

Hugging Face ist eine führende Plattform für KI-Modelle, auf der Entwickler mehr als 70.000 Varianten von Googles Gemma-Modellen bereitgestellt haben. Gemma wurde von Google im Februar 2024 ins Leben gerufen, um im Bereich der "offenen" Modellfamilien - wie Metas Llama - konkurrieren zu können. Die neuesten Versionen von Gemma sind multimodal, das heißt, sie können sowohl mit Text als auch mit Bildern arbeiten und unterstützen über 100 Sprachen.

Was haltet ihr von Googles neuer AI Edge Gallery? Würdet ihr KI-Modelle lieber lokal auf eurem Gerät ausführen, um eure Privatsphäre zu schützen, oder setzt ihr auf die leistungsstärkeren Cloud-Lösungen? Teilt eure Meinungen in den Kommentaren!


Siehe auch: