Meta: Neue KIs für Smartphones abseits teurer Premium-Modelle

Meta Platforms hat neue, kompakte Versionen seiner Llama-KI-Modelle entwickelt. Diese machen den Wettbewerbs-Produkten von Apple und Google auf verschiedenen Wegen Konkurrenz: sowohl durch die Leistung als auch die Nutzungsmöglichkeiten.

Deutlicher Leistungsschub

Die heute vorgestellten komprimierten Versionen der Llama 3.2 1B- und 3B-Modelle arbeiten im Vergleich zu früheren Versionen bis zu viermal schneller und benötigen dabei weniger als die Hälfte des Speichers. Trotz der Verkleinerung der Modelle sind ihre Leistungswerte laut Meta fast so gut wie die der größeren Versionen.

Möglich wird dies laut dem Unternehmen durch eine Kompressionstechnik namens Quantisierung, die die mathematischen Berechnungen hinter KI-Modellen vereinfacht. Meta nutzt dafür die Methoden Quantization-Aware-Training mit LoRA-Adaptern (QLoRA) und SpinQuant, um die Genauigkeit zu bewahren und die Portabilität zu verbessern. Diese Technologie ermöglicht es, fortgeschrittene KI ohne den Einsatz massiver Rechenleistung auszuführen.


Tests auf OnePlus-12-Android-Smartphones zeigten, dass die komprimierten Modelle um 56 Prozent kleiner sind, 41 Prozent weniger Speicher verbrauchen und Texte mehr als doppelt so schnell verarbeiten können wie die Vorgängerversion. Die Modelle können dabei Texte mit bis zu 8000 Zeichen verarbeiten, was für die meisten mobilen Anwendungen ausreicht.

Nicht nur Premium

Neben den Leistungssteigerungen ist auch die Vertriebsstrategie Metas beachtenswert. Während Google und Apple ihre KI-Modelle eng mit ihren Betriebssystemen verzahnen, geht Meta einen anderen Weg. Durch die Open-Source-Veröffentlichung der komprimierten Modelle und Partnerschaften mit den Chipherstellern Qualcomm und MediaTek umgeht Meta die traditionelle Plattform-Integration. Entwickler können somit unabhängig von Android- oder iOS-Updates eigene KI-Anwendungen entwickeln.

Die Partnerschaften mit Qualcomm und MediaTek sind besonders bedeutsam, da diese Unternehmen die meisten Android-Smartphones weltweit mit Prozessoren versorgen, insbesondere in Schwellenländern, wo Meta sein Wachstumspotenzial sieht. Indem der Konzern seine Modelle für diese weitverbreiteten Prozessoren optimiert, stellt das Unternehmen sicher, dass seine KI effizient auf einer Vielzahl von Geräten läuft, nicht nur auf teuren Premium-Smartphones.


Siehe auch: