Google hat still und leise eine App veröffentlicht, die KI komplett offline auf dein Smartphone bringt. Kein Internet, kein Abo, keine Cloud – deine Daten verlassen dein Gerät nie. Das verändert, wer die Kontrolle über KI hat.
Im Video zeige ich, wie die App funktioniert. Hier im Artikel ordne ich ein, was das für Datenschutz, Mittelstand und die Frage nach KI-Souveränität bedeutet – und welche Modelle aktuell sinnvoll offline laufen.
Warum Offline-KI plötzlich relevant wird
Bis vor zwei Jahren waren leistungsfähige Sprachmodelle nur in der Cloud nutzbar – zu groß für Smartphones, zu energiehungrig. Mit Gemma 3 und Gemini Nano hat Google Modelle gebaut, die auf normalen Smartphones laufen und für viele Alltagsaufgaben ausreichen.
Der Use Case ist nicht nur Datenschutz. Offline-KI funktioniert im Flugzeug, im Tunnel, beim Wandern, in Gebieten ohne Netz. Sie funktioniert auch dann, wenn Cloud-Anbieter ausfallen oder Geo-Sperren aktiv werden.
Was die App technisch macht
Die App lädt einmalig ein Sprachmodell auf das Gerät – je nach Variante 1-4 GB. Die Inferenz läuft komplett lokal auf dem Smartphone-Chip. Bei aktuellen Pixel- und iPhone-Modellen bringt der Neural Engine die nötige Geschwindigkeit; bei älteren Geräten dauert es länger, läuft aber.
Funktionsumfang aktuell: Texte zusammenfassen, übersetzen, schreiben, beantworten, OCR aus Bildern, Codeerklärung. Vergleichbar mit ChatGPT 3.5 – nicht so stark wie GPT-4 oder Claude Opus, aber für 80% der Alltagsanwendungen ausreichend.
- Komplett offline – Daten verlassen das Gerät nie
- Modellgröße 1-4 GB, läuft auf normalen Smartphones
- Funktionen: Texte zusammenfassen, übersetzen, schreiben, OCR
- Niveau vergleichbar mit ChatGPT 3.5, nicht mit GPT-4 oder Claude Opus
- Funktioniert auch im Flugzeug, Tunnel, Auslandsroaming-Off-Bereich
Was das für deutsche Unternehmen bedeutet
Datenschutz ist in Deutschland nicht nur Compliance-Pflicht, sondern auch Wettbewerbsvorteil. Wer KI auf Geräten ohne Cloud-Übertragung anbietet, kann Kunden bedienen, die Cloud-Lösungen ablehnen – Anwaltskanzleien, Steuerberater, Krankenkassen, Behörden.
Strategisch interessant: Offline-KI ermöglicht KI-Funktionen in Apps, ohne dass die Hersteller dauerhaft Infrastruktur betreiben müssen. Das senkt Betriebskosten und Latenzen. Für Mittelständler, die eigene Apps anbieten, ist das ein konkreter Hebel.
Häufige Fragen
Aktuell Pixel 8 und neuer, iPhone 15 Pro und neuer, Samsung Galaxy S24 und neuer. Bei älteren Geräten läuft die App, aber Antwortzeiten von 10-30 Sekunden machen sie unkomfortabel.
Für Übersetzung, Zusammenfassung und Standard-Antworten sehr gut. Für komplexe Reasoning-Aufgaben oder lange Kontexte deutlich schwächer als GPT-4 oder Claude Opus. Faustregel: 80% der Use Cases reichen die Offline-Modelle.
Apples KI mit On-Device-Modellen auf iOS, LLaMA über lokale Apps wie LM Studio oder Ollama, Microsoft Phi-Modelle. Open-Source-Lösungen sind oft einen Tick schwächer, aber bieten mehr Kontrolle.
Datenschutzkonforme KI in deine App oder Prozesse integrieren?
Wir helfen dir bei der Auswahl zwischen Cloud-, Hybrid- und On-Device-KI – mit klarem Blick auf DSGVO, Wirtschaftlichkeit und Nutzererwartung.
Kostenlose Erstberatung →