Case Study · On-Device AI

Lokalo: lokale Sprachmodelle direkt am iPhone

Lokalo ist ein Projektbeleg für lokale KI auf mobilen Geräten: Llama, Phi, Qwen und Gemma laufen direkt am iPhone, ohne Cloud-Prompts, Konto oder Telemetrie.

Slavko Klincov, MSc

Projektbeleg

Problem

Viele mobile KI-Anwendungen schicken Eingaben an externe Dienste. Für private Notizen, vertrauliche Fragen oder sensible Texte ist das nicht immer passend. Lokalo untersucht und demonstriert einen anderen Ansatz: Sprachmodelle lokal am Gerät nutzbar machen.

Lösung

Die App setzt auf lokale GGUF-Modelle, iOS, Swift, Metal-Beschleunigung und einen Offline-First-Ansatz. Nutzer sollen mit lokalen Modellen arbeiten können, ohne Konto, Cloud-Prompts oder Telemetrie als Grundvoraussetzung.

Technologien

Ergebnis und Relevanz

Lokalo ist ein sichtbarer Beleg für Slavko Klincovs Schwerpunkt lokale KI und On-Device AI. Das Projekt zeigt, dass KI-Anwendungen nicht zwingend Cloud-first gedacht werden müssen, besonders wenn Datenschutz, Latenz oder Kontrolle wichtig sind.