Lokale KI & Privacy-First AI

Projektbelege für lokale KI und Datensouveränität

Eine Auswahl konkreter Projekte von Slavko Klincov rund um lokale LLMs, RAG-Systeme, On-Device KI, Anonymisierung, Buchhaltung und private Wissenssysteme.

Ausgewählte lokale KI-Projekte

Eigenentwicklungen, Forschungsarbeiten und Open-Source-Beiträge als Belege für praktische Umsetzung, jeweils mit Problem, Lösung, Ergebnis/Stand und verwendeten Technologien.

On-Device AI

Lokalo

Native iPhone-App für lokale Sprachmodelle. Llama, Phi, Qwen und Gemma laufen direkt am Gerät, ohne Cloud, Konto oder Telemetrie.

Problem
Mobile KI soll ohne Prompt- oder Chatdaten in fremde Cloud-Dienste funktionieren.
Lösung
On-Device LLM-App mit lokalen GGUF-Modellen, Metal-Beschleunigung und Offline-Nutzung.
Beleg
Öffentliche Produktseite und iOS-App-Konzept, Stand 2026.
iOS Swift llama.cpp Apple Metal GGUF
Offline nutzbar · keine Accounts · keine Telemetrie
Lokalo ansehen
Open Source

Anomyze

Intelligenter PII-Anonymisierer für deutsche Texte. 3-Layer-Erkennung: PII + NER + Anomalie-Detektion. Veröffentlicht auf PyPI.

Problem
Personenbezogene Daten müssen vor KI-Workflows in deutschen Texten zuverlässig erkannt werden.
Lösung
Kombination aus Regeln, NER und Anomalie-Erkennung für Privacy-First-Vorverarbeitung.
Beleg
Öffentliche Projektseite und installierbares Python-Paket, Stand 2026.
Python BERT NER Transformers Perplexity Detection
Auf PyPI veröffentlicht · Browser-Extension · DSGVO-bewusste Vorverarbeitung
anomyze.it
Produkt

Meus

Intelligenter Second Brain mit On-Device KI. Gedanken per Sprache/Text erfassen, automatisch clustern und mit lokalem LLM verarbeiten.

Problem
Persönliche Notizen und Gedanken enthalten sensible Daten und brauchen lokale Verarbeitung.
Lösung
Verschlüsselte lokale Datenhaltung, Sprachinput, Clustering und On-Device-LLM-Verarbeitung.
Beleg
1.740+ Tests und öffentliche Produktseite, Stand 2026.
React Native Expo SQLCipher Qwen 2B Whisper iOS NaturalLanguage
1.740+ Tests · iOS + Desktop · lokale verschlüsselte Datenhaltung
meus.info
Business AI

AIBuchhalter

KI-gestützte Buchhaltung für österreichische Einzelunternehmer. OCR-Rechnungsanalyse, automatische Kontierung nach ÖEKR.

Problem
Österreichische Buchhaltungsprozesse brauchen nachvollziehbare KI-Unterstützung mit lokaler Kontrolle.
Lösung
OCR, lokaler KI-Assistent, SQLite-Datenhaltung und ÖEKR-orientierte Kontierungslogik.
Beleg
941 automatisierte Tests und Demo auf Anfrage, Stand 2026.
Python Flask SQLite Tesseract OCR Ollama/Qwen
941 automatisierte Tests · USt-Compliance · KI-Assistent
Demo anfragen
Developer Tool

Lael

Native macOS Menu-Bar-App zur Überwachung aller lokaler KI-Modelle. Single Pane of Glass für Ollama, LM Studio, llama.cpp und mehr.

Problem
Lokale KI-Runtimes laufen verteilt und sind im Alltag schwer zu überwachen.
Lösung
Native macOS-Überwachung für Prozesse, Speicher, Runtime-Typen und lokale Modellaktivität.
Beleg
Öffentliches GitHub-Repository, Stand 2026.
Swift SwiftData WidgetKit libproc
14+ Runtime-Typen · RAM-Alerts · Desktop Widgets
GitHub Repository
Personal AI

geofrey

Persönlicher KI-Assistent der CLI Maestro, Knowledge Hub und LinkedIn-Automatisierung vereint. Lokale RAG-Pipeline mit DACH-Kontext.

Problem
Wissensarbeit braucht wiederverwendbaren Kontext, ohne private Arbeitsdaten in Cloud-Tools zu verteilen.
Lösung
Lokale RAG-Pipeline mit Knowledge Collections, ChromaDB und DACH-spezifischem Kontext.
Beleg
Öffentliches GitHub-Repository, Stand 2026.
Python Ollama/Qwen ChromaDB LangChain
5 Knowledge Collections · DACH-Kontext · Session-Import
GitHub Repository
Forschung

TranscriptLLM

Toolkit für lokale deutsche LLMs: Benchmark-Vergleich von 7-9B Modellen, Whisper-Evaluation und Meeting-Transkription mit KI-Zusammenfassung.

Problem
Deutsche Transkription und Zusammenfassung brauchen reproduzierbare Modellvergleiche.
Lösung
Lokale Whisper- und LLM-Pipeline mit Benchmarking, llama.cpp und Meeting-Zusammenfassung.
Beleg
7 lokale Modelle verglichen und Demo auf Anfrage, Stand 2026.
Python PyTorch Whisper llama-cpp-python Qwen 2.5
7 Modelle verglichen · Whisper Benchmark · Meeting-Summarizer
Demo anfragen
Forschung

ANE Training iPhone

Open-Source-Projekt für Transformer-Training direkt auf der iPhone Neural Engine, ohne Jailbreak.

Problem
On-Device-KI soll nicht nur Inferenz, sondern auch Trainingsgrenzen praktisch ausloten.
Lösung
CoreML/MIL-Experiment für Transformer-Training auf der Apple Neural Engine.
Beleg
Öffentliches GitHub-Repository mit A17-Pro-Messwerten, Stand 2026.
Swift Objective-C Apple Neural Engine CoreML MIL Compiler
110M Parameter Modell · 2.4 Steps/Sec auf A17 Pro · 72 ANE Kernels
GitHub Repository

Beitrag zur Community

GitHub
GitHub: slavko-at-klincov-it
Anomyze auf PyPI
Öffentlich verfügbarer PII-Anonymisierer für deutsche Texte,installierbar via pip install anomyze.
Masterarbeit
"Low-Code/No-Code Platforms and Generative AI",FH Wien der WKW, 2025

Alle KI-Projekte folgen dem Privacy-First-Prinzip: lokale Verarbeitung, minimale Cloud-Abhängigkeit und datenschutzbewusste Architektur.