LoKI – KI-Assistent für lokale Modelle, Online-Provider und Channels. LoKI – AI assistant for local models, online providers and channels.

Lokale Prompts und Inhalte bleiben auf deinem System. Online-Provider sind optional und werden bewusst über Provider-Profile und API-Keys aktiviert.

Im MCP-Modus local kann LoKI über ein ModelUseDir auf dort vorhandene Dateien und Ordner zugreifen oder erstellen (lesen/schreiben).

Local prompts and data stay on your system. Online providers are optional and are enabled deliberately through provider profiles and API keys.

In MCP mode local, LoKI can access or create files/folders via a configured ModelUseDir (read/write).

Fokus: Performance und Kontrolle unter Linux.

• Downloads: Direkter GGUF-Download von Hugging Face
• Direkter Download von HF-Modellen(Hugging Face) + automatische Konvertierung zu GGUF
• Optional: Re-Quantisierung in gängigen Stufen für mehr Speed

Focus: performance and control on Linux.

• Downloads: Direct GGUF download from Hugging Face
• Direct download of HF models (Hugging Face) + automatic conversion to GGUF
• Optional: re-quantization for faster inference

MCP-System mit Modi: local, stdio, http. Gefundene Tools erscheinen als Kacheln; im Online-Modus können Tools einzeln freigegeben werden.

Tools können im integrierten Editor erstellt, geändert und erweitert werden – manuell oder durch KI. Entsprechende Buttons auf der Editor-Seite vereinfachen die Zusammenarbeit mit der KI.

MCP system with modes: local, stdio, http. Detected tools appear as tiles; in online mode, tools can be approved individually.

Tools can be created, modified, and extended in the integrated editor—either manually or with AI assistance. Corresponding buttons on the editor page simplify collaboration with the AI.

LoKI kann neben lokalen GGUF-Modellen auch Online-Provider wie OpenAI und Claude nutzen. Provider-Modelle erscheinen direkt in der Modellliste.

• verschlüsselte API-Key-Speicherung
• MCP-Tools auch mit Online-Modellen nutzbar
• Tool-Ausführung mit sichtbaren Statusmeldungen

In addition to local GGUF models, LoKI can use online providers such as OpenAI and Claude. Provider models appear directly in the model list.

• encrypted API key storage
• MCP tools can also be used with online models
• tool execution with visible status messages

Bei Online-Providern entscheidet LoKI nicht pauschal: jedes erkannte Tool kann einzeln freigegeben oder deaktiviert werden.

• Kachel-Ansicht für gefundene Tools
• Live-Prüfung vor Tool-Ausführung
• lokale Tools bleiben im Local-Modus direkt nutzbar

For online providers, LoKI does not grant blanket access: every detected tool can be approved or disabled individually.

• tile view for detected tools
• live permission checks before tool execution
• local tools remain directly usable in local mode

LoKI kann über Channels auch außerhalb der Desktop-Oberfläche angesprochen werden.

• Telegram-Bot-Connector
• WhatsApp als zusätzliches Gerät oder eigener Account
• eingehende Channel-Chats erscheinen in der Chat-Liste

LoKI can also be reached outside the desktop UI through channels.

• Telegram bot connector
• WhatsApp as linked device or dedicated account
• incoming channel chats appear in the chat list

LoKI wurde entwickelt, um lokale KI-Modelle komfortabel im Alltag zu nutzen – ohne Cloud-Abhängigkeit.

Ziel ist ein praktischer Assistent, der sich in deinen Workflow integriert (Tools, Automatisierung, Editor, MCP und Channels). Lokale Workflows bleiben lokal; Online-Provider können optional zugeschaltet werden. LoKI wurde in C++ geschrieben und hat im Image einen dynamischen Backend-Loader für CPU, Cuda, Vulkan und openCL, die je nach detektierter Hardware automatisch eingebunden werden. System-Treiber werden beim Start gegebenenfalls erkannt oder nachinstalliert. Es gibt einen System-Monitor, den man zur Laufzeit auch klonen kann, um auf einem zweiten Monitor während des Chats die Auslastung des Systems zu bewerten.

• Konvertierung HF -> GGUF
• Requantisierung
• MCP-Tool Editor
• System-Monitor abdockbar

LoKI is built to make local AI models practical for everyday work — without relying on the cloud.

The goal is to create a practical assistant that integrates into your workflow (tools, automation, editor, MCP and channels). Local workflows remain local; online providers can be enabled optionally. LoKI was written in C++ and includes a dynamic backend loader for CPU, Cuda, Vulkan, and openCL, which are automatically selected depending on the detected hardware. System drivers are recognized at startup or installed afterwards if necessary. There is also a system monitor that can be cloned at runtime to evaluate system load on a second monitor during chat sessions.

• Conversion HF -> GGUF
• Requantization
• MCP Tool Editor
• Detachable system monitor

• Datenschutz & Kontrolle: Daten bleiben lokal
• Produktivität: Tools, Channels & Workflows statt „nur Chat“
• Freiheit: Alle relevanten Parameter für den Start einer KI sind auf der Settings-Seite einstellbar
• Erweiterbarkeit: MCP-Modi, Online-Provider und Channel-Integration. Tools können im integrierten Editor neu erstellt oder geändert werden, mit oder ohne KI-Unterstützung

• Privacy & control: your data stays local
• Productivity: tools, channels & workflows, not just chat
• Freedom: All relevant parameters for starting an AI can be configured on the settings page
• Extensibility: MCP modes, online providers and channel integration. Tools can be created or modified in the integrated editor, with or without AI support

LoKI ist aktiv in Entwicklung. Feedback im Forum ist ausdrücklich erwünscht.

LoKI is under active development. Feedback in the forum is very welcome.

Hier findest du die allgemeine Dokumentation für Installation, Bedienung, Modelle, MCP, Online-Provider, Channels, Quantisierung und Workflows mit LoKI.

Here you can find the general documentation covering installation, usage, models, MCP, online providers, channels, quantization, and workflows with LoKI.

LoKI kann auch unter Windows WSL ausgeführt werden. Diese Anleitung beschreibt die Einrichtung von WSL, CUDA und die Vorbereitung der Laufzeitumgebung.

LoKI can also run on Windows WSL. This guide explains how to set up WSL, CUDA, and the required runtime environment.

• LoKI AppImage für Linux
• WSL-Unterstützung für Windows
• PDF-Dokumentation direkt im Browser öffnen

• LoKI AppImage for Linux
• WSL support for Windows
• Open PDF documentation directly in the browser

Stelle Fragen, poste Ideen oder melde Bugs. Ich versuche so schnell wie möglich zu antworten.

Ask questions, share ideas, or report bugs. I’ll try to respond as quickly as possible.

• Ankündigungen
• Fragen & Hilfe
• Bug Reports
• Feature Requests

• Announcements
• Questions & Help
• Bug reports
• Feature requests

Das Feedback-Forum läuft unter /forum.

The feedback forum is available at /forum.

Deine Unterstützung hilft bei Hosting, Tests, Test-Hardware und der kontinuierlichen Weiterentwicklung von LoKI.

Your support helps with hosting, testing, hardware, and ongoing development of LoKI.

Unterstütze die Weiterentwicklung von LoKI.

Support the continued development of LoKI.

• Windows-Version
• Headless-Modus (LoKI-Kern in andere Apps integrierbar)
• Weitere Channel-Connectoren und feinere Agent-Automatisierung

• Windows version
• Headless mode (embed LoKI core into other apps)
• Additional channel connectors and finer agent automation