LoKI – KI-Assistent für lokale KI-Modelle. LoKI – AI assistant for local AI models.

Prompts und Inhalte bleiben lokal. Ideal für sensible Daten und produktive Workflows.

Im MCP-Modus local kann LoKI über ein ModelUseDir auf dort vorhandene Dateien und Ordner zugreifen oder erstellen (lesen/schreiben).

Prompts and data stay on your machine — ideal for sensitive workflows.

In MCP mode local, LoKI can access or create files/folders via a configured ModelUseDir (read/write).

Fokus: Performance und Kontrolle unter Linux.

• Downloads: Direkter GGUF-Download von Hugging Face
• Direkter Download von HF-Modellen(Hugging Face) + automatische Konvertierung zu GGUF
• Optional: Re-Quantisierung in gängigen Stufen für mehr Speed

Focus: performance and control on Linux.

• Downloads: Direct GGUF download from Hugging Face
• Direct download of HF models (Hugging Face) + automatic conversion to GGUF
• Optional: re-quantization for faster inference

MCP-System mit Modi: local, stdio, http.

Tools können im integrierten Editor erstellt, geändert und erweitert werden – manuell oder durch KI. Entsprechende Buttons auf der Editor-Seite vereinfachen die Zusammenarbeit mit der KI.

MCP system with modes: local, stdio, http.

Tools can be created, modified, and extended in the integrated editor—either manually or with AI assistance. Corresponding buttons on the editor page simplify collaboration with the AI.

LoKI wurde entwickelt, um lokale KI-Modelle komfortabel im Alltag zu nutzen – ohne Cloud-Abhängigkeit.

Ziel ist ein praktischer Assistent, der sich in deinen Workflow integriert (Tools, Automatisierung, Editor, MCP), während deine Daten auf deinem System bleiben. LoKI wurde in C++ geschrieben und hat im Image einen dynamischen Backend-Loader für CPU, Cuda, Vulkan und openCL, die je nach detektierter Hardware automatisch eingebunden werden. System-Treiber werden beim Start gegebenenfalls erkannt oder nachinstalliert. Es gibt einen System-Monitor, den man zur Laufzeit auch klonen kann, um auf einem zweiten Monitor während des Chats die Auslastung des Systems zu bewerten.

• Konvertierung HF -> GGUF
• Requantisierung
• MCP-Tool Editor
• System-Monitor abdockbar

LoKI is built to make local AI models practical for everyday work — without relying on the cloud.

The goal is to create a practical assistant that integrates into your workflow (tools, automation, editor, MCP) while keeping your data on your system. LoKI was written in C++ and includes a dynamic backend loader for CPU, Cuda, Vulkan, and openCL, which are automatically selected depending on the detected hardware. System drivers are recognized at startup or installed afterwards if necessary. There is also a system monitor that can be cloned at runtime to evaluate system load on a second monitor during chat sessions.

• Conversion HF -> GGUF
• Requantization
• MCP Tool Editor
• Detachable system monitor

• Datenschutz & Kontrolle: Daten bleiben lokal
• Produktivität: Tools & Workflows statt „nur Chat“
• Freiheit: Alle relevanten Parameter für den Start einer KI sind auf der Settings-Seite einstellbar
• Erweiterbarkeit: MCP-Modi und Tool-Integration. Tools können im integrierten Editor neu erstellt oder geändert werden, mit oder ohne KI-Unterstützung

• Privacy & control: your data stays local
• Productivity: tools & workflows, not just chat
• Freedom: All relevant parameters for starting an AI can be configured on the settings page
• Extensibility: MCP modes and tool integration. Tools can be created or modified in the integrated editor, with or without AI support

LoKI ist aktiv in Entwicklung. Feedback im Forum ist ausdrücklich erwünscht.

LoKI is under active development. Feedback in the forum is very welcome.

Hier findest du die allgemeine Dokumentation für Installation, Bedienung, Modelle, MCP, Quantisierung und Workflows mit LoKI.

Here you can find the general documentation covering installation, usage, models, MCP, quantization, and workflows with LoKI.

LoKI 1.0.1 kann jetzt auch unter Windows WSL ausgeführt werden. Diese Anleitung beschreibt die Einrichtung von WSL, CUDA und die Vorbereitung der Laufzeitumgebung.

LoKI 1.0.1 can now also run on Windows WSL. This guide explains how to set up WSL, CUDA, and the required runtime environment.

• LoKI 1.0.1 AppImage für Linux
• WSL-Unterstützung für Windows
• PDF-Dokumentation direkt im Browser öffnen

• LoKI 1.0.1 AppImage for Linux
• WSL support for Windows
• Open PDF documentation directly in the browser

Stelle Fragen, poste Ideen oder melde Bugs. Ich versuche so schnell wie möglich zu antworten.

Ask questions, share ideas, or report bugs. I’ll try to respond as quickly as possible.

• Ankündigungen
• Fragen & Hilfe
• Bug Reports
• Feature Requests

• Announcements
• Questions & Help
• Bug reports
• Feature requests

Das Feedback-Forum läuft unter /forum.

The feedback forum is available at /forum.

Deine Unterstützung hilft bei Hosting, Tests, Test-Hardware und der kontinuierlichen Weiterentwicklung von LoKI.

Your support helps with hosting, testing, hardware, and ongoing development of LoKI.

Unterstütze die Weiterentwicklung von LoKI.

Support the continued development of LoKI.

• Windows-Version
• Headless-Modus (LoKI-Kern in andere Apps integrierbar)
• Online-Modus (große AIs + MCP-Zugriff auf Projekte)

• Windows version
• Headless mode (embed LoKI core into other apps)
• Online mode (big AIs + MCP access to your projects)