Benutzerhandbuch

HotMoE

Chat und Agenten mit KI-Modellen, die auf deinem eigenen Computer laufen. Kein Konto und kein Abo: Deine Unterhaltungen, Dateien und E-Mails bleiben auf deinem PC.

Der Chat liest ein Dokument in einem freigegebenen Ordner und fasst es zusammen. Unter der Antwort: die verwendete Rolle (Dateien) und die Geschwindigkeit.
Der Chat liest ein Dokument in einem freigegebenen Ordner und fasst es zusammen. Unter der Antwort: die verwendete Rolle (Dateien) und die Geschwindigkeit.

Was die App kann

Auf einen Blick

  • Lokale Modelle: ein Katalog direkt von Hugging Face, mit Filtern, einer Schätzung, wie jedes Modell auf deinem Computer läuft, und Empfehlungen. Du kannst auch jedes GGUF-Modell nutzen, das du schon hast.
  • GPU-Beschleunigung: Die mitgelieferte Vulkan-Engine funktioniert mit jeder Grafikkarte; mit einer NVIDIA-GPU kannst du die schnellere CUDA-Engine herunterladen. Ohne eigene Grafikkarte funktioniert die App trotzdem, nur langsamer.
  • Chat mit Überlegungen, die du nachlesen kannst, formatierten Antworten (Überschriften, Listen, Tabellen, Code), Geschwindigkeitsstatistiken und durchsuchbarem Verlauf. Mit einem Modell, das Bilder sieht, kannst du ihm auch Bilder schicken.
  • Chat mit Agentenfunktionen: Mit den Ordnern und E-Mail-Konten, die du freigibst, aktiviert der Chat selbst die passende Rolle (Dateien, Aufräumen, Code, E-Mail) und nutzt ihre Werkzeuge.
  • Eigene Agenten, aus einer Galerie mit fertigen Vorlagen oder von Grund auf: Anweisungen, freigegebene Ordner, Befehle, externe MCP-Werkzeuge und E-Mail-Konten.
  • Dokumente: Text-, PDF- und Word-Dateien lassen sich lesen und nach Inhalt durchsuchen; Textdateien lassen sich auch teilweise ändern.
  • E-Mail über IMAP/SMTP mit jedem Anbieter: suchen, lesen, Anhänge, Entwürfe, und Senden immer mit Bestätigung, mit einer Nachricht, die du vorher korrigieren kannst.
  • Statistiken: wie viel das Modell arbeitet, was dieselbe Arbeit in der Cloud kosten würde, wie schnell es mit einer Karte läuft; alles auf dem PC berechnet.
  • Kontrolle: Jede heikle Aktion fragt nach Bestätigung, alles landet im Protokoll, und geänderte Dateien lassen sich wiederherstellen.
  • Fünf Sprachen: Englisch, Italienisch, Französisch, Deutsch und Spanisch. Die Modelle antworten in der Sprache, in der du schreibst.
  • Gedächtnis (optional, standardmäßig aus): Der Chat merkt sich kurze Notizen über dich und durchsucht frühere Unterhaltungen. Alles siehst und löschst du in den Einstellungen.

Voraussetzungen

WasVoraussetzung
SystemWindows 10 oder 11, 64 Bit. Linux und macOS sind in Vorbereitung.
ArbeitsspeicherHängt vom gewählten Modell ab. Für jedes Modell schätzt die App, wie es auf deinem PC läuft, und empfiehlt die passenden.
FestplatteDer Platz für die Modelle, die du herunterlädst: Jedes Modell zeigt im Katalog seine Größe.
GrafikkarteOptional. Jede GPU mit der mitgelieferten Vulkan-Engine; NVIDIA mit Treiber 580 oder neuer für die CUDA-Engine.
InternetNur zum Durchsuchen des Modellkatalogs, zum Herunterladen von Modellen und Engine sowie für E-Mail, wenn du sie nutzt. Danach funktionieren Chat und Agenten offline.

So ist die App aufgebaut

Eine Leiste links führt zu den Bereichen: Start (die Willkommensseite mit deinem Computer und dem empfohlenen Modell), Chat, Agenten, Modelle, MoE-Karten, Statistiken, Einstellungen und Info (wer HotMoE entwickelt, die anderen Produkte von Virsion und wie man das Projekt unterstützt, auch über den Link Projekt unterstützen erreichbar). Unten zeigt das Feld Modell das geladene Modell und seinen Zustand: Aus, Wird geladen…, Bereit oder Fehler.

Zum Einstieg lies Erste Schritte.

HotMoE ist ein Projekt von Virsion. Dieses Handbuch beschreibt die App so, wie sie heute ist: Was noch kommt, ist als solches gekennzeichnet.