Primi passi
Al primo avvio HotMoE guarda il tuo computer, ti consiglia un modello e lo scarica. Da lì in poi si parte subito a chattare.
Primo avvioDownloadAccelerazione GPUCaricamento del modelloPrima conversazione
HotMoE è in anteprima: il programma d'installazione per Windows arriverà con la prima versione pubblica, insieme agli aggiornamenti automatici. Il motore per la scheda video (Vulkan) è già incluso nell'app.
Primo avvio
- Il tuo computer. L'app rileva memoria, scheda video (con la sua memoria) e processore.
- Accelerazione GPU NVIDIA. Se hai una scheda NVIDIA ti propone il motore CUDA, più veloce. Puoi anche saltarlo: l'app usa Vulkan, che funziona con qualunque GPU.
- Consigliato per questo PC. Il primo dei modelli consigliati per il tuo computer (vedi Modelli), con la sua dimensione. Un clic su Scarica e avvia.
- Hai già dei modelli? Quelli presenti nella cartella dei modelli compaiono in Hai già questi modelli, pronti da avviare. Con Ho già un file GGUF… apri un modello che hai altrove; Vedi tutti i modelli → apre la scheda Catalogo della pagina Modelli.
Non serve registrarsi. L'app non invia statistiche d'uso: la pagina sulla privacy elenca le sole connessioni che fa.
Download dei modelli
- Il download mostra avanzamento, velocità e tempo che manca, e si può mettere in pausa: riprende da dove era rimasto.
- Alla fine l'app verifica l'integrità del file (dimensione e impronta SHA-256 pubblicata da Hugging Face). Un file corrotto viene scartato e il download si può ripetere.
- Per sfogliare il catalogo e scaricare serve internet; per chattare no.
Accelerazione GPU
| Motore | Quando |
|---|---|
| Vulkan | Incluso nell'app. Funziona con schede video NVIDIA, AMD e Intel. |
| CUDA | Per le schede NVIDIA, di solito più veloce. Si scarica una volta (circa 471 MB) dalla pagina Benvenuto o dalle Impostazioni. Richiede il driver NVIDIA 580 o successivo: se il tuo è più vecchio l'app te lo dice e intanto usa Vulkan. |
| Solo processore | Senza una GPU adatta il modello gira sul processore: funziona, ma più lentamente. Conviene un modello piccolo. |
Installato il motore CUDA, l'app lo usa al posto di Vulkan. Se un modello è già caricato, un pulsante propone di ricaricarlo sul motore nuovo.
Caricamento del modello
Scelto il modello, l'app lo carica in memoria: pochi secondi per i modelli piccoli, qualche minuto la prima volta per quelli grandi. Mentre carica, il logo al centro della chat pulsa e il riquadro Modello in basso a sinistra indica Caricamento…. Alla riapertura l'app ricarica da sola l'ultimo modello usato.
Se il modello non parte, la chat mostra l'errore con i Dettagli tecnici e un pulsante per sceglierne un altro.
Prima conversazione
- Scrivi nel campo in basso e premi Invio. Per andare a capo: Maiusc+Invio.
- Mentre il modello risponde, il pulsante di invio diventa Interrompi.
- Nuova chat in alto ne apre una vuota; l'icona dell'orologio apre la cronologia.
Per far lavorare la chat sui tuoi documenti o sulla tua posta, apri Accessi in alto: lo spiega la pagina sulla chat.
HotMoE è un progetto di Virsion. Questa guida descrive l'app com'è oggi: quello che è ancora in arrivo è segnato come tale.