Funziona, e significa che la parte interessante dei tuoi dati ha lasciato l’edificio. Significa anche che la funzione smette di esistere nell’istante in cui salta la connessione — cosa che, per un’app usata in scantinati e in montagna, non è un dettaglio.
cronowiz prende l’altra strada. Il modello viene caricato nel browser con WebLLM ed eseguito sulla GPU con WebGPU. I pesi stanno nell’OPFS e sopravvivono agli aggiornamenti, quindi i circa 700 MB sono un costo una tantum e il motore torna disponibile in pochi secondi. La generazione avviene sul dispositivo: il prompt viene assemblato lì e consumato lì.
Vale la pena essere precisi sul compromesso. Un modello di questa taglia non è un modello di frontiera: è bravo a spiegare i tuoi numeri e debole sulla cultura generale. È esattamente il lavoro che gli è stato dato, ed è il motivo per cui un piccolo modello locale basta.
-
WebLLM nel browser
nessun runtime nativo, nessun giro sul server, nessuna chiave API.
-
Pesi tenuti in locale
nell’OPFS, sopravvivono agli aggiornamenti: scaricati una volta, non a ogni sessione.
-
Decidi tu quando si scalda
all’apertura dell’app, all’inizio della sessione, o pigramente al primo utilizzo.
-
Un limite dichiarato
un modello da 1–2 miliardi di parametri spiega bene i tuoi dati e non è un assistente generale.
Gratis. Privata. Tua.
Nessun account. Nessun server. Nessun cookie. Solo tu, il tuo telefono e un'app che si fa gli affari suoi. cronowiz è una PWA gratuita che gira interamente sul tuo dispositivo — i tuoi dati non escono. Mai.
Le domande che fanno davvero
Cos’è WebGPU e ce l’ho?
È l’API del browser che dà accesso alla GPU da una pagina. Chrome ed Edge recenti ce l’hanno su desktop e sulla maggior parte degli Android attuali; altrove varia. Se manca, il coach non si attiva e nient’altro cambia.
Quanto ci mette il primo caricamento?
Lo scaricamento è di circa 700 MB, quindi dipende dalla tua connessione. Dopo, il motore torna disponibile in genere in qualche secondo, e puoi farlo scaldare all’inizio della sessione perché sia pronto quando chiedi.
La conversazione viene salvata?
La cronologia resta sul dispositivo e viaggia dentro il backup cifrato, se ne fai uno. I pesi del modello no: si possono riscaricare, quindi non c’è motivo di portarli.