Это работает — и означает, что самая интересная часть ваших данных покинула здание. А ещё это означает, что функция перестаёт существовать в тот момент, когда пропадает связь, — для приложения, которым пользуются в подвалах и в горах, это не мелочь.
cronoWiz идёт другим путём. Модель загружается в браузер через WebLLM и исполняется на видеокарте через WebGPU. Веса лежат в OPFS и переживают обновления, так что около 700 МБ — разовая цена, а дальше движок поднимается за секунды. Генерация происходит на устройстве: промпт там же собирается и там же расходуется.
О компромиссе стоит сказать точно. Модель такого размера — не передовая: она хорошо объясняет ваши собственные цифры и слаба в общих знаниях. Именно эту работу ей и поручили, и поэтому небольшой локальной модели достаточно.
-
WebLLM в браузере
без нативной среды исполнения, без похода на сервер, без ключа API.
-
Веса хранятся локально
в OPFS, переживают обновления: скачиваются один раз, а не к каждой тренировке.
-
Прогрев выбираете вы
при запуске приложения, в начале тренировки или лениво при первом обращении.
-
Честно названный предел
модель на 1–2 миллиарда параметров хорошо разбирает ваши данные и не является универсальным ассистентом.
Бесплатно. Приватно. Ваше.
Никакого аккаунта. Никакого сервера. Никаких cookie. Только вы, ваш телефон и приложение, которое занимается своим делом. cronoWiz — бесплатное PWA, работающее целиком на вашем устройстве: ваши данные никуда не уходят. Никогда.
Вопросы, которые задают на самом деле
Что такое WebGPU и есть ли он у меня?
Это браузерный API, дающий странице доступ к видеокарте. Свежие Chrome и Edge поддерживают его на десктопе и на большинстве современных Android; в остальном по-разному. Если его нет, тренер не включается, и больше ничего не меняется.
Сколько идёт первая загрузка?
Скачивается около 700 МБ, так что зависит от соединения. Дальше движок обычно поднимается за несколько секунд, и его можно прогревать в начале тренировки, чтобы он был готов к моменту вопроса.
Сохраняется ли переписка?
История остаётся на устройстве и путешествует внутри зашифрованной резервной копии, если вы её делаете. Веса модели — нет: их можно скачать заново, нет смысла таскать их с собой.