यह काम करता है, और इसका मतलब यह भी है कि आपके डेटा का सबसे दिलचस्प हिस्सा इमारत से बाहर चला गया। इसका मतलब यह भी है कि कनेक्शन टूटते ही वह सुविधा रहती ही नहीं — और जिस ऐप का इस्तेमाल बेसमेंट और पहाड़ों में होता है, उसके लिए यह छोटी बात नहीं।
cronoWiz दूसरा रास्ता लेता है। मॉडल WebLLM से ब्राउज़र में लोड होता है और WebGPU से GPU पर चलता है। वज़न OPFS में रहते हैं और अपडेट के बाद भी बचे रहते हैं, इसलिए वे लगभग 700 MB एक बार की लागत हैं और उसके बाद इंजन कुछ सेकंड में लौट आता है। जनरेशन डिवाइस पर होता है: प्रॉम्प्ट वहीं बनता है और वहीं खपता है।
सौदे के बारे में सटीक होना चाहिए। इस आकार का मॉडल अग्रिम पंक्ति का मॉडल नहीं है: यह आपके अपने आँकड़े समझाने में अच्छा है और सामान्य ज्ञान में कमज़ोर। उसे यही काम सौंपा गया है, और इसीलिए एक छोटा स्थानीय मॉडल काफ़ी है।
-
ब्राउज़र में WebLLM
न नेटिव रनटाइम, न सर्वर तक आना-जाना, न API कुंजी।
-
वज़न स्थानीय रूप से रखे जाते हैं
OPFS में, अपडेट के बाद भी बचे रहते हैं: एक बार डाउनलोड, हर सत्र पर नहीं।
-
गर्म करने का समय आप तय करते हैं
ऐप खुलते ही, सत्र शुरू होते ही, या पहली बार इस्तेमाल पर आलस से।
-
सीमा ईमानदारी से बताई गई
1–2 अरब पैरामीटर का मॉडल आपके डेटा को अच्छी तरह समझाता है और सर्वकार्य सहायक नहीं है।
मुफ़्त। निजी। आपका।
कोई अकाउंट नहीं। कोई सर्वर नहीं। कोई कुकी नहीं। बस आप, आपका फ़ोन और एक ऐप जो अपने काम से काम रखता है। cronoWiz एक मुफ़्त PWA है जो पूरी तरह आपके डिवाइस पर चलता है — आपका डेटा बाहर नहीं जाता। कभी नहीं।
वे सवाल जो लोग सचमुच पूछते हैं
WebGPU क्या है और क्या यह मेरे पास है?
यह वह ब्राउज़र API है जो किसी पेज को GPU तक पहुँच देता है। हाल के Chrome और Edge इसे डेस्कटॉप पर और ज़्यादातर मौजूदा एंड्रॉइड पर देते हैं; बाकी जगह अलग-अलग है। न हो तो कोच चालू नहीं होता और बाकी कुछ नहीं बदलता।
पहली लोडिंग में कितना समय लगता है?
डाउनलोड लगभग 700 MB का है, इसलिए यह आपके कनेक्शन पर निर्भर करता है। उसके बाद इंजन आम तौर पर कुछ सेकंड में लौट आता है, और आप उसे सत्र शुरू होते ही गर्म करवा सकते हैं ताकि सवाल पूछते समय वह तैयार हो।
क्या बातचीत सहेजी जाती है?
बातचीत का इतिहास डिवाइस पर रहता है और अगर आप एन्क्रिप्टेड बैकअप बनाते हैं तो उसी के भीतर साथ चलता है। मॉडल के वज़न नहीं: वे दोबारा डाउनलोड हो सकते हैं, इसलिए उन्हें ढोने का कोई कारण नहीं।