এটি কাজ করে, আর এর মানে আপনার তথ্যের সবচেয়ে কৌতূহলোদ্দীপক অংশটি বাড়ির বাইরে চলে গেছে। এর মানে এটিও যে সংযোগ কাটলেই সুবিধাটি আর থাকে না — বেসমেন্টে আর পাহাড়ে ব্যবহৃত হয় এমন অ্যাপের জন্য এটি ছোট ব্যাপার নয়।
cronoWiz অন্য পথ নেয়। মডেলটি WebLLM দিয়ে ব্রাউজারে ওঠে এবং WebGPU দিয়ে GPU-তে চলে। ওজন থাকে OPFS-এ এবং হালনাগাদের পরেও টিকে যায়, তাই ওই প্রায় ৭০০ MB একবারের খরচ, আর এরপর ইঞ্জিন কয়েক সেকেন্ডেই ফেরে। উৎপাদন যন্ত্রেই ঘটে: প্রম্পট সেখানেই তৈরি হয় আর সেখানেই খরচ হয়।
বিনিময়টি নিয়ে নির্ভুল হওয়া দরকার। এই আকারের মডেল অগ্রবর্তী মডেল নয়: আপনার নিজের সংখ্যাগুলো বুঝিয়ে বলায় সে ভালো, সাধারণ জ্ঞানে দুর্বল। তাকে ঠিক প্রথম কাজটিই দেওয়া হয়েছে, আর সে কারণেই একটি ছোট স্থানীয় মডেলই যথেষ্ট।
-
ব্রাউজারের ভেতরে WebLLM
নেটিভ রানটাইম নেই, সার্ভারে যাওয়া-আসা নেই, API কি-ও নেই।
-
ওজন স্থানীয়ভাবে রাখা
OPFS-এ, হালনাগাদের পরেও টেকে: একবার নামে, প্রতি সেশনে নয়।
-
গরম করার সময় আপনি বাছেন
অ্যাপ খোলার সময়, সেশন শুরুর সময়, কিংবা প্রথম ব্যবহারে অলসভাবে।
-
সীমাটি সৎভাবে বলা
১–২ বিলিয়ন প্যারামিটারের মডেল আপনার তথ্য ভালোই বোঝায় এবং সর্বকাজের সহকারী নয়।
ফ্রি। ব্যক্তিগত। আপনার।
অ্যাকাউন্ট নেই। সার্ভার নেই। কুকি নেই। শুধু আপনি, আপনার ফোন আর একটা অ্যাপ যে নিজের কাজে থাকে। cronoWiz একটি ফ্রি PWA, যা পুরোপুরি আপনার ডিভাইসে চলে — আপনার ডেটা বেরোয় না। কখনও না।
যে প্রশ্নগুলো সত্যিই করা হয়
WebGPU কী, আর আমার কি আছে?
এটি সেই ব্রাউজার API যা একটি পাতা থেকে GPU-তে পৌঁছতে দেয়। সাম্প্রতিক Chrome ও Edge ডেস্কটপে এবং বেশির ভাগ চলতি অ্যান্ড্রয়েডে এটি দেয়; বাকি জায়গায় ভিন্ন। না থাকলে কোচ চালু হয় না, আর অন্য কিছুই বদলায় না।
প্রথমবার লোড হতে কত সময় লাগে?
নামাতে হয় প্রায় ৭০০ MB, তাই এটি আপনার সংযোগের ওপর নির্ভর করে। এরপর ইঞ্জিন সাধারণত কয়েক সেকেন্ডেই ফেরে, আর সেশন শুরুর সময় সেটিকে গরম করিয়ে রাখলে প্রশ্ন করার সময় সে তৈরি থাকে।
কথোপকথন কি জমা থাকে?
কথোপকথনের ইতিহাস যন্ত্রেই থাকে এবং এনক্রিপ্ট করা ব্যাকআপ বানালে তার ভেতরে সঙ্গে যায়। মডেলের ওজন যায় না: সেগুলো আবার নামানো যায়, তাই বয়ে বেড়ানোর কারণ নেই।