क्या मेरी बातचीत किसी सर्वर पर भेजी जाती है?

नहीं। मॉडल सीधे आपके ब्राउज़र में, आपके अपने डिवाइस पर चलता है, इसलिए आपके मैसेज और जवाब स्थानीय रूप से प्रोसेस होते हैं और कभी अपलोड नहीं होते।

मैं कौन-से मॉडल इस्तेमाल कर सकता हूँ?

आप अलग-अलग आकार के कई कॉम्पैक्ट चैट मॉडल में से चुन सकते हैं। एक छोटा मॉडल तेज़ी से डाउनलोड होता है और ज़्यादा डिवाइस पर चलता है, जबकि एक बड़ा मॉडल बेहतर जवाब देता है लेकिन उसे बड़ा डाउनलोड और ज़्यादा मेमोरी चाहिए होती है।

मुझे कैसे पता चलेगा कि कौन-से मॉडल पहले से डाउनलोड हैं?

मॉडल की सूची में हर उस मॉडल को चिह्नित किया जाता है जो पहले से डाउनलोड और आपके ब्राउज़र में कैश है, ताकि आप देख सकें कि कौन-सा तुरंत लोड होगा और किसे एक बार डाउनलोड करने की ज़रूरत है। जगह खाली करने के लिए आप किसी भी डाउनलोड को हटा सकते हैं।

इसे WebGPU की ज़रूरत क्यों है?

किसी भाषा मॉडल को चलाने के लिए आपके डिवाइस के ग्राफ़िक्स कार्ड का पर्याप्त तेज़ होना ज़रूरी है। WebGPU वह ब्राउज़र फ़ीचर है जो यह एक्सेस देता है; इसके बिना टूल बहुत धीमा हो जाता, इसलिए यह इसके बजाय एक समर्थित ब्राउज़र माँगता है।

क्या मैं ऑफ़लाइन चैट कर सकता हूँ?

मॉडल डाउनलोड हो जाने के बाद, हाँ — क्योंकि यह पूरी तरह आपके डिवाइस पर चलता है, आप बिना नेटवर्क कनेक्शन के भी चैट करते रह सकते हैं।

डाउनलोड कितना बड़ा है?

यह मॉडल पर निर्भर करता है, सबसे छोटे के लिए कुछ सौ मेगाबाइट से लेकर सबसे बड़े के लिए कुछ गीगाबाइट तक। हर मॉडल एक बार डाउनलोड होता है और कैश हो जाता है, और डाउनलोड करने से पहले साइज़ दिखाया जाता है।

स्थानीय AI चैट

एक ऐसे AI असिस्टेंट से चैट करें जो पूरी तरह आपके ब्राउज़र में, आपके अपने डिवाइस पर चलता है। एक मॉडल चुनें, और आपकी बातचीत कभी अपलोड नहीं होती।

चैट मॉडल आपके ब्राउज़र में स्थानीय रूप से चलता है, इसलिए आपके प्रॉम्प्ट और जवाब आपके डिवाइस पर प्रोसेस होते हैं और कभी अपलोड नहीं होते।

इसके बजाय एक त्वरित सार चाहिए? AI Text Summarizer आज़माएँ।

स्थानीय AI चैट के बारे में

यह स्थानीय AI चैट एक असली भाषा मॉडल को सीधे आपके ब्राउज़र में चलाता है, भारी काम के लिए आपके डिवाइस के ग्राफ़िक्स कार्ड का उपयोग करते हुए, इसलिए आपकी बातचीत कभी आपकी मशीन से बाहर नहीं जाती। अपने डिवाइस के अनुकूल एक मॉडल चुनें — एक छोटा मॉडल तेज़ी से डाउनलोड होता है और ज़्यादा हार्डवेयर पर चलता है, जबकि एक बड़ा मॉडल बेहतर जवाब देता है — और जब आप उसे पहली बार चुनते हैं तो मॉडल एक बार डाउनलोड होकर कैश हो जाता है, इसलिए बाद की चैट तुरंत शुरू होती हैं और ऑफ़लाइन भी काम करती हैं। स्क्रीन दिखाती है कि आप कौन-से मॉडल पहले ही डाउनलोड कर चुके हैं, ताकि आप एक नज़र में बता सकें कि कौन-सा तुरंत लोड होगा और किसे एक बार डाउनलोड करने की ज़रूरत है, और आप जगह खाली करने के लिए किसी भी मॉडल की फ़ाइलें कभी भी हटा सकते हैं। यह टेक्स्ट का मसौदा तैयार करने और उसे फिर से लिखने, विचार-मंथन करने, कोड या कॉन्सेप्ट समझाने, और उन त्वरित सवालों के लिए उपयोगी है जिन्हें आप किसी क्लाउड सेवा को भेजना नहीं चाहते। चूँकि सब कुछ आपके अपने डिवाइस पर चलता है, मॉडल को WebGPU सपोर्ट और पर्याप्त मेमोरी वाले ब्राउज़र की ज़रूरत होती है; असमर्थित ब्राउज़र पर टूल चुपचाप विफल होने के बजाय आपको बता देता है।

विशेषताएँ

एक असली चैट मॉडल जो आपके डिवाइस पर चलता है — बातचीत कभी अपलोड नहीं होती
कई मॉडल में से चुनें, एक छोटे तेज़ मॉडल से लेकर एक बड़े बेहतर-क्वालिटी वाले मॉडल तक
देखें कि कौन-से मॉडल पहले से डाउनलोड हैं, और जगह खाली करने के लिए किसी को भी हटाएँ
एक बार का मॉडल डाउनलोड कैश हो जाता है, इसलिए बाद की चैट तुरंत शुरू होती हैं और ऑफ़लाइन भी काम करती हैं
स्ट्रीमिंग जवाब जिन्हें आप कभी भी रोक सकते हैं, साथ ही एक क्लिक में नई चैट शुरू करने की सुविधा
जब कोई ब्राउज़र आवश्यक WebGPU को सपोर्ट नहीं करता, तो एक स्पष्ट संदेश दिखता है

स्थानीय AI चैट का उपयोग कैसे करें

एक मॉडल चुनें — छोटा मॉडल तेज़ डाउनलोड होता है, बड़ा मॉडल बेहतर जवाब देता है। डाउनलोड किए जा चुके मॉडल चिह्नित होते हैं।
एक मैसेज टाइप करें और Enter दबाएँ; किसी मॉडल का पहली बार इस्तेमाल उसे एक बार डाउनलोड करता है, फिर वह स्थानीय रूप से चलता है।
स्ट्रीमिंग जवाब पढ़ें, और उसे बीच में रोकने के लिए कभी भी Stop दबाएँ।
फिर से शुरू करने के लिए New chat का उपयोग करें, या जगह खाली करने के लिए किसी मॉडल का डाउनलोड हटाएँ।

उदाहरण

इनपुट

Rewrite this to sound friendlier: 'Your request has been denied.'

आउटपुट

Thanks for reaching out! Unfortunately we're not able to approve this one — but I'm happy to help you find another way forward.

मॉडल आपके डिवाइस पर चलता है, इसलिए प्रॉम्प्ट और जवाब निजी रहते हैं।

सामान्य त्रुटियाँ और समस्या निवारण

टूल कहता है कि आपका ब्राउज़र समर्थित नहीं है। — ऑन-डिवाइस चैट के लिए WebGPU ज़रूरी है। डेस्कटॉप पर नवीनतम Chrome या Edge, या Android पर Chrome का उपयोग करें; बाकी ArrayKit टूल हर जगह काम करते रहते हैं।
पहला मैसेज भेजने के बाद जवाब शुरू होने में कुछ समय लगता है। — मॉडल पहली बार इस्तेमाल पर एक बार डाउनलोड होता है और फिर कैश हो जाता है; स्क्रीन पर एक प्रोग्रेस बार दिखता है, और बाद की चैट लगभग तुरंत शुरू होती हैं।
मॉडल लोड करना विफल हो जाता है या मेमोरी खत्म हो जाती है। — बड़े मॉडल को ज़्यादा ग्राफ़िक्स मेमोरी चाहिए होती है। एक छोटा मॉडल चुनें, या GPU का ज़्यादा उपयोग करने वाले अन्य टैब बंद करके फिर से कोशिश करें।
आप किसी मॉडल द्वारा इस्तेमाल की गई डिस्क स्पेस वापस पाना चाहते हैं। — हर डाउनलोड किए गए मॉडल पर एक हटाने का विकल्प दिखता है; उसका उपयोग करके उस मॉडल की कैश की गई फ़ाइलें कभी भी मिटाएँ।

अक्सर पूछे जाने वाले प्रश्न

क्या मेरी बातचीत किसी सर्वर पर भेजी जाती है?: नहीं। मॉडल सीधे आपके ब्राउज़र में, आपके अपने डिवाइस पर चलता है, इसलिए आपके मैसेज और जवाब स्थानीय रूप से प्रोसेस होते हैं और कभी अपलोड नहीं होते।
मैं कौन-से मॉडल इस्तेमाल कर सकता हूँ?: आप अलग-अलग आकार के कई कॉम्पैक्ट चैट मॉडल में से चुन सकते हैं। एक छोटा मॉडल तेज़ी से डाउनलोड होता है और ज़्यादा डिवाइस पर चलता है, जबकि एक बड़ा मॉडल बेहतर जवाब देता है लेकिन उसे बड़ा डाउनलोड और ज़्यादा मेमोरी चाहिए होती है।
मुझे कैसे पता चलेगा कि कौन-से मॉडल पहले से डाउनलोड हैं?: मॉडल की सूची में हर उस मॉडल को चिह्नित किया जाता है जो पहले से डाउनलोड और आपके ब्राउज़र में कैश है, ताकि आप देख सकें कि कौन-सा तुरंत लोड होगा और किसे एक बार डाउनलोड करने की ज़रूरत है। जगह खाली करने के लिए आप किसी भी डाउनलोड को हटा सकते हैं।
इसे WebGPU की ज़रूरत क्यों है?: किसी भाषा मॉडल को चलाने के लिए आपके डिवाइस के ग्राफ़िक्स कार्ड का पर्याप्त तेज़ होना ज़रूरी है। WebGPU वह ब्राउज़र फ़ीचर है जो यह एक्सेस देता है; इसके बिना टूल बहुत धीमा हो जाता, इसलिए यह इसके बजाय एक समर्थित ब्राउज़र माँगता है।
क्या मैं ऑफ़लाइन चैट कर सकता हूँ?: मॉडल डाउनलोड हो जाने के बाद, हाँ — क्योंकि यह पूरी तरह आपके डिवाइस पर चलता है, आप बिना नेटवर्क कनेक्शन के भी चैट करते रह सकते हैं।
डाउनलोड कितना बड़ा है?: यह मॉडल पर निर्भर करता है, सबसे छोटे के लिए कुछ सौ मेगाबाइट से लेकर सबसे बड़े के लिए कुछ गीगाबाइट तक। हर मॉडल एक बार डाउनलोड होता है और कैश हो जाता है, और डाउनलोड करने से पहले साइज़ दिखाया जाता है।