Ollama सेटअप गाइड
शक्तिशाली स्थानीय AI मॉडल के लिए Overlay को Ollama के साथ इस्तेमाल करें
आधिकारिक Ollama वेबसाइट पर जाएं और अपने ऑपरेटिंग सिस्टम के लिए इंस्टॉलेशन निर्देशों का पालन करें:
https://ollama.ai/downloadमॉडल डाउनलोड करने के लिए यह कमांड इस्तेमाल करें। उदाहरण के लिए Llama 3 डाउनलोड करने के लिए:
ollama pull llama3
अन्य लोकप्रिय मॉडल हैं: mistral, gemma, mixtral, phi, orca-mini, और कई और।
पूरी मॉडल लाइब्रेरी देखेंमहत्वपूर्ण: Chrome एक्सटेंशन सपोर्ट के लिए आपको OLLAMA_ORIGINS environment variable के साथ Ollama चलाना होगा।
एक्सटेंशन सपोर्ट के साथ Ollama शुरू करने के लिए यह कमांड इस्तेमाल करें:
OLLAMA_ORIGINS=chrome-extension://* ollama serve
यह कमांड एक्सटेंशन को आपके स्थानीय Ollama सर्वर से कनेक्ट करने देता है। Overlay के साथ Ollama इस्तेमाल करते समय इस terminal window को खुला रखें।
अधिक सहायता के लिए Ollama documentation देखें: https://github.com/ollama/ollama/blob/main/docs/api.md
कनेक्शन समस्याएं
सुनिश्चित करें कि Ollama सही OLLAMA_ORIGINS flag के साथ चल रहा है। यह भी जांचें कि कोई firewall connection block नहीं कर रहा।
मॉडल दिखाई नहीं दे रहे
जांचें कि आपने ollama pull command से मॉडल सफलतापूर्वक डाउनलोड किए हैं। Ollama server restart करके देखें।
धीमा प्रदर्शन
बड़े models को अधिक कंप्यूट संसाधन चाहिए। अगर आपका hardware सीमित है तो छोटे model का उपयोग करें।