Selfhostllm

स्व-होस्टेड एलएलएम अनुमान के लिए जीपीयू मेमोरी आवश्यकताओं और अधिकतम समवर्ती अनुरोधों की गणना करें।लामा, क्यूवेन, डीपसेक, मिस्ट्रल और बहुत कुछ के लिए समर्थन।अपने एआई बुनियादी ढांचे की कुशलता से योजना बनाएं।