|
- Xorbits Inference: Model Serving Made Easy - GitHub
Xorbits Inference (Xinference) is a powerful and versatile library designed to serve language, speech recognition, and multimodal models With Xorbits Inference, you can effortlessly deploy and serve your or state-of-the-art built-in models using just a single command
- xinference README_zh_CN. md at main · xinqiyang xinference
Xorbits Inference（Xinference）是一个性能强大且功能全面的分布式推理框架。 可用于大语言模型（LLM），语音识别模型，多模态模型等各种模型的推理。
- GitHub - xinqiyang xinference: Replace OpenAI GPT with another LLM in . . .
Xorbits Inference (Xinference) is a powerful and versatile library designed to serve language, speech recognition, and multimodal models With Xorbits Inference, you can effortlessly deploy and serve your or state-of-the-art built-in models using just a single command
- Releases · xorbitsai inference - GitHub
Xinference lets you run open-source, speech, and multimodal models on cloud, on-prem, or your laptop — all through one unified, production-ready inference API
- inference README_zh_CN. md at main · xorbitsai inference
Xorbits Inference（Xinference）是一个性能强大且功能全面的分布式推理框架。 可用于大语言模型（LLM），语音识别模型，多模态模型等各种模型的推理。 通过 Xorbits Inference，你可以轻松地一键部署你自己的模型或内置的前沿开源模型。
- xinferenc README_zh_CN. md at main · simegnew xinferenc
Xorbits Inference（Xinference）是一个性能强大且功能全面的分布式推理框架。 可用于大语言模型（LLM），语音识别模型，多模态模型等各种模型的推理。 通过 Xorbits Inference，你可以轻松地一键部署你自己的模型或内置的前沿开源模型。
- XInference部署本地下载的OCR模型（读光-文字识别-行识别模型-中英-文档印刷体文本领域）报错 #3113
还有个问题：image相关的模型比如stepfun-ai GOT-OCR2_0在XInference中内置安装部署了，在dify中添加模型时XInference中并没有提供Image类型，依旧用不了已经部署的Image服务，所以可以一并解决下
- infiniflow-ragflow docs xinference. md at main - GitHub
Xinference Xorbits Inference (Xinference) empowers you to unleash the full potential of cutting-edge AI models
|
|
|