What's Changed
-
2025/11/26 2.6.5 Release
- Added support for a new backend vlm-lmdeploy-engine. Its usage is similar to vlm-vllm-(async)engine, but it uses lmdeploy as the inference engine and additionally supports native inference acceleration on Windows platforms compared to vllm.
-
2025/11/26 2.6.5 发布
- 增加新后端
vlm-lmdeploy-engine支持,使用方式与vlm-vllm-(async)engine类似,但使用lmdeploy作为推理引擎,与vllm相比额外支持Windows平台原生推理加速。 - 新增国产算力平台
昇腾/npu、平头哥/ppu、沐曦/maca的适配支持,用户可在对应平台上使用pipeline与vlm模型,并使用vllm/lmdeploy引擎加速vlm模型推理,具体使用方式请参考其他加速卡适配。- 国产平台适配不易,我们已尽量确保适配的完整性和稳定性,但仍可能存在一些稳定性/兼容问题与精度对齐问题,请大家根据适配文档页面内红绿灯情况自行选择合适的环境与场景进行使用。
- 如在使用国产化平台适配方案的过程中遇到任何文档未提及的问题,为便于其他用户查找解决方案,请在discussions的指定帖子中进行反馈。
- 增加新后端
New Contributors
- @jinminxi104 made their first contribution in #3946
Full Changelog: mineru-2.6.4-released...mineru-2.6.5-released