华为NPU服务器昇腾Ascend 910B2部署通义千问Qwen2.5——基于mindie镜像一路试错版（三）
文章目录
-
- `重要提醒：MINDIE镜像已更新版本，官网相关文档直接被删除了，建议直接移步新版` [昇腾，mindie，镜像，部署vllm：第1篇，安装新的docker 镜像](https://blog.csdn.net/xiezhipu/article/details/145467032) [昇腾，mindie，镜像，部署vllm：第2篇，启动mindieservice_daemon服务，支持对Qwen2.5的7B版本的推理](https://blog.csdn.net/xiezhipu/article/details/145468018)
-
- 前言
- 纯模型推理
- 启动服务
- 后面干什么？
- 这可咋整啊？愁死了！
- 总结
重要提醒：MINDIE镜像已更新版本，官网相关文档直接被删除了，建议直接移步新版
昇腾，mindie，镜像，部署vllm：第1篇，安装新的docker 镜像
昇腾，mindie，镜像，部署vllm：第2篇，启动mindieservice_daemon服务，支持对Qwen2.5的7B版本的推理
前言
这是咱这个系列的第三个文章了。
毕竟，这是我好几天摸索出的经验，能帮助各位在几个小时内领会，我觉得也算是我的功劳一件了。
所以，一是希望大家耐心看下去，耐心操作下去；而是
