DeepSeek - V3.2 在昇腾 910B 搭配 MindIE 的部署已形成成熟方案，涵盖多机满血版与量化版部署，适配不同算力需求，以下是结合技术社区实操总结的详细部署指南，适配 BF16 版本与 W8A8 量化版本：
- 部署前期准备
- 软硬件配置确认：硬件方面，BF16 版本需 4 台昇腾 910B 服务器，W8A8 量化版仅需 2 台；单台服务器建议 CPU 64 核以上、内存 512GB 以上、2TB 以上 SSD 存储，且需 100Gbps RDMA 网络互联。软件需匹配指定版本，MindIE≥2.0.T3、Python 3.11、CANN≥8.0.T63、昇腾驱动≥24.1.rc2、固件≥7.5.0.1.129，若部署量化版需确保 MindIE 为 2.0.T3 及以上版本。
- 驱动与固件升级：先升级固件再更新驱动。固件选用 Ascend - hdk - 910b - npu - firmware_7.5.0.1.129.run，通过
chmod +x添加执行权限，./xxx.run --check校验完整性，随后sudo ./xxx.run --upgrade完成升级；驱动选用 Ascend - hdk - 910b - npu - driver_24.1.rc3_linux - aarch64.run，执行相同权限添加和校验操作后安装，安装后用/usr/local/Ascend/driver/tools/upgrade - tool命令核查版本。 - 模型与镜像准备：模型权重推荐从魔乐社区下载，DeepSeek - V3.2 的 BF16 版本权重转换后约 1.4TB，需预留充足存储；MindIE 镜像需前往昇腾社区申请，申请通过后执行
docker pull swr.cn - south - 1.myhuaweicloud.com/ascendhub/mindie:2.0.T3 - 800I - A2 - py311 - openeuler24.03 - lts拉取镜像，拉取后用docker images确认镜像信息。 - 部署实施操作
- 存储与容器配置：若为单机部署，可将两块 NVMe SSD 分别挂载至 /mnt/nvme0n1 和 /mnt/nvme1n1，前者用于部署容器、存放日志，后者存储模型文件与镜像；多机部署需确保各节点网络互通，且所有节点的驱动、固件版本一致。创建容器目录并关联镜像，执行
mkdir -p /mnt/nvme1n1/apptainer创建目录，通过ln -s命令建立镜像软链接到部署目录。 - 模型部署配置：将下载的模型权重文件放置在各节点的 /mnt/nvme1n1/model/ 目录下；修改 node.sh 文件，指定 MODEL_DIR 为模型实际路径、MINDIE_IMG 为所用镜像；多机部署需修改 config.json，将主节点 IP 改为本机 IP。
- 服务启动验证：进入部署目录执行启动命令，服务启动耗时 5 - 30 分钟不等，可查看 log_ds 目录下的 out 文件，若日志无报错则表示启动成功。单机部署可直接本地调用接口测试，多机部署需在主节点发起测试，验证跨节点算力协同是否正常。
- 部署关键注意事项
- 多机部署时网络需满足 100Gbps RDMA 互联要求，否则会影响模型推理效率；
- 镜像申请审核通常需 2 - 4 小时，拉取链接 6 小时内过期，需及时操作；
- 若部署后出现 NPU 算力未调用的情况，可通过
npu - smi info命令排查驱动状态，或检查 MindIE 配置文件与模型路径是否匹配。