3步跑通 ModelScope 跨平台部署Windows、Linux、macOS 都能装【免费下载链接】modelscopeModelScope: bring the notion of Model-as-a-Service to life.项目地址: https://gitcode.com/GitHub_Trending/mo/modelscopeModelScope 是一个模型即服务Model-as-a-Service的开源框架几行代码就能下载、推理和微调 CV、NLP、语音、多模态领域的大量模型。如果你想把 ModelScope 跨平台部署到自己的 Windows 桌面、Linux 服务器或 Mac 上这篇教程只做一件事用最短的时间帮你装好、跑通再告诉你怎么加速、怎么容器化上生产。全程三步跑通 → 调优 → 上线。第一步10 分钟从零装好跑通第一次推理这一节回答你最关心的问题ModelScope 安装到底要几步先给结论——只跑推理的话3 条命令就够要训练再用官方镜像。先选一条安装路线路线适合谁难度你会得到什么直接 pip 装核心库只是体验模型、下载模型/数据集低最小组件几秒装完conda 建环境 pip 装长期开发、要跑某一领域模型低隔离环境 领域依赖官方 Docker 镜像训练、全模型、生产环境无开箱即用跳过一切配置版本速查表动手前先对一遍项目建议值依据与说明Python发行版 1.x 用 3.8主分支 2.0.0 要求 ≥3.10pyproject.toml 中requires-python 3.10PyTorch2.0.1官方镜像即 cu118 版与官方 Docker 镜像保持一致LinuxUbuntu 20.04x86_64功能最全语音模型首选平台WindowsWin10/11 x86_64部分语音任务不支持见后文macOSIntel x86 直接跑M 系列走转译README 注明绝大多数模型支持 Mac (x86)分平台最小安装命令Linux以 Ubuntu 为例# 语音模型依赖的系统库Linux 需手动装Windows/macOS 会自动装 sudo apt-get update sudo apt-get install -y libsndfile1 # 建环境主分支装源码需要 Python ≥3.10 conda create -n ms python3.10 -y conda activate ms # 核心库 pip install modelscopeWindowsPowerShellconda create -n ms python3.10 -y conda activate ms # 核心库 pip install modelscope⚠️ Windows 上最容易踩的坑是语音任务README 明确说明部分音频模型仅支持 Linuxpython3.7 TensorFlow 1.15.4 环境。在 Windows 上请优先选 CV / NLP / 多模态模型。macOS# 仅当你要用语音任务时才需要装这个 brew install libsndfile conda create -n ms python3.10 -y conda activate ms pip install modelscope装完核心库后按你要用的领域补一个 extras 即可extras 清单来自 pyproject.toml# 按需选一个-f 是官方指定源 pip install modelscope[nlp] -f https://modelscope.oss-cn-beijing.aliyuncs.com/releases/repo.html跑个模型验证一下from modelscope.pipelines import pipeline p pipeline(text-classification, modeldamo/nlp_structbert_sentence-similarity_chinese-base) print(p({source: 今天天气不错, sentences: [今天阳光明媚, 今天乌云密布]})) # 输出带 score 的句子相似度结果能打印出分数说明跨平台部署的第一步就成了。想继续用命令行方式modelscope pipeline等操作看 docs/source/command.md。第二步调优——按硬件和领域把速度提上来装好之后下一个问题我这台机器能快多少先看支持矩阵再按需加依赖。硬件加速怎么选平台加速方式备注Linux NVIDIACUDA官方 GPU 镜像为 cuda11.8 torch 2.0.1速度上限最高推荐生产环境Windows NVIDIA先装 CUDA 11.8 驱动再装对应 torch语音模型不可用macOSM 系列PyTorch MPS 后端内存和性能受限适合原型验证macOSIntelCPU适合本地开发调试纯 CPU全平台可用建议 8 核以上领域依赖按需加载不用一次装全。pip install modelscope[xxx]支持的 extrasextra覆盖领域cv计算机视觉nlp自然语言处理multi-modal多模态audio_asr/audio_tts/audio_codec/audio_kws/audio_signal语音细分任务science科学计算模型datasets/server/docs/tests数据集、服务化、文档、测试注意[all]并不包含 audio——pyproject 里注释写明音频依赖较重装失败会连累整体所以官方把它单独拆开了。要全量语音能力请显式装modelscope[audio]。另外个别 CV 模型需要 mmcv-fullREADME 有说明pip install -U openmim mim install mmcv-full第三步上生产——直接拉官方 Docker 镜像生产环境别手搓依赖官方为每个 release 都提供了 CPU/GPU 镜像版本信息来自 README.md 和 docker/ 目录类型镜像标签CPUregistry.cn-hangzhou.aliyuncs.com/modelscope-repo/modelscope:ubuntu20.04-py38-torch2.0.1-tf2.13.0-1.9.5GPUregistry.cn-hangzhou.aliyuncs.com/modelscope-repo/modelscope:ubuntu20.04-cuda11.8.0-py38-torch2.0.1-tf2.13.0-1.9.5GPU 机器上一行起容器# --gpus all 让容器看到所有 NVIDIA 卡 docker run -it --gpus all \ registry.cn-hangzhou.aliyuncs.com/modelscope-repo/modelscope:ubuntu20.04-cuda11.8.0-py38-torch2.0.1-tf2.13.0-1.9.5 \ /bin/bash需要自己构建镜像的仓库里就有构建入口docker/build_image.py基础模板是 docker/Dockerfile.ubuntu另附 docker/ascend/ 和 docker/Metax/ 两套异构硬件方案可以参考。常见坑与一句话解法症状原因解法Linux 跑语音模型报找不到 libsndfile系统库缺失Windows/macOS 会自动装sudo apt-get install libsndfile1语音模型在 Windows/Mac 上装不上或跑不起来部分音频模型只支持 Linuxpy3.7 TF1.15.4换 Linux 环境或改选 CV/NLP 模型CV 模型报 mmcv 相关错误需要 mmcv-full 而非普通 mmcvpip uninstall mmcv后用mim install mmcv-full从源码 pip install 直接被拒主分支 2.0.0 要求 Python ≥3.10升级 Python或改装 PyPI 上的 1.x 发行版推理慢、显存吃紧精度没调换半精度float16加载大模型见 examples/ 里的示例收尾你的行动清单先定路线只体验 →pip install modelscope要训练/生产 → 直接拉官方 Docker 镜像。Linux 机器先补系统库sudo apt-get install libsndfile1。环境统一用 conda 隔离装主分支源码时确保 Python ≥3.10。按领域装 extras[cv]、[nlp]、[multi-modal]等别盲目装[all]它不含 audio。用上面的文本分类小例跑一遍看到分数即部署成功。要训练时翻 examples/ 找任务示例、configs/ 找配套配置照抄改参即可。【免费下载链接】modelscopeModelScope: bring the notion of Model-as-a-Service to life.项目地址: https://gitcode.com/GitHub_Trending/mo/modelscope创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考