尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
UOS V2500 沐曦mx-exporter监控加速卡(非K8S)
️ 基础环境组件规格/版本操作系统UOS V25 服务器操作系统服务器型号浪潮 AI 服务器 (NF5468m6)AI 加速卡沐曦C500驱动版本metax-driver-3.7.2.30-rpm-x86_64.runSDK版本maca-sdk-3.7.2.0-rpm-x86_64.tar.xzDocker 版本v24.0.9 驱动和SDK安装请参考UOS V2500 沐曦驱动安装手册下载安装包官方下载中心沐曦资源中心驱动包名称mx-exporter.0.15.2.tgzexport安装部署1.安装部署# 安装MXMACA SDK之后在 /opt/maca/wheel 目录下找到Python 3 的wheel包**mx_exporter_*.whl**。# 进入到目录cd/opt/maca/wheel# 安装whlpipinstallmx_exporter-2.2.6-py3-none-any.whl2.使用方法mx-exporter 参数说明wheel包安装参数描述-p PORT, --port PORT主机需要开放的HTTP端口号。若不指定默认为8000-i INTERVAL,--interval INTERVALmx-exporter持续收集指标的间隔时间单位ms。若不指定默认为10000ms-c CONFIG_FILE,--config-file CONFIG_FILE若不指定默认配置文件为/opt/maca/etc/default-counters.csv若自定义配置文件需基于默认配置文件参考 3.2 修改配置文件-h, --help显示帮助信息执行以下命令启动mx-exporter监听端口为8002收集指标间隔为5ssudomx-exporter-p8002-i50003. 查看mx-exporter抓取数据在浏览器输入http://host_ip:host_port/metrics或执行curl http://host_ip:host_port/metrics其中host_port是主机需要开放的HTTP端口号可用-p指定。例如http://10.10.13.111:8002/metricsPrometheus 配置与容器化部署1. 配置文件编写prometheus.ymlprometheus监控vLLM服务配置文件# 全局配置项适用于所有 jobglobal:# 设置 Prometheus 抓取目标指标的时间间隔scrape_interval:15s# 每 15 秒抓取一次数据默认是 1 分钟# 设置评估告警规则的时间间隔evaluation_interval:15s# 每 15 秒检查一次告警规则默认是 1 分钟# 设置每次抓取目标的最大超时时间scrape_timeout:10s# 默认也是 10 秒# 抓取目标配置scrape_configs:# 第一个 job监控 vllm 推理服务-job_name:vllm-monitoring# job 名称static_configs:-targets:-10.10.13.111:8000# vllm 服务的地址和端口# 第二个 jobGPU 监控使用 nvitop-exporter-job_name:gpu-monitoring# job 名称用于标识 GPU 指标来源static_configs:-targets:-10.10.13.111:8002# mx-exporter 默认监听在 8002 端口prometheus监控SGLang服务配置文件# 全局配置项适用于所有 jobglobal:# 设置 Prometheus 抓取目标指标的时间间隔scrape_interval:15s# 每 15 秒抓取一次数据默认是 1 分钟# 设置评估告警规则的时间间隔evaluation_interval:15s# 每 15 秒检查一次告警规则默认是 1 分钟# 设置每次抓取目标的最大超时时间scrape_timeout:10s# 默认也是 10 秒# 抓取目标配置scrape_configs:# 第一个 job监控 vllm 推理服务-job_name:sglang-monitoring# job 名称static_configs:-targets:-10.10.75.30:30000# sglang 服务的地址和端口# 第二个 jobGPU 监控使用 nvitop-exporter-job_name:gpu-monitoring# job 名称用于标识 GPU 指标来源static_configs:-targets:-10.10.13.111:8002# mx-exporter 默认监听在 5050 端口容器化部署使用 镜像部署 Prometheus挂载配置文件与数据存储目录确保服务重启后数据不丢失# 创建prometheus文件夹mkdir/root/xyh/prometheus# 在prometheus文件夹创建prometheus.yml文件cd/root/xyh/prometheustouchprometheus.yml# 创建数据目录mkdirdata# 为Prometheus文件夹分配权限chmod-R777/root/xyh/prometheus# 启动容器prometheus服务dockerrun-d--nameprometheus\-p9090:9090\-v/data/prometheus/data:/prometheus\-v/data/prometheus/prometheus.yml:/etc/prometheus/prometheus.yml\registry.uniontech.com/uos-app/uos-server-20-prometheus:2.32.1访问地址http://服务器IP:9090可在Status Targets中查看指标采集状态。Grafana 配置与仪表盘导入容器化部署使用镜像快速启动 Grafana 服务默认端口为 3000首次登录默认账号密码为admin/admindockerrun-d--namegrafana-p3000:3000 registry.uniontech.com/uos-ai/grafana:v13.0.1创建数据源登录 Grafana进入connection Data Sources选择prometheus输入prometheus访问地址http://ip地址:9090点击save test 保存配置并测试prometheus API是否可用。导入 nvitop 定制仪表盘可以直接使用上传的 metax-mxc500-physical.json 文件。导入步骤登录 Grafana选择 Prometheus 作为数据源完成仪表盘加载。选择本地metax-mxc500-physical.json 文件导入同理对于 vLLM 相关的监控可使用 vllm-dashboard.json 文件导入方式同上。同理对于 SGLang 相关的监控可使用 sglang-dashboard.json 文件导入方式同上。
RELATED

相关推荐

什么是“可重构测试平台”?一文读懂模块化桁架在高校科研中的底层逻辑

什么是“可重构测试平台”?一文读懂模块化桁架在高校科研中的底层逻辑

引言:高校科研面临的“定制化陷阱”在高校理工科实验室中,研究者常常面临一个隐形的“时间黑洞”:为了验证一个新的算法或控制理论,往往需要先耗费数周甚至数月的时间,去设计、采购、加工并搭建一个物理测试台。当课题…

📅 2026/9/7 23:34:45
5分钟掌握d2s-editor:免费开源的暗黑破坏神2存档编辑终极方案

5分钟掌握d2s-editor:免费开源的暗黑破坏神2存档编辑终极方案

5分钟掌握d2s-editor:免费开源的暗黑破坏神2存档编辑终极方案 【免费下载链接】d2s-editor 项目地址: https://gitcode.com/gh_mirrors/d2/d2s-editor d2s-editor是一款专为《暗黑破坏神2》及重制版玩家设计的开源存档编辑工具,通过直观的Web界面…

📅 2026/9/9 18:52:53
MOM(制造运营管理)系统:破解“黑箱生产”,实现端到端协同管控

MOM(制造运营管理)系统:破解“黑箱生产”,实现端到端协同管控

引言:制造业的“黑箱”困境在传统制造模式下,计划与执行脱节、质量与生产割裂、设备与业务断层,导致生产过程如同一个“黑箱”——管理层难以实时掌握现场动态,决策滞后,问题频发。MOM(制造运营管理&#x…

📅 2026/8/23 1:52:26
MORE NEWS

更多资讯

📰

Audacity 如何测量音频设备往返延迟以校准延迟补偿?

Audacity 如何测量音频设备往返延迟以校准延迟补偿? 【免费下载链接】audacity Audio Editor 项目地址: https://gitcode.com/GitHub_Trending/au/audacity 当项目播放与录音监控同时进行,输出端的音频会经过一条从输出设备回到输入设备的通路再…

📰

MyBatis拦截器机制详解与实战应用

1. MyBatis拦截器机制概述MyBatis拦截器(Interceptor)是其框架中极具特色的扩展机制,它基于动态代理模式实现,允许开发者在SQL执行生命周期的关键节点插入自定义逻辑。这种设计类似于电路系统中的保险丝——在电流通过的关键路径上…

📰

portless 开发协作规范与 Windows 远程调试工作流:从 AGENTS.md 看仓库治理实践

portless 开发协作规范与 Windows 远程调试工作流:从 AGENTS.md 看仓库治理实践 【免费下载链接】portless Replace port numbers with stable, named local URLs. For humans and agents. 项目地址: https://gitcode.com/GitHub_Trending/por/portless port…

📰

Surya 2 在 NVIDIA GPU 上如何通过 vllm 后端首次运行 surya_ocr?

Surya 2 在 NVIDIA GPU 上如何通过 vllm 后端首次运行 surya_ocr? 【免费下载链接】surya OCR, layout analysis, reading order, table recognition in 90 languages 项目地址: https://gitcode.com/GitHub_Trending/su/surya 本文面向有一块 NVIDIA GPU、想…

📰

Wand-Enhancer 完整上手指南:如何本地解锁 Wand 专业版功能

Wand-Enhancer 完整上手指南:如何本地解锁 Wand 专业版功能 【免费下载链接】Wand-Enhancer Advanced UX and interoperability extension for Wand (WeMod) app 项目地址: https://gitcode.com/GitHub_Trending/we/Wand-Enhancer Wand(前身 WeMo…

📰

Thrift module: DocTest

Thrift module: DocTest 【免费下载链接】thrift Apache Thrift 项目地址: https://gitcode.com/GitHub_Trending/thr/thrift **随后**是模块级文档注释(对应 namespace * markdown_test 上方的注释,本例中该注释为空,因此未出现&#…

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬