一个伪linux粉丝的blog

MetaX C500
unix/linux

metax c500 vgpu

背景: 继上次metax c500上跑了deepseek 70b蒸馏模型后,遇到一个新任务,要将卡切分为vgpu模式,也就是metax 的 VF模式,看了资料似乎很简单。 安装metax 的 gpu operator ,然后修改driver-config 的 ConfigMap 即可,实际上,这里又卡了我一天。

5 4 月, 2025 0条评论 293点热度 1人点赞 wanjie 阅读全文
network

When 70B Parameters Meet Chinese GPUs: My Journey of Deploying DeepSeek-R1 with MetaX C500

沐曦cx 500 部署 DeepSeek-R1-Llama-70B 模型不完全实验记录,4卡效果也还不错,8卡提升很明显。

16 3 月, 2025 0条评论 223点热度 0人点赞 wanjie 阅读全文
归档
分类
  • network / 332篇
  • Uncategorized / 116篇
  • unix/linux / 121篇
  • 业界资讯 / 38篇
  • 公司杂事 / 11篇
  • 数码影像 / 12篇
  • 美剧 / 3篇
  • 美图共赏 / 21篇
  • 英语学习 / 3篇
标签聚合
kernel 虚拟主机 ldap postgres Nginx gitlab VPS 浏览器 k8s 邮件归档 d90 Ubuntu nexus 泰国 Google dreamhost 网站运营 docker deepseek Google Voice
分类
  • network
  • Uncategorized
  • unix/linux
  • 业界资讯
  • 公司杂事
  • 数码影像
  • 美剧
  • 美图共赏
  • 英语学习

COPYRIGHT © 2008-2025 wanjie.info. ALL RIGHTS RESERVED.

Theme Kratos Made By Seaton Jiang