weisunit的博客
想想全是问题,行动全是答案
  • 工具
    • 项目
    • it-tools
    • linux-command
  • 往期整理
    • 历史归档
    • 文章分类
    • 文章标签
  • 工具
    项目
    it-tools
    linux-command
    往期整理
    历史归档
    文章分类
    文章标签
    weisunit的博客
    想想全是问题,行动全是答案
  • 工具
    • 项目
    • it-tools
    • linux-command
  • 往期整理
    • 历史归档
    • 文章分类
    • 文章标签
  • 工具
    项目
    it-tools
    linux-command
    往期整理
    历史归档
    文章分类
    文章标签
    • 目录
    • 关于
    0%
    1. 为什么选 4 × RTX PRO 6000 Blackwell2. 整机配置推荐3. Ubuntu 24.04 LTS 系统部署3.1 装系统3.2 关掉不安分的默认组件3.3 创建运行用户与目录4. NVIDIA 驱动与 CUDA 安装4.1 禁用 nouveau4.2 确认 GPU 被识别4.3 安装内核头文件4.4 添加 NVIDIA 官方仓库并装驱动4.5 安装 CUDA Toolkit4.6 验证4.7(可选但推荐)Docker + NVIDIA Container Toolkit5. vLLM 部署5.1 为什么是 vLLM5.2 裸机安装5.3 四卡启动服务(张量并行 TP=4)5.4 关于并行策略的实操建议5.5 验证 OpenAI 兼容接口5.6 Docker 方式(团队推荐)5.7 跑个基准6. 适合中小企业的模型选型建议7. 踩坑清单参考来源
    weisunit
    weisunit
    一个普通的干饭人🍚
    14篇文章| 位访客
    最新发布
  • Hermes Agent 保姆级使用教程:从安装到自进化 AI 数字员工
  • Pi Agent 保姆级使用教程:极简编码 Agent 的高阶玩法与插件生态
  • OpenClaw 2.0 完全教程:一人公司 / 一人创作者的 AI 工作台
  • 企业网管/桌面运维实战宝典:从硬件排错到云终端管理
  • 网络工程师面试宝典(2026 版):核心考点、最新趋势与实战技巧
  • 办公室网络规划与实施实例
  • 分类
    更多
    标签
    更多
    目录
    0%
    1. 为什么选 4 × RTX PRO 6000 Blackwell2. 整机配置推荐3. Ubuntu 24.04 LTS 系统部署3.1 装系统3.2 关掉不安分的默认组件3.3 创建运行用户与目录4. NVIDIA 驱动与 CUDA 安装4.1 禁用 nouveau4.2 确认 GPU 被识别4.3 安装内核头文件4.4 添加 NVIDIA 官方仓库并装驱动4.5 安装 CUDA Toolkit4.6 验证4.7(可选但推荐)Docker + NVIDIA Container Toolkit5. vLLM 部署5.1 为什么是 vLLM5.2 裸机安装5.3 四卡启动服务(张量并行 TP=4)5.4 关于并行策略的实操建议5.5 验证 OpenAI 兼容接口5.6 Docker 方式(团队推荐)5.7 跑个基准6. 适合中小企业的模型选型建议7. 踩坑清单参考来源
    0%
    2021-2026 weisunit.

    weisunit的博客

    Powered by NotionNext 4.10.10.