🚀 四卡 RTX PRO 6000 本地 AI 主机:从硬件选型到 vLLM 上线的一站式笔记

中小企业用 4 × NVIDIA RTX PRO 6000 Blackwell(96GB×4 共 384GB 显存)自建本地大模型推理服务的完整实践:整机硬件选型、Ubuntu 24.04 LTS 系统部署、NVIDIA open 驱动与 CUDA 安装、vLLM 张量并行(TP=4)部署与 OpenAI 兼容接口验证,附模型选型建议和踩坑清单。

🟥 Proxmox VE + Ceph 集群搭建

Proxmox VE (PVE) 是一款开源的虚拟化平台,它基于 KVM (Kernel-based Virtual Machine) 和 LXC (Linux Containers) 技术,支持虚拟机和容器的运行。PVE 还提供高可用集群管理、软件定义存储、备份和恢复以及网络管理等企业级功能。