Skip to content

系统安装

e00781f6867c135025e7d9cc60899fda.jpg8474af6324411bbf660c253a89a976e0.jpg

7dcdb9a61514f83e6e4c7ba2b8c01219.jpg83eb6c1ac623322d73128ce285256d8d.jpgb0e6292ce6ec90425b8551a37f3bb73e.jpgec640dea7a42e3e28bbfb98f77b42a3c.jpg

配置国内源、删除订阅弹窗

Debian系统源更换

与常规的 Debian 13 一样,将 /etc/apt/sources.list.d/debian.sources 中默认源全部删除,将其替换为清华源

text
Types: deb
URIs: https://mirrors.tuna.tsinghua.edu.cn/debian
Suites: trixie trixie-updates trixie-backports
Components: main contrib non-free non-free-firmware
Signed-By: /usr/share/keyrings/debian-archive-keyring.gpg

# 默认注释了源码镜像以提高 apt update 速度,如有需要可自行取消注释
Types: deb-src
URIs: https://mirrors.tuna.tsinghua.edu.cn/debian
Suites: trixie trixie-updates trixie-backports
Components: main contrib non-free non-free-firmware
Signed-By: /usr/share/keyrings/debian-archive-keyring.gpg

# 以下安全更新软件源包含了官方源与镜像站配置,如有需要可自行修改注释切换
# Types: deb
# URIs: https://security.debian.org/debian-security
# Suites: trixie-security
# Components: main contrib non-free non-free-firmware
# Signed-By: /usr/share/keyrings/debian-archive-keyring.gpg

# Types: deb-src
# URIs: https://security.debian.org/debian-security
# Suites: trixie-security
# Components: main contrib non-free non-free-firmware
# Signed-By: /usr/share/keyrings/debian-archive-keyring.gpg

企业源

将 PVE 的企业源 /etc/apt/sources.list.d/pve-enterprise.sources 注释掉(也可以直接删除)

text
# Types: deb
# URIs: https://enterprise.proxmox.com/debian/pve
# Suites: trixie
# Components: pve-enterprise
# Signed-By: /usr/share/keyrings/proxmox-archive-keyring.gpg

Ceph 源

将 PVE 的 Ceph 源 /etc/apt/sources.list.d/ceph.sources 也替换成清华源

shell
Types: deb
URIs: https://mirrors.tuna.tsinghua.edu.cn/proxmox/debian/ceph-squid
Suites: trixie
Components: no-subscription
Signed-By: /usr/share/keyrings/proxmox-archive-keyring.gpg

删除订阅弹窗

shell
sed -Ezi.bak "s/(Ext.Msg.show\(\{\s+title: gettext\('No valid sub)/void\(\{ \/\/\1/g" /usr/share/javascript/proxmox-widget-toolkit/proxmoxlib.js && systemctl restart pveproxy.service

执行完成后,浏览器Ctrl+F5强制刷新缓存

集群配置

点击创建集群(忽略我已经创建了集群,未创建集群时这个按钮不是disable)

image.png

输入集群名称等信息后完成创建

点击加入信息,复制信息后,在其他节点点击加入集群按钮,粘贴信息并输入节点root密码即可加入集群。

Ceph 配置

加入集群后点击Ceph,安装Ceph (记得先配置镜像源)

image.png

输入 Y ,然后等待安装完成(每个节点都要安装)

image.png

image.pngimage.pngimage.png

进阶:切割缓存盘

创建存储策略

ceph osd crush rule create-replicated rule_ssd default host ssd ceph osd crush rule create-replicated rule_hdd default host hdd

lsblk -o NAME,SIZE,TYPE,FSTYPE,MOUNTPOINT,MODEL

wipefs -a /dev/nvme1n1 sgdisk --zap-all /dev/nvme1n1 wipefs -a /dev/sda sgdisk --zap-all /dev/sda vgcreate vg_ssd1 /dev/nvme1n1 lvcreate -L 640G -n db_for_hdd1 vg_ssd1 lvcreate -l 100%FREE -n data_for_ssd1 vg_ssd1 ceph-volume lvm create --data /dev/sda --block.db vg_ssd1/db_for_hdd1

ceph-volume lvm create --data vg_ssd1/data_for_ssd1

网络

image.png

ifreload -a .image.png

风扇、温度转速监控

shell
wget -q -O /root/pve_source.tar.gz 'http://szrq.hkfree.work/pve-source/pve_source.tar.gz' && tar zxvf /root/pve_source.tar.gz && /root/./pve_source

调整CPU模式

创建脚本文件

bash
vim /usr/local/bin/set-cpu-powersave.sh
bash
#!/bin/bash
cpupower frequency-set -g powersave
echo "balance_performance" | tee /sys/devices/system/cpu/cpu*/cpufreq/energy_performance_preference
bash
#!/bin/bash
cpupower frequency-set -g performance
echo "performance" | tee /sys/devices/system/cpu/cpu*/cpufreq/energy_performance_preference

赋予执行权限:

bash
chmod +x /usr/local/bin/set-cpu-powersave.sh

创建服务文件:

bash
vim /etc/systemd/system/cpu-power.service
unit
[Unit]
Description=Set CPU Power Policy for PVE
After=multi-user.target

[Service]
Type=oneshot
ExecStart=/usr/local/bin/set-cpu-powersave.sh
RemainAfterExit=yes

[Install]
WantedBy=multi-user.target

启用并立即运行服务:

bash
systemctl enable --now cpu-power.service

PVE Ceph 存储网络平滑迁移

📌 背景与目标

  • 环境:3 节点 PVE 集群(版本 9.1.1),已配置 Ceph 存储及 CephFS。
  • 原网络:管理与 Ceph 存储共用千兆网络(192.168.30.x)。
  • 新网络:新增万兆光纤网络(10.10.10.x)。
  • 目标:将 Ceph 的 public_networkcluster_network 无缝迁移至万兆网络,迁移全程不影响现有虚拟机运行

核心思路:双网段过渡法

利用 Ceph 支持同时监听多个网段的特性,先让 Ceph 同时认可新旧两个网络,再逐个迁移组件,最后剔除旧网络。

🚀 详细操作步骤

1. 备份当前配置

在任意节点 SSH 执行:

bash
cp /etc/pve/ceph.conf /etc/pve/ceph.conf.bak

2. 修改 Ceph 配置为“双网段”

编辑配置文件 vim /etc/pve/ceph.conf

ini
[global]
    ...
    cluster_network = 10.10.10.0/24
    public_network = 10.10.10.0/24
    ...

注:修改后 PVE 会自动将配置同步到所有节点。

3. 逐个迁移 Monitor (MON)

注意:MON 必须逐个销毁并重建,绝不能同时操作多个,必须保证集群始终有 2 个以上的 MON 存活(Quorum)。

  1. 销毁旧 MON:在 PVE Web 界面选中某个节点的 MON,点击 Destroy (销毁)
  2. **清理残留旧 IP PVE 的 Web GUI 销毁 MON 时,可能不会清理 mon_host 里的旧 IP,导致新建时报 already in use (500) 错误。
    • 操作:打开终端 vim /etc/pve/ceph.conf,找到 mon_host = ... 这一行,手动删掉刚刚销毁的 30 网段旧 IP 并保存。
  3. 创建新 MON:在Web界面新建mon即可
  4. 等待恢复:执行 ceph -s,等待状态恢复为 HEALTH_OK
  5. 循环操作:按照上述 1~4 步,依次完成 pve02 (10.10.10.12) 和 pve03 (10.10.10.13) 的 MON 迁移。
  6. 最终清理:确认 ceph.conf 中的 mon_host 仅剩下万兆 IP(如:mon_host = 10.10.10.11 10.10.10.12 10.10.10.13),如果有30网段旧ip,直接删掉即可。

4. 逐个重启存储与元数据服务

此时配置已生效,但后台进程仍在旧通道上。需要逐个节点重启服务。

依次在 pve01 -> pve02 -> pve03 上执行以下命令:

bash
# 1. 重启 OSD (底层数据存储进程)
systemctl restart ceph-osd.target
# 2. 重启 MGR (集群管理器)
systemctl restart ceph-mgr.target
# 3. 重启 MDS (CephFS 元数据服务器,如有使用CephFS)
systemctl restart ceph-mds.target

**⚠️ 重启完一个节点的所有服务后,必须去网页端(或使用 ceph -s)盯着状态,等集群重新变绿(HEALTH_OK)后,再前往下一个节点操作!

迁移完成!🎉