Posts

创建 NBD 镜像时，为什么要把 backing 的所有镜像全部设置为 NBD？ 因为镜像链的解析是 qemu driver 负责的，NBD 和本地 file 都只是独立的块设备，没有解析能力。 现象 创建 NBD 镜像时报错： cmd [qemu-img create -f qcow2 -b nbd://10.0.0.10:54195 -F qcow2 /dev/qbd/vol/vol-example.img] on [local] failed: ret[1] out[] err[qemu-img: /dev/qbd/vol/vol-example.img: Could not open backing file: Could not open '/data/image/centos79x64a': No such file or directory Could not open backing image.]. exec_time is [0.093]s 怪不得创建 NBD 镜像的时候，会把 backing 的所有镜像全部设置为 NBD。之前很费解。 有一个误区 以为通过 NBD 找到 nbd://10.0.0.10:54195 head 镜像，那么 NBD 镜像的 backing 镜像，自然通过 NBD head 链接一起使用了。 ...

qemu64 是 qemu 的默认兼容性 CPU 模型，指令集很基础。但查看它的定义，居然包含 svm 这类虚拟化指令，这背后是 TCG 与 KVM 两种支持场景的差异。 现象 查看 qemu64 CPU 模型定义： cat /usr/share/libvirt/cpu_map/x86_qemu64.xml <cpus> <model name='qemu64'> <decode host='on' guest='on'/> <!-- These are supported only by TCG. KVM supports them only if the host does. So we leave them out: <feature name='abm'/> <feature name='lahf_lm'/> <feature name='popcnt'/> <feature name='sse4a'/> --> <feature name='apic'/> <feature name='clflush'/> <feature name='cmov'/> <feature name='cx16'/> <feature name='cx8'/> <feature name='de'/> <feature name='fpu'/> <feature name='fxsr'/> <feature name='lm'/> <feature name='mca'/> <feature name='mce'/> <feature name='mmx'/> <feature name='msr'/> <feature name='mtrr'/> <feature name='nx'/> <feature name='pae'/> <feature name='pat'/> <feature name='pge'/> <feature name='pni'/> <feature name='pse'/> <feature name='pse36'/> <feature name='sep'/> <feature name='sse'/> <feature name='sse2'/> <feature name='svm'/> <feature name='syscall'/> <feature name='tsc'/> </model> </cpus> 分析 qemu64 是 qemu 为了兼容性提供的默认 CPU 模型，指令集非常基础。 但有意思的是，它居然包含了 svm（AMD 的虚拟化扩展指令）。 ...

文件系统只读有两种：卷只读和 Linux 只读。卷只读是存储侧控制，能恢复；Linux 只读是存储 IO 错误触发的保护机制，remount 基本失败，只能重启。 现象 虚拟机文件系统变成只读： root@host:~# lsblk NAME MAJ:MIN RM SIZE RO TYPE MOUNTPOINT vda 253:0 0 20G 0 disk └─vda1 253:1 0 20G 0 part / vdb 253:16 0 4G 0 disk [SWAP] vdc 253:32 0 100G 0 disk root@host:~# touch test touch: cannot touch 'test': Read-only file system 同事说另一个类型的虚拟机只读了能恢复，这个怎么恢复。 排查 先要分清是"卷只读"还是"Linux 只读"，两者恢复方式完全不同。 再确认存储是否中断过，因为 Linux 只读通常由存储 IO 错误触发。 根因 同事那个能恢复，是因为不是 Linux 只读，而是卷只读。那个卷是我们公司自己的存储，能控制其读写权限。 但这里 Linux 只读，一般是存储读写有 IO error，触发了 Linux 保护机制，系统只读。 我问他是不是存储中断过，他说是的。 这种 Linux 只读没法恢复，remount 基本失败，只能重启虚拟机。 小结 Linux 文件系统只读，通常是存储 IO 错误触发的保护机制； 卷只读（存储侧控制）可以恢复，Linux 只读（IO 错误触发）基本无法 remount 恢复； 排查时先确认是"卷只读"还是"Linux 只读"，两者恢复方式完全不同； Linux 只读只能重启虚拟机恢复。

虚拟机通过 nbd 秒级启动，但 nbd-server 连接总被误清理。根因是新版本 nbd-server 默认用 tcp6 双栈监听，而清理代码用 netstat -4 只过滤 tcp4，把 tcp6 上的连接误判为"无连接"而误清理。 现象 虚拟机通过 nbd 可以实现秒级启动，之前跑的好好的。 最近一个测试环境，总是会出现 nbd 连接丢失的情况。 排查是 base img 的 nbd-server 进程被 kill。 且通过日志看，就是我们的程序给 kill 的。 但是我们的程序是正常的清理，会判断这个 nbd-server 没有连接，才会去 kill。 到底是哪里的问题？是真没有连接了，还是哪里判断有问题。 排查 代码会先检查已经有连接的，这些是肯定不会去 kill： exec_cmd("netstat -4 --tcp -p -n | grep ESTABLISHED | grep nbd-server | awk '{print $4}' | awk -F':' '{print $2}' | sort -u > %s" % tmp_file) 代码已经十年了，看着也很完善，没出过类似问题。 后发现是 tcp6 和 tcp4 的原因，和 nbd-server 的版本有关系： ...

裸金属创建时报固件错误，网卡驱动 bnx2x 加载不了固件文件，导致 bond 从设备打开失败。根因是镜像里缺少驱动需要的固件，用 modinfo 查出来补上即可。 现象 创建裸金属报固件错误，带外上看，保持类似如下： bnx2x: Can't load firmware file bnx2x/bnx2x-e2-7.13.11.0.fw bnx2x: Error loading firmware bond0: (slave eth110): Opening slave failed 排查 把镜像通过 qemu-nbd 挂载上来， 然后用 modinfo 查看这个驱动， 里面会列出需要的固件： filename: /mnt/bootcoree/lib/modules/5.4.0-59-generic/kernel/drivers/net/ethernet/broadcom/bnx2x/bnx2x.ko firmware: bnx2x/bnx2x-e2-7.13.11.0.fw firmware: bnx2x/bnx2x-e1h-7.13.11.0.fw firmware: bnx2x/bnx2x-e1-7.13.11.0.fw 根因与解决 根因是镜像里缺少 bnx2x 驱动需要的固件文件。 把 modinfo 查到的固件下载下来， 放到镜像的 /lib/firmware 对应目录中，就可以了。 小结 网卡驱动加载固件失败，会导致 bond 从设备打开失败； 用 modinfo 查看驱动模块声明的 firmware 字段，就能知道需要哪些固件文件； 把固件放到镜像的 /lib/firmware 对应目录即可解决； 排查固件类问题，modinfo 是最直接的入口。

裸金属装机一直卡在 iscsistart，根因是 ethX 网卡乱序，iSCSI 连接建在了错误的网卡上。在 PXELINUX 配置里加 IPAPPEND 2，让引导程序自动把引导网卡的 MAC 追加给内核，即可解决。 现象 创建裸金属时，网卡乱序导致 iSCSI 镜像加载不了，装机一直卡在 iscsistart。 排查 看 PXELINUX 配置： /pxelinux.cfg# cat 01-8c-96-a5-2d-fb-70 DEFAULT linux LABEL linux menu default menu label Linux KERNEL vmlinuz APPEND initrd=initrd.img ip=10.0.0.64:10.0.0.185::255.255.255.0:bm-example:eth0:off ISCSI_TARGET_NAME=iqn.2012-04.example.com:bm-example-boot.img ISCSI_TARGET_IP=10.0.0.185 ISCSI_TARGET_PORT=3260 root=UUID=4a99650e-84e7-4c6a-83f9-1b1c964f39de rw net.ifnames=0 biosdevname=0 这里 APPEND 里有个重要参数：eth0，就是通过 eth0 建立 iSCSI 连接，切换 rootfs。 根因 问题就在这里：ethX 天生就有乱序问题。 我们期望网卡 1 是 eth0，物理链路上和 iSCSI 在一个网络上。 但是因为乱序问题，网卡 2 名称是 eth1，这样 iSCSI 就不通了，因为物理链路就不通。 这个时候 BM 装机就一直卡在 iscsistart。 解决办法 在 PXELINUX 配置中加上 IPAPPEND 2。 ...

创建裸金属时一直刷 NBP file downloaded successfully，但怎么都进不去系统。根因是启动方式被改成了 UEFI，而裸金属注册时一般是 Legacy，两者的 NBP 文件完全不同。 现象 创建裸金属（BM）时，一直刷 NBP file downloaded successfully，但怎么都跑不进去。 NBP 是 Network Bootstrap Program（网络引导程序）。 看起来 PXE 的程序已经获取成功了，但怎么都跑不进去。 然后只刷这个页面，只不过每次会换一个网卡，看起来还挨个网卡去找 PXE 服务端。 排查 后注意到启动方式是 UEFI，但是我们 BM 注册的时候一般是 Legacy。 且 UEFI 的 NBP 和 Legacy 的 NBP 也不一样，所以肯定是启动不起来的。 后修改裸金属的启动方式为 Legacy，部署成功。 根因：UEFI 与 Legacy 的 NBP 差异 启动模式 常见 NBP 文件名 对应软件 / 来源 Legacy BIOS pxelinux.0 SYSLINUX 引导工具 Legacy BIOS undionly.kpxe / ipxe.pxe iPXE 开源网络引导固件 UEFI 64-bit bootx64.efi / syslinux.efi UEFI 版 SYSLINUX UEFI 64-bit grubx64.efi GNU GRUB2 引导器 小结 NBP 是网络引导程序，PXE 获取成功但进不去，往往是引导模式不匹配； UEFI 和 Legacy 的 NBP 文件完全不同，不能混用； 裸金属注册时一般是 Legacy，如果启动方式被改成了 UEFI，就会一直刷 NBP 但起不来； 排查时先确认启动模式（UEFI / Legacy），再确认对应的 NBP 文件是否正确。

ZFS 副本通过 zfs send 从主本复制过来，逻辑数据一样，但物理占用却大很多。根因是副本节点的 raidZ 布局（高可用 + 条带）与 16k 块大小不适配，造成空间膨胀。 现象 ZFS 副本比主本大很多。主本数据： root@node1:~# zfs get all vpool/vol-example NAME PROPERTY VALUE SOURCE vpool/vol-example type filesystem - vpool/vol-example creation Thu Apr 24 13:59 2025 - vpool/vol-example used 3.94T - vpool/vol-example available 6.02T - vpool/vol-example referenced 3.94T 上面是主本数据，下面是副本数据。 副本是通过 zfs send 过来的，按道理两者应该是一样的。 但是副本的 used 是 4.75T，主本是 3.94T： root@node2:~# zfs get all vpool/vol-example NAME PROPERTY VALUE SOURCE vpool/vol-example type filesystem - vpool/vol-example creation Sun Aug 23 10:48 2026 - vpool/vol-example used 4.75T - vpool/vol-example available 627G - vpool/vol-example referenced 4.75T 排查 后排查了解发现，实际逻辑数据也是一样的，都是 3.92T： ...

多阶段构建里，COPY --from=<stage> 的源路径并不相对源阶段的 WORKDIR 解析，而是相对目标阶段根目录。所以跨阶段 COPY 时，相对路径会指向错误位置，报 “No such file or directory”。 现象 Docker 多阶段构建时，builder 阶段设置了 WORKDIR /src，文件实际位于 /src/internal/xmlbuild/cpu_rule.json 和 /src/cmd/configs/compute.yaml。 但 COPY --from=builder 后，internal/... 这种相对路径会被解析为相对于 /（即 /internal/...），而不是相对于 WORKDIR /src。 所以 Docker 找不到文件。 排查 先确认报错是不是 “No such file or directory”，且文件确实存在于源阶段。 再检查 COPY 的源路径写法，看是否用了相对路径。 根因 多阶段构建中，COPY --from=<stage> 的源路径是相对于构建上下文或目标阶段的根目录解析的，而不是相对于源阶段的 WORKDIR。 也就是说，COPY --from=builder 之后，就不能用上一个阶段的相对路径了。 比如你写： FROM builder AS build WORKDIR /src # ... 构建，生成 /src/internal/xmlbuild/cpu_rule.json FROM scratch COPY --from=build internal/xmlbuild/cpu_rule.json /app/ 这里的 internal/xmlbuild/cpu_rule.json 会被解析为 /internal/xmlbuild/cpu_rule.json，而不是 /src/internal/xmlbuild/cpu_rule.json，自然找不到文件。 ...

虚拟机无响应，virsh console 卡住进不去。一个思路是重启后快速进入 console，看内核启动日志，往往能直接暴露根因。 现象 虚拟机无响应，virsh console 卡在下面这个地方： virsh console vm-example Connected to domain vm-example Escape character is ^] 排查思路 virsh console 卡在这地方，分两步： 多等一会看看，能否进去，可能是启动慢； 等几分钟还不行，那就是有问题了。 一个思路是重新启动，然后快速的进入 virsh console，可能能看到 kernel 启动日志，可能有线索： virsh destroy vm-example; virsh create vm-example.xml virsh console vm-example 比如这里就打印了日志： [ 2.313329][ T1] Run /init as init process Fatal glibc error: CPU does not support x86-64-v2 # 这里就是关键点，cpu 不支持 x86-64-v2 [ 2.315336][ T1] Kernel panic - not syncing: Attempted to kill init! exitcode=0x00007f00 [ 2.316635][ T1] CPU: 0 PID: 1 Comm: init Not tainted 6.6.0-28.0.0.34.oe2403.x86_64 #1 [ 2.317855][ T1] Hardware name: QingCloud E3, BIOS rel-1.12.1-0-ga5cab58e9a3f-prebuilt.qemu.org 04/01/2014 [ 2.319339][ T1] Call Trace: 根因 日志里 Fatal glibc error: CPU does not support x86-64-v2 就是关键线索——CPU 不支持 x86-64-v2 指令集，导致 init 进程直接 panic。 ...