NTFS Inkrementiell?

[Thomas Stofer]

Hallo,
ich teste den BackUp Server gerade um ihn meinen Kunden anbieten zu können.
Nun habe ich in meiner Testumgebung eine VM mit einem Windows und zwei Linuxmaschinen laufen und Backups auf dem Backupserver erstellt.
Diese laufen regelmäßig und fehlerfrei.
Das BackUP der Linuxmaschine geht sehr schnell aber die Windows VM wird wohl nicht inkrementiell gesichert, oder übersehe ich was.
Hier mal das Log:

vzdump 10000 90501 901 --storage PBS01-BackUp --quiet 1 --mailnotification always --mailto info@ts-cs.com --node pve01 --mode snapshot


901: 2021-03-05 04:00:02 INFO: Starting Backup of VM 901 (qemu)
901: 2021-03-05 04:00:02 INFO: status = stopped
901: 2021-03-05 04:00:02 INFO: backup mode: stop
901: 2021-03-05 04:00:02 INFO: ionice priority: 7
901: 2021-03-05 04:00:02 INFO: VM Name: Win10Buero
901: 2021-03-05 04:00:02 INFO: include disk 'scsi0' 'SSDSpeicher:vm-901-disk-1' 150G
901: 2021-03-05 04:00:02 INFO: include disk 'scsi1' 'SSDSpeicher:vm-901-disk-2' 1605286976553
901: 2021-03-05 04:00:02 INFO: creating Proxmox Backup Server archive 'vm/901/2021-03-05T03:00:02Z'
901: 2021-03-05 04:00:02 INFO: starting kvm to execute backup task
901: 2021-03-05 04:00:04 INFO: started backup task '58286b70-0bf0-4389-a21e-421f7299cee4'
901: 2021-03-05 04:00:04 INFO: scsi0: dirty-bitmap status: created new
901: 2021-03-05 04:00:04 INFO: scsi1: dirty-bitmap status: created new
901: 2021-03-05 04:00:07 INFO:   0% (652.0 MiB of 1.6 TiB) in 3s, read: 217.3 MiB/s, write: 0 B/s
...
...
901: 2021-03-05 04:52:56 INFO:  99% (1.6 TiB of 1.6 TiB) in 52m 52s, read: 211.9 MiB/s, write: 0 B/s
901: 2021-03-05 04:53:34 INFO: 100% (1.6 TiB of 1.6 TiB) in 53m 30s, read: 441.7 MiB/s, write: 0 B/s
901: 2021-03-05 04:53:34 INFO: backup is sparse: 1.17 TiB (72%) total zero data
901: 2021-03-05 04:53:34 INFO: backup was done incrementally, reused 1.61 TiB (100%)
901: 2021-03-05 04:53:34 INFO: transferred 1.61 TiB in 3210 seconds (526.4 MiB/s)
901: 2021-03-05 04:53:34 INFO: stopping kvm after backup task
901: 2021-03-05 04:53:35 INFO: Finished Backup of VM 901 (00:53:33)

Hier noch das Log von der viel größeren Linux Debian VM:

90501: 2021-03-05 04:53:39 INFO: Starting Backup of VM 90501 (qemu)
90501: 2021-03-05 04:53:39 INFO: status = running
90501: 2021-03-05 04:53:39 INFO: VM Name: Debian
90501: 2021-03-05 04:53:39 INFO: include disk 'scsi0' 'SSDSpeicher:vm-90501-disk-0' 300G
90501: 2021-03-05 04:53:39 INFO: include disk 'scsi1' 'Speicher:vm-90501-disk-1' 3000G
90501: 2021-03-05 04:53:39 INFO: backup mode: snapshot
90501: 2021-03-05 04:53:39 INFO: ionice priority: 7
90501: 2021-03-05 04:53:39 INFO: creating Proxmox Backup Server archive 'vm/90501/2021-03-05T03:53:39Z'
90501: 2021-03-05 04:53:42 INFO: skipping guest-agent 'fs-freeze', agent configured but not running?
90501: 2021-03-05 04:53:44 INFO: started backup task '43fa9e7c-19d8-4d34-a271-6a2139634bce'
90501: 2021-03-05 04:53:44 INFO: resuming VM again
90501: 2021-03-05 04:53:44 INFO: scsi0: dirty-bitmap status: OK (7.0 GiB of 300.0 GiB dirty)
90501: 2021-03-05 04:53:44 INFO: scsi1: dirty-bitmap status: OK (3.9 GiB of 2.9 TiB dirty)
90501: 2021-03-05 04:53:44 INFO: using fast incremental mode (dirty-bitmap), 10.8 GiB dirty of 3.2 TiB total
90501: 2021-03-05 04:53:47 INFO:   1% (200.0 MiB of 10.8 GiB) in 3s, read: 66.7 MiB/s, write: 66.7 MiB/s
...
...
90501: 2021-03-05 04:56:43 INFO:  98% (10.7 GiB of 10.8 GiB) in 2m 59s, read: 46.7 MiB/s, write: 46.7 MiB/s
90501: 2021-03-05 04:56:46 INFO:  99% (10.8 GiB of 10.8 GiB) in 3m 2s, read: 52.0 MiB/s, write: 52.0 MiB/s
90501: 2021-03-05 04:56:49 INFO: 100% (10.8 GiB of 10.8 GiB) in 3m 5s, read: 1.3 MiB/s, write: 1.3 MiB/s
90501: 2021-03-05 04:56:55 INFO: backup was done incrementally, reused 3.22 TiB (99%)
90501: 2021-03-05 04:56:55 INFO: transferred 10.82 GiB in 191 seconds (58.0 MiB/s)
90501: 2021-03-05 04:56:55 INFO: Finished Backup of VM 90501 (00:03:16)

Ich habe die Zeilen zwischen 1% und 100% jeweils gelöscht...
Letzteres dauert dementsprechend auch nur 3min, die Windows VM fast eine Stunde. Dabei wird die gar nicht wirklich benutzt, es durften sich also kaum Daten verändert haben.

Ist das so wie vermutet, oder hat jemand ähnliche Erfahrungen?

Liebe Grüße
Thomas

 

[mira]

Poste bitte den Output von pveversion -v vom PVE Host und proxmox-backup-manager versions --verbose vom PBS.

 

[Thomas Stofer]

Hallo, gerne!

root@pve01:~# pveversion -v proxmox-ve: 6.3-1 (running kernel: 5.4.98-1-pve) pve-manager: 6.3-4 (running version: 6.3-4/0a38c56f) pve-kernel-5.4: 6.3-5 pve-kernel-helper: 6.3-5 pve-kernel-5.3: 6.1-6 pve-kernel-5.4.98-1-pve: 5.4.98-1 pve-kernel-4.15: 5.4-11 pve-kernel-5.3.18-3-pve: 5.3.18-3 pve-kernel-5.3.10-1-pve: 5.3.10-1 pve-kernel-4.15.18-23-pve: 4.15.18-51 pve-kernel-4.15.18-19-pve: 4.15.18-45 pve-kernel-4.15.18-14-pve: 4.15.18-39 pve-kernel-4.15.18-9-pve: 4.15.18-30 pve-kernel-4.15.17-1-pve: 4.15.17-9 ceph-fuse: 12.2.11+dfsg1-2.1+b1 corosync: 3.1.0-pve1 criu: 3.11-3 glusterfs-client: 5.5-3 ifupdown: 0.8.35+pve1 ksm-control-daemon: 1.3-1 libjs-extjs: 6.0.1-10 libknet1: 1.20-pve1 libproxmox-acme-perl: 1.0.7 libproxmox-backup-qemu0: 1.0.3-1 libpve-access-control: 6.1-3 libpve-apiclient-perl: 3.1-3 libpve-common-perl: 6.3-4 libpve-guest-common-perl: 3.1-5 libpve-http-server-perl: 3.1-1 libpve-storage-perl: 6.3-7 libqb0: 1.0.5-1 libspice-server1: 0.14.2-4~pve6+1 lvm2: 2.03.02-pve4 lxc-pve: 4.0.6-2 lxcfs: 4.0.6-pve1 novnc-pve: 1.1.0-1 proxmox-backup-client: 1.0.8-1 proxmox-mini-journalreader: 1.1-1 proxmox-widget-toolkit: 2.4-5 pve-cluster: 6.2-1 pve-container: 3.3-4 pve-docs: 6.3-1 pve-edk2-firmware: 2.20200531-1 pve-firewall: 4.1-3 pve-firmware: 3.2-2 pve-ha-manager: 3.1-1 pve-i18n: 2.2-2 pve-qemu-kvm: 5.2.0-2 pve-xtermjs: 4.7.0-3 pve-zsync: 2.0-4 qemu-server: 6.3-5 smartmontools: 7.1-pve2 spiceterm: 3.1-1 vncterm: 1.6-2 zfsutils-linux: 2.0.3-pve1 root@pve01:~# proxmox-backup 1.0-4 running kernel: 5.4.98-1-pve proxmox-backup-server 1.0.8-1 running version: 1.0.8 pve-kernel-5.4 6.3-6 pve-kernel-helper 6.3-6 pve-kernel-5.4.98-1-pve 5.4.98-1 pve-kernel-5.4.65-1-pve 5.4.65-1 ifupdown2 3.0.0-1+pve3 libjs-extjs 6.0.1-10 proxmox-backup-docs 1.0.8-1 proxmox-backup-client 1.0.8-1 proxmox-mini-journalreader 1.1-1 proxmox-widget-toolkit 2.4-5 pve-xtermjs 4.7.0-3 smartmontools 7.1-pve2 zfsutils-linux 2.0.3-pve2 root@PBS01:~#

 

[abma]

das liegt vermutlich am backupmodus:

901: 2021-03-05 04:00:02 INFO: backup mode: stop

soweit ich weiss wird das dirty-bitmap beim stoppen und migrieren von vm's gelöscht, d.h. alle daten müssen dann auch gelesen werden. wenn du "snapshot" als backupmodus einstellst sollte es auch inkrementell klappen.

 

[Thomas Stofer]

Hallo,

das steht auch für alle VMS auf snapshot, daran konnte es nicht liegen, dann wäre es ja bei allen so gewesen...


In den Einstellungen der VM finde ich nichts...

Aber lustig, in den neuen Loggs steht auch Backup mode snapshot....
Es klappt wohl auch!
Das einzige was noch seltsam ist:
Für die Windows VM benötigt das Backup fast eine Stunde, während es bei der viel größeren Linux VM (Debian, ext4) nur Minuten dauert.
Aber damit könnte ich wohl leben.
Ich werde das noch weiter testen, aber stelle das auf solved.

Vielen Dank!
Thomas

 

[Thomas Stofer]

Hallo,
ich möchte an dieser Stelle noch anmerken, dass die Dauer des Backups ebenso wie die Größe jetzt kein Problem mehr ist. Der Fehler war schlicht und ergreifend, dass der dirty-bitmap status nur bei laufenden VMs funtkioniert.
Jetzt ist alles super.
Ich habe das irgend wo später auch gelesen, aber ich finde es nicht mehr. Kann jemand noch eine Quelle dazu liefern?

 

[fabian]

Hallo,
ich möchte an dieser Stelle noch anmerken, dass die Dauer des Backups ebenso wie die Größe jetzt kein Problem mehr ist. Der Fehler war schlicht und ergreifend, dass der dirty-bitmap status nur bei laufenden VMs funtkioniert.
Jetzt ist alles super.
Ich habe das irgend wo später auch gelesen, aber ich finde es nicht mehr. Kann jemand noch eine Quelle dazu liefern?

ja, VMs die aus sind haben keine dirty bitmaps. derzeit werden die bitmaps bei einer migration mit-migriert, sowie bei einem reboot in der VM erhalten. bald sollte auch suspend/resume funktionieren - damit laesst sich dann auch der node rebooten oder die VM laengere zeit "ausgeschaltetet" lassen. bei kompletten neustarts (ueber PVE, nicht in der VM) wegen nicht-hotplug aenderungen oder um machine-version zu wechseln muss aber immer einmal alles neu eingelesen werden..