[SOLVED] zfspool randvoll !

[proxifoxi]

Hi, habe hier gerade ein mächtiges Problem,
laut der Übersicht vom zfspool (2x KIOXIA nvme) ist dieser zu 99.86% (3.29TB von 3.00TB) belegt, was aber nicht stimmt, denn der tatsächlich belegte Platz liegt bei nur 1.7TB.

Wie kann ich das Fixen giubt es da einen speziellen TRIM Befehl oder einen anderen Befehl um hier mal aufzuräumen ?


Grüße
eure
Foxi

 

[Falk R.]

Hi Foxi, ich nehme an das ist ein Mirror?
Wo siehst du denn die Belegung mit 3,29 von 3TB?
Und wo liest du die 1,7 TB aus?

 

[proxifoxi]

Hi,
richtig ein Raid 1
ich wähle links im menü meinen zfspool "zfspool_data" und klicke dann im rechten Bereich auf Übersicht
Und auf die 1.7TB komme ich wenn ich auf VM Disks in diesem Fenster klicke und das grob zusammenrechne

 

[Dunuin]

Was sagen denn zpool list -v und zfs list -o space? Ich würde tippen der ist wirklich zu 99,9% voll wegen Snapshots und/oder Refreservation.

 

[proxifoxi]

@Dunuin

NAME                                         SIZE  ALLOC   FREE  CKPOINT  EXPANDSZ   FRAG    CAP  DEDUP    HEALTH  ALTROOT
zfspool_data                                 3.09T  2.22T   898G        -         -    30%    71%  1.00x    ONLINE  -         
mirror-0                                     3.09T  2.22T   898G        -         -    30%  71.6%      -    ONLINE             
nvme-KIOXIA_KCD71RUG3T84_3250A19CTQN8-part4  3.10T      -      -        -         -      -      -      -    ONLINE             
nvme-KIOXIA_KCD71RUG3T84_3250A19HTQN8-part4  3.10T      -      -        -         -      -      -      -    ONLINE

NAME                         AVAIL   USED  USEDSNAP  USEDDS  USEDREFRESERV  USEDCHILD                                           
zfspool_data                4.25G  2.99T     12.9G     96K             0B      2.98T                                           
zfspool_data/vm-300-disk-0   211G   209G        8K   2.75G           206G         0B                                           
zfspool_data/vm-301-disk-0   207G   261G     3.94G   53.4G           203G         0B                                           
zfspool_data/vm-302-disk-0   250G   508G     74.9G    187G           246G         0B                                           
zfspool_data/vm-302-disk-1   144G  2.02T      989G    942G           140G         0B

 

[Dunuin]

Dann gehen ja zusätzlich zu den 1186GB an Daten nochmal 1081GB für Snapshots drauf und weitere 795GB wegen fehlendem Discard/Trim oder weil du kein Thin-Provisioning für den ZFS Storage aktiviert hattest.

Also alte Snapshots löschen und in den VMs einmal ordentlich trimmen, nachdem du sichergestellt hast, dass da für die virtuelle Disk auch die Discard-Checkbox gesetzt ist. Aber ich vermute die Refreservation hast du eher wegen Thick-Provisioning.

 

[proxifoxi]

tja das ist ein Problem....
Beide VMs bieten mir keine trim funktion an... gibt´s da noch eine andere Möglichkeit ?
Steinalt Linux aber halt doch noch wichtig !

 

[Dunuin]

Was läuft denn da? Eigentlich kannst du alles trimmen...Linux, Unix, Win, ...
Wenn du aber für den Pool kein Thin-Provisioning aktiviert hättest, dann würde da auch ein Trim nichts wegnehmen.

Ich würde erstmal schnell Snapshots löschen. Ist der Pool erstmal zu 100% voll kann da garnichts mehr mit Löschen gehen. Dann würde es heißen neue Disks kaufen und Raid10 draus machen oder Pool zerstören und neu anfangen...

 

[proxifoxi]

Es sind keine Snapshots vorhanden, zumindestens sehe ich keine wenn ich die VM auswähle und rfechts Snapshots auswähle, da ist nur der aktuelle Status zu sehen !
Habe gerade mal eine Template VM gelöscht und bin nun bei 93.05% (3.07 von 3.30TB)

 

[Dunuin]

Dann mach doch mal zfs list -t snapshot. Dann sollte er ja die Snapshots anzeigen.
Eventuell noch ein Auto-Snapshot-Script am laufen, was du vergessen hast?

 

[proxifoxi]

Ach herje.....was ist das denn alles ???
Tonennweise
zfs-auto-snap_frequent
zfs-auto-snap_hourly
zfs-auto-snap_daily
zfs-auto-snap_weekly
zfs-auto-snap_monthly

Files !!!

Wie kann ich die denn löschen ?

 

[Dunuin]

Ja, dann hast du wohl mal eines der vielen Auto-Snapshot-Scripts installiert und dann vergessen. Würde ich das erstmal suchen, weil dir das ja sonst fleißig im Hintergrund neue Snapshots erstellen wird.

Snapshots zerstörst du genau so wie auch Datasets und Zvols mit dem "zfs destroy" Befehl. Nur nicht vertippen sonst ist auch das ganze Zvol weg...
Also z.B. ein "zfs destroy zfspool_data/vm-300-disk-0@NameDesSnapshots" ausführen aber NICHT "zfs destroy zfspool_data/vm-300-disk-0"...bei letzterem wäre dann die virtuelle Disk weg.

Wenn du so viele Snapshots hast wäre es vmtl. komfortabler das Script zu benutzen um die Snapshots zu entfernen. Die können üblicherweise nicht nur automatisch Snapshots erstellen sondern die auch wieder löschen.

 

[proxifoxi]

@Dunuin
@Falk R.

Ein RIESEN GROßES DAAANKEEEE an euch beide !!!!

Auslastung ist NUR noch bei 50% und das "BÖSE" Script ist entfernt...

Viele liebe Grüße
Eure
Foxi

 

[proxifoxi]

Guten Morgen, sorry muss hier doch noch einmal fragen,
gibt es eine Möglichkeit dem zfs destroy zu sagen das ehr einen bestimmten zeitraum löschen soll ?
Habe hier jetzt auf meinem 2. Server serh viele kleine VMs und somit 4607 von diesen "blöden" Snapshotfiles die alle einzeln zu löschen wäre ja eine Marathonaufgabe.
Ich habe es schon versucht mit

zfs destroy zfspool_SSD/vm-150-disk-0@zfs-auto-snap_frequent-*

klappt nicht da bringt er mir

could not find any snapshots to destroy; check snapshot names.

Jemand eine ev. bessere Idee ?

 

[Falk R.]

Hi, bei den Scripten sollte auch eins dabei sein, was das massenlöschen für dich macht.

 

[proxifoxi]

ok habe es hinbekommen (Die erste Tasse Kaffee hatte noch gefehlt )

Der Befehl hierfür erstmal zum prüfen:

zfs list -t snapshot -H -o name | grep "2023" | xargs -n1 echo

hier bekommt man nun alle Snapshots aus 2023 angezeigt (waren bei mir 4706)
wollt ihr z.b. nur den September aus 2023 haben dann 'grep "2023-09" ' eingeben usw. usw.

zum LÖSCHEN der ganzen Snapshots (ACHTUNG NICHT VERTIPPEN - KEINE HAFTUNG)

zfs list -t snapshot -H -o name | grep "2023" | xargs -n1 zfs destroy

Ihr könnt dann ganz schnell sehen wie Ihr wieder Platz in eurem ZFS Pool bekommt.