Swap auf Flashspeicher lässt sich nicht deaktivieren

[Ingo S]

Hallo zusammen

In unserem Cluster haben wir das Host OS auf Disk on Module Flash Speicher installiert. Standardmäßig legt Proxmox auf der Systemplatte auch eine Swap Partition an. Die Folge ist natürlich, wenn der Swap hin und wieder stark genutzt wird, das sich nach und nach der Flash verabschiedet und der Host irgendwann im Eimer ist.

Deshalb habe ich auf allen Hosts

root@vm-2:~# swapoff /dev/pve/swap

ausgeführt. Auf einem Host ist der komplett durch gelaufen, der Swap Space ist aus und aus der fstab entfernt.
Auf allen anderen Hosts bleiben wenige MB im Swap, auf ienem z.B. 31MB, auf einem anderen 140MB. Der Prozess swapoff ist seit 3 Tagen nicht beendet.
Das sieht dann z.B. so aus:


Genug RAM ist auch vorhanden, wenn der RAM nicht reicht bricht swapoff sowieso direkt ab.
Ich würde eigentlich auf der Maschine den Swap aus der fstab nehmen und die Maschine einfach neustarten, nur geht das gerade nicht.
In alten Threads zu swapoff bin ich auf einen Kernel Bug gestoßen, kann es sein das es den noch immer gibt?
https://www.spinics.net/lists/linux-mm/msg32556.html

Für Ideen um den Swap live loszuwerden wäre ich sehr dankbar.

 

[sb-jw]

Es sind 88% RAM belegt und 6G im KSM, der Host ist definitiv overcommited. Genug RAM sieht in meinen Augen anders aus, was vermutlich daher auch der Grund sein könnte, warum der Host swappen will.
Wenn du einmal ein kleines Problem bekommst und KSM nicht schnell genug ist oder eine VM eskaliert, dann wird vermutlich der OOM killer zuschlagen

Die SATA Doms kann ich dir aus Erfahrung heraus nicht empfehlen, die sind grundsätzlich für embedded Systeme geeignet die mehr lesen als schreiben. Ein Debian / PVE schreibt rund 5G pro Tag.

 

[Ingo S]

Ja das leuchtet mir ein.
Wir sind zur Zeit etwas Knapp mit RAM, weil uns ein großer Host ausgefallen ist. Da ist neue Hardware bereits auf dem Weg. Dennoch sehe ich etwas mehr als 3GB freien RAM, da sollten meiner Meinung nach die paar MB noch rein passen, auch wenn der Host ein wenig overcommited ist.

Wir haben mittlerweile eine ähnliche Erfahrung mit den DOMs. Allerdings sind die Supermicro DOM aber für 1.0 DWPD angegeben. Mit 5GB pro Tag wären wir nur bei 1/3 oder 1/6 der Schreibleistung. Der Swap obendrauf ist glaube ich das was zu viel ist.

Nichtsdestotrotz, ja, die DOMs werden wir mittelfristig abschaffen, mir ist das mittlerweile auch nicht mehr geheuer.

 

[fireon]

Ja sollte gehen, beende zuerst den swapoff Prozess und synce zuerst den Speicher (Default), dann beende den Swap:

sync ; sync ; sync ; swapoff -a

Du kannst auch ZRAM in der Zwischenzeit verwenden, das komprimiert den Ram, aber ohne ZFS als Filesystem, ohne Gewähr.

 

[Ingo S]

Leider hat das sync vorab auch nicht geholfen. Der swapoff Prozess läuft einfach ewig und lässt ein paar MB im swap.
Mit RAM Komprimierung spiele ich lieber nicht rum. Sobald die neue Hardware da ist, haben wir sowieso mehr als ausreichend RAM. Ich werde dann einfach die swap Partition austragen und den Server neu starten.

Im Grunde sehe ich das so: Ein Server der Zeug in den Swap wirft, hat zu wenig RAM.

 

[fireon]

Im Grunde sehe ich das so: Ein Server der Zeug in den Swap wirft, hat zu wenig RAM.

Nicht ganz richtig. Kommt auf die Einstellung der Swappiness an. Und Default ist sie auf 60. Das bedeutet der Server tendiert zum Swappen.