Das >100% ist der Host-RSS vom qemu-Prozess, da steckt der ganze Overhead mit drin, deshalb geht das auch mal über 100. Check mal, ob auf genau diesen VMs der QEMU-Guest-Agent läuft bzw. in den VM-Optionen überhaupt aktiviert ist (qm agent <vmid> ping). Läuft der Agent, zeigt PVE den vom Gast gemeldeten Wert, sonst zeigt PVE den Host-Verbrauch, und der bleibt bei Windows dauerhaft oben, weil Windows den einmal angefassten RAM nicht zurückgibt (Standby/Cache). Passt auch zu deinem Screenshot: im Task-Manager 3 von 16 GB, aber die 16 GB waren halt schon mal alle angefasst.
Sorgen würd ich mir da keine machen, solange der Host nicht anfängt zu swappen. Welche PVE-Version läuft bei dir?