IO Delay Probleme

Discussion in 'Proxmox VE (Deutsch)' started by sQuote.de Thorsten, Dec 3, 2018.

  1. sQuote.de Thorsten

    sQuote.de Thorsten New Member
    Proxmox VE Subscriber

    Joined:
    Dec 3, 2018
    Messages:
    10
    Likes Received:
    0
    Guten Morgen Zusammen,

    folgende Probleme treten aktuell bei mir auf:
    IO Delay auf 2-3% Server Reagieren manchmal sehr träge.

    Meine Hardware:
    CPU(s)
    32 x AMD Ryzen Threadripper 1950X 16-Core Processor (1 Socket)

    Kernel Version
    Linux 4.15.18-9-pve #1 SMP PVE 4.15.18-30 (Thu, 15 Nov 2018 13:32:46 +0100)

    PVE Manager Version
    pve-manager/5.2-12/ba196e4b

    RAM
    128GB DDR4

    Festplatten:
    2x4TB HDD Raid1
    2x480 GB NVME ohne Raid

    es ist kein HardwareRaid Controller verbaut.

    Der IO Delay ist dauerhaft. Wenn ich die VM und LXC Stoppe geht er fast auf 0% aber eben nur fast. Ich habe die Festplatten schon geprüft. Leider ohne Erfolg.

    Ausgabe:
    root@vps-01:~# pveperf
    CPU BOGOMIPS: 217574.40

    REGEX/SECOND: 2548149
    HD SIZE: 186.74 GB (/dev/mapper/pve-root)
    BUFFERED READS: 89.92 MB/sec
    AVERAGE SEEK TIME: 33.28 ms
    FSYNCS/SECOND: 11.94
    DNS EXT: 23.68 ms

    Ich hoffe Ihr könnt mir helfen.

    Vielen Dank
    Thorsten
     
  2. Markus Thormann

    Joined:
    Oct 25, 2015
    Messages:
    295
    Likes Received:
    13
    Kein Hardware raid? Zfs? Oder mit Linux Board Mitteln? Ggf. Ssd für Cache nachrüsten. Wie viele Maschinen laufen auf dem raid 1?
     
  3. sQuote.de Thorsten

    sQuote.de Thorsten New Member
    Proxmox VE Subscriber

    Joined:
    Dec 3, 2018
    Messages:
    10
    Likes Received:
    0
    Hallo,

    es ist kein Hardware Raid vorhanden. Die Installation basiert auf einem Normalen Debian System. SSD für cache nachrüsten kann ich gerne mal testen. Aktuell laufen auf dem Raid 1 5 Maschinen.

    Grüße
    Thorsten
     
  4. Alwin

    Alwin Proxmox Staff Member
    Staff Member

    Joined:
    Aug 1, 2017
    Messages:
    1,741
    Likes Received:
    151
    Welches Model sind den die Platten?
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Click to expand...
  5. sQuote.de Thorsten

    sQuote.de Thorsten New Member
    Proxmox VE Subscriber

    Joined:
    Dec 3, 2018
    Messages:
    10
    Likes Received:
    0
    Aktuell sind folgende Platten verbaut:

    Model Family: Western Digital Red
    Device Model: WDC WD40EFRX-68WT0N0

    md1 : active raid1 sda3[0] sdb3[1]
    3904884736 blocks super 1.2 [2/2] [UU]
    bitmap: 10/30 pages [40KB], 65536KB chunk

    md0 : active raid1 sda2[0] sdb2[1]
    1998848 blocks super 1.2 [2/2] [UU]
     
    #5 sQuote.de Thorsten, Dec 3, 2018
    Last edited: Dec 3, 2018
  6. Alwin

    Alwin Proxmox Staff Member
    Staff Member

    Joined:
    Aug 1, 2017
    Messages:
    1,741
    Likes Received:
    151
    Die Platten sind einfach langsam.

    Code:
    fio --ioengine=libaio --filename=/dev/sdx --direct=1 --sync=1 --rw=write --bs=4K
    --numjobs=1 --iodepth=1 --runtime=60 --time_based --group_reporting --name=fio
    --output-format=terse,json,normal --output=fio.log --bandwidth-log 
    Teste eine der Disks mit fio (Achtung, Daten gehen verloren), mit der obigen Kommandozeile. Zum Vergleich kannst du auch mal mit 'bs=4M' testen (Ceph schreibt 4 MB Objekte, abgesehen von der Bluestore DB/WAL).
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Click to expand...
  7. MrPurple

    MrPurple New Member

    Joined:
    Sep 12, 2018
    Messages:
    10
    Likes Received:
    1
    Die RED sind faik aufgrund ihrer niedrigen Drehzahl (5400rpm) nicht so schnell, da sie ja auch als sparsame platten verkauft werden.
    Übrigens: ich weis nicht ob es noch immer so ist, aber früher hatten die REDs das problem, dass sie einen kurzen timeout für den parking head ab werk konfiguriert hatten was die lebensdauer teils auf unter 1 Jahr reduziert hat.

    EDIT: Alwin war schneller :(
     
    Alwin likes this.
  8. sQuote.de Thorsten

    sQuote.de Thorsten New Member
    Proxmox VE Subscriber

    Joined:
    Dec 3, 2018
    Messages:
    10
    Likes Received:
    0
    Hallo Zusammen,

    vielen Dank, macht es denn sinn, auf die HGST Deskstar 7K4000 zu wechseln und diese im SWRaid1 laufen zu lassen?

    Macht es dann auch noch sinn, eine SSD für den Cache einbauen zu lassen?

    Grüße
    Thorsten

    PS. Habt ihr eine Bessere Idee auf die ich momentan nicht komme?
     
  9. sQuote.de Thorsten

    sQuote.de Thorsten New Member
    Proxmox VE Subscriber

    Joined:
    Dec 3, 2018
    Messages:
    10
    Likes Received:
    0
    Hallo nochmal,

    könnt ihr mir hierzu noch etwas sagen? Ich möchte das einfach gelöst haben^^

    Vielen Dank
    Grüße
    Thorsten
     
  10. Alwin

    Alwin Proxmox Staff Member
    Staff Member

    Joined:
    Aug 1, 2017
    Messages:
    1,741
    Likes Received:
    151
    Da gibt's nicht wirklich etwas hinzuzufügen, mag sein das die Deskstar schneller als die RED ist, aber glücklich wirst wahrscheinlich damit nicht werden. Lieber alle VMs auf ein SSD raid (ZFS, hardware RAID) packen und die HDDs für Backups uns Templates verwenden.
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Click to expand...
  11. sQuote.de Thorsten

    sQuote.de Thorsten New Member
    Proxmox VE Subscriber

    Joined:
    Dec 3, 2018
    Messages:
    10
    Likes Received:
    0
    Guten Abend,

    okay, wenn ich alle auf die SSD Packe, wäre kein Problem, ist es denn schlimm, wenn Proxmox noch auf den HDD´s liegt?

    Grüße
    Thorsten
     
  12. Alwin

    Alwin Proxmox Staff Member
    Staff Member

    Joined:
    Aug 1, 2017
    Messages:
    1,741
    Likes Received:
    151
    Das musst du ausprobieren. Bei mir liegt PVE auf einer kleinen SSD, die VM/CT auf einer NVMe und die HDD nutze ich fuer Backup oder Ablage.
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Click to expand...
  13. MrPurple

    MrPurple New Member

    Joined:
    Sep 12, 2018
    Messages:
    10
    Likes Received:
    1
    Ich habe mich dies auch schon in einem anderen Thread gefragt, scheint aber niemand gewusst zu haben: PVE auf HDD oder SSD? Was wird IO intensives von PVE geschrieben? PVE selbst dürfte ja kaum IO haben, damit bringt eine SSD doch keine Vorteile, oder?
     
  14. tschanness

    tschanness Member

    Joined:
    Oct 30, 2016
    Messages:
    275
    Likes Received:
    19
    PVE auf Enterprise SSD oder HDD. Es wird relativ viel geschrieben, aber das meiste ist nicht performancekritisch. Bei mir 3 Server mit 2.5" HDDs für PVE; keine Probleme.
     
  15. MrPurple

    MrPurple New Member

    Joined:
    Sep 12, 2018
    Messages:
    10
    Likes Received:
    1
    Enterprise ist eh klar. Was wird denn geschrieben? Logs? Welche Größe ist dann für eine SSD/HDD einzuplanen? ich würden nämlich sonst das kleinste nehmen was ich bekommen kann. 64GB oä.
     
  16. tschanness

    tschanness Member

    Joined:
    Oct 30, 2016
    Messages:
    275
    Likes Received:
    19
    64GB sollten reichen.
    IIRC ne ganze menge logs. Findet man hier iwo im Forum. Glaube es ging (mal wieder) um die Installation auf nem USB Stick.
     
  1. This site uses cookies to help personalise content, tailor your experience and to keep you logged in if you register.
    By continuing to use this site, you are consenting to our use of cookies.
    Dismiss Notice