Performance problem VM-Win2019-Server on proxmox 6.4.x

Den SCSI Controller kannst du auf dem default Wert belassen.
Ich meinte deinen 2. Screenshot - also wie du die virtuelle Disks der VM zur Verfügung stellst.

Beim mir ist hier alles auf SCSI :

1634056028422.png




Du könntest mal folgendes versuchen:
  1. Dreh die VM ab.
  2. Hänge die Disk aus.
    1634056158819.png
  3. Danach hängst du die "unused disk" als SCSI disk wieder ein und bootest mal.
 

Attachments

  • 1634056151821.png
    1634056151821.png
    14.7 KB · Views: 2
Moin,

1. zpool upgrade rpool hat keine Verbesserung diesbezüglich gebracht.

2. habe gestern die v.HD als SCSI-Platte gemountet. Davor war sie als virtio-Block gemountet.
von gestern 18:00 Uhr bis heute 7:00 Uhr habe ich ~20 Events wegen zu langer Schreibraten (15...35 sek,) für 4...8kByte.

Also bisher keine Lösung ....
 
Okay, zwei Dinge fallen mir noch spontan ein:
1) Kannst du direkt am Proxmox Hypervisor die 4 & 8 kByte Schreibraten testen, damit wir einen Vergleich haben "echt" vs "VM"?
2) Ich verwende bei meinem Proxmox Servern noch folgende Linux Konfiguration: https://gist.github.com/sergey-dryabzhinsky/bcc1a15cb7d06f3d4606823fcc834824

Vor allem dieser Part ist relevant für I/O auf der Platte:
Code: 
##
# Adjust vfs cache
# https://lonesysadmin.net/2013/12/22/better-linux-disk-caching-performance-vm-dirty_ratio/
# Decriase dirty cache to faster flush on disk
vm.dirty_background_ratio = 5
vm.dirty_ratio = 10
 
showiproute said:
Okay, zwei Dinge fallen mir noch spontan ein:
1) Kannst du direkt am Proxmox Hypervisor die 4 & 8 kByte Schreibraten testen, damit wir einen Vergleich haben "echt" vs "VM"?
2) Ich verwende bei meinem Proxmox Servern noch folgende Linux Konfiguration: https://gist.github.com/sergey-dryabzhinsky/bcc1a15cb7d06f3d4606823fcc834824

Vor allem dieser Part ist relevant für I/O auf der Platte:
Code: 
##
# Adjust vfs cache
# https://lonesysadmin.net/2013/12/22/better-linux-disk-caching-performance-vm-dirty_ratio/
# Decriase dirty cache to faster flush on disk
vm.dirty_background_ratio = 5
vm.dirty_ratio = 10
Click to expand...
Moin,
habe die o.g. Konfiguration angewendet - Datei /etc/sysctl.d/tune-pve.conf mit Inhalt erzeugt und Proxmox neu gestartet
Dann habe ich einige Schreibtests durchgeführt. Was ich bei 4k/8k genau machen muß, bin ich unsicher.
etwa so ? dd if=/dev/zero of=tempfile bs=512 count=8 conv=fdatasync notrunc

Code: 
root@pve:~# dd if=/dev/zero of=tempfile bs=1M count=1024 conv=fdatasync,notrunc
1024+0 Datensätze ein
1024+0 Datensätze aus
1073741824 bytes (1,1 GB, 1,0 GiB) copied, 1,27092 s, 845 MB/s
root@pve:~# echo 3 | sudo tee /proc/sys/vm/drop_caches
3
root@pve:~# dd if=tempfile of=/dev/null bs=1M count=1024
1024+0 Datensätze ein
1024+0 Datensätze aus
1073741824 bytes (1,1 GB, 1,0 GiB) copied, 0,685671 s, 1,6 GB/s
root@pve:~# dd if=tempfile of=/dev/null bs=1M count=1024
1024+0 Datensätze ein
1024+0 Datensätze aus
1073741824 bytes (1,1 GB, 1,0 GiB) copied, 0,666841 s, 1,6 GB/s
## Test mit kB
root@pve:~# rm tempfile
root@pve:~# 
root@pve:~# dd if=/dev/zero of=tempfile bs=512 count=16 conv=fdatasync,notrunc
16+0 Datensätze ein
16+0 Datensätze aus
8192 bytes (8,2 kB, 8,0 KiB) copied, 0,019295 s, 425 kB/s
root@pve:~# echo 3 | sudo tee /proc/sys/vm/drop_caches
3
root@pve:~# dd if=/dev/zero of=tempfile bs=512 count=16
16+0 Datensätze ein
16+0 Datensätze aus
8192 bytes (8,2 kB, 8,0 KiB) copied, 0,000412133 s, 19,9 MB/s
root@pve:~# dd if=/dev/zero of=tempfile bs=512 count=16
16+0 Datensätze ein
16+0 Datensätze aus
8192 bytes (8,2 kB, 8,0 KiB) copied, 0,000410667 s, 19,9 MB/s
 
Last edited:
showiproute said:
Wobei --filename= der Datenträger, den du testen möchtest.
Click to expand...
Ergebissse:
Code: 
####### /dev/sda
fio --ioengine=libaio --direct=1 --sync=1 --rw=read --bs=4K --numjobs=1 --iodepth=1 --runtime=60 --time_based --name seq_read --filename=/dev/sda
seq_read: (g=0): rw=read, bs=(R) 4096B-4096B, (W) 4096B-4096B, (T) 4096B-4096B, ioengine=libaio, iodepth=1
fio-3.12
Starting 1 process
Jobs: 1 (f=1): [R(1)][100.0%][r=44.5MiB/s][r=11.4k IOPS][eta 00m:00s]
seq_read: (groupid=0, jobs=1): err= 0: pid=30719: Thu Oct 14 15:46:08 2021
  read: IOPS=10.8k, BW=42.2MiB/s (44.2MB/s)(2529MiB/60001msec)
    slat (usec): min=5, max=366, avg= 8.15, stdev= 1.89
    clat (nsec): min=941, max=148367k, avg=83324.40, stdev=542922.04
     lat (usec): min=65, max=148375, avg=91.64, stdev=542.96
    clat percentiles (usec):
     |  1.00th=[   73],  5.00th=[   75], 10.00th=[   76], 20.00th=[   76],
     | 30.00th=[   77], 40.00th=[   78], 50.00th=[   78], 60.00th=[   79],
     | 70.00th=[   79], 80.00th=[   80], 90.00th=[   81], 95.00th=[   83],
     | 99.00th=[   95], 99.50th=[  147], 99.90th=[  371], 99.95th=[  545],
     | 99.99th=[13042]
   bw (  KiB/s): min=15208, max=46704, per=99.94%, avg=43137.40, stdev=5436.44, samples=120
   iops        : min= 3802, max=11676, avg=10784.28, stdev=1359.10, samples=120
  lat (nsec)   : 1000=0.01%
  lat (usec)   : 4=0.01%, 10=0.01%, 20=0.01%, 50=0.01%, 100=99.20%
  lat (usec)   : 250=0.46%, 500=0.28%, 750=0.04%, 1000=0.01%
  lat (msec)   : 2=0.01%, 4=0.01%, 10=0.01%, 20=0.01%, 50=0.01%
  lat (msec)   : 100=0.01%, 250=0.01%
  cpu          : usr=4.48%, sys=15.99%, ctx=647703, majf=8, minf=34
  IO depths    : 1=100.0%, 2=0.0%, 4=0.0%, 8=0.0%, 16=0.0%, 32=0.0%, >=64=0.0%
     submit    : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     complete  : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     issued rwts: total=647445,0,0,0 short=0,0,0,0 dropped=0,0,0,0
     latency   : target=0, window=0, percentile=100.00%, depth=1

Run status group 0 (all jobs):
   READ: bw=42.2MiB/s (44.2MB/s), 42.2MiB/s-42.2MiB/s (44.2MB/s-44.2MB/s), io=2529MiB (2652MB), run=60001-60001msec

Disk stats (read/write):
  sda: ios=645782/707, merge=0/0, ticks=56102/14494, in_queue=20268, util=100.00%
 
 ################### /dev/sdb
 fio --ioengine=libaio --direct=1 --sync=1 --rw=read --bs=4K --numjobs=1 --iodepth=1 --runtime=60 --time_based --name seq_read --filename=/dev/sdb
seq_read: (g=0): rw=read, bs=(R) 4096B-4096B, (W) 4096B-4096B, (T) 4096B-4096B, ioengine=libaio, iodepth=1
fio-3.12
Starting 1 process
Jobs: 1 (f=1): [R(1)][100.0%][r=41.3MiB/s][r=10.6k IOPS][eta 00m:00s]
seq_read: (groupid=0, jobs=1): err= 0: pid=32507: Thu Oct 14 15:48:16 2021
  read: IOPS=10.8k, BW=42.3MiB/s (44.3MB/s)(2536MiB/60001msec)
    slat (usec): min=5, max=7965, avg= 8.51, stdev=10.09
    clat (nsec): min=1108, max=138660k, avg=82713.61, stdev=489116.84
     lat (usec): min=66, max=138679, avg=91.43, stdev=489.26
    clat percentiles (usec):
     |  1.00th=[   74],  5.00th=[   75], 10.00th=[   76], 20.00th=[   77],
     | 30.00th=[   78], 40.00th=[   78], 50.00th=[   78], 60.00th=[   79],
     | 70.00th=[   79], 80.00th=[   80], 90.00th=[   81], 95.00th=[   84],
     | 99.00th=[   94], 99.50th=[  135], 99.90th=[  367], 99.95th=[  506],
     | 99.99th=[ 7111]
   bw (  KiB/s): min=25752, max=46536, per=100.00%, avg=43301.17, stdev=4359.43, samples=119
   iops        : min= 6438, max=11634, avg=10825.23, stdev=1089.88, samples=119
  lat (usec)   : 2=0.01%, 4=0.01%, 10=0.01%, 20=0.01%, 50=0.01%
  lat (usec)   : 100=99.23%, 250=0.41%, 500=0.30%, 750=0.03%, 1000=0.01%
  lat (msec)   : 2=0.01%, 4=0.01%, 10=0.01%, 20=0.01%, 50=0.01%
  lat (msec)   : 100=0.01%, 250=0.01%
  cpu          : usr=4.06%, sys=17.16%, ctx=649484, majf=0, minf=19
  IO depths    : 1=100.0%, 2=0.0%, 4=0.0%, 8=0.0%, 16=0.0%, 32=0.0%, >=64=0.0%
     submit    : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     complete  : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     issued rwts: total=649294,0,0,0 short=0,0,0,0 dropped=0,0,0,0
     latency   : target=0, window=0, percentile=100.00%, depth=1

Run status group 0 (all jobs):
   READ: bw=42.3MiB/s (44.3MB/s), 42.3MiB/s-42.3MiB/s (44.3MB/s-44.3MB/s), io=2536MiB (2660MB), run=60001-60001msec

Disk stats (read/write):
  sdb: ios=647854/645, merge=0/0, ticks=55214/17184, in_queue=21732, util=100.00%
############ /dev/sdc
fio --ioengine=libaio --direct=1 --sync=1 --rw=read --bs=4K --numjobs=1 --iodepth=1 --runtime=60 --time_based --name seq_read --filename=/dev/sdc
seq_read: (g=0): rw=read, bs=(R) 4096B-4096B, (W) 4096B-4096B, (T) 4096B-4096B, ioengine=libaio, iodepth=1
fio-3.12
Starting 1 process
Jobs: 1 (f=1): [R(1)][100.0%][r=44.1MiB/s][r=11.3k IOPS][eta 00m:00s]
seq_read: (groupid=0, jobs=1): err= 0: pid=2565: Thu Oct 14 15:51:05 2021
  read: IOPS=10.6k, BW=41.4MiB/s (43.5MB/s)(2487MiB/60001msec)
    slat (usec): min=5, max=2606, avg= 8.43, stdev= 3.82
    clat (nsec): min=1442, max=176351k, avg=84680.68, stdev=599964.48
     lat (usec): min=66, max=176359, avg=93.30, stdev=600.01
    clat percentiles (usec):
     |  1.00th=[   74],  5.00th=[   75], 10.00th=[   76], 20.00th=[   77],
     | 30.00th=[   77], 40.00th=[   78], 50.00th=[   78], 60.00th=[   79],
     | 70.00th=[   79], 80.00th=[   80], 90.00th=[   81], 95.00th=[   83],
     | 99.00th=[   95], 99.50th=[  149], 99.90th=[  388], 99.95th=[  586],
     | 99.99th=[15795]
   bw (  KiB/s): min=19664, max=46706, per=99.92%, avg=42408.14, stdev=5802.91, samples=120
   iops        : min= 4916, max=11676, avg=10601.91, stdev=1450.71, samples=120
  lat (usec)   : 2=0.01%, 10=0.01%, 50=0.01%, 100=99.19%, 250=0.42%
  lat (usec)   : 500=0.31%, 750=0.04%, 1000=0.01%
  lat (msec)   : 2=0.01%, 4=0.01%, 10=0.01%, 20=0.01%, 50=0.01%
  lat (msec)   : 100=0.01%, 250=0.01%
  cpu          : usr=3.77%, sys=16.79%, ctx=636819, majf=0, minf=19
  IO depths    : 1=100.0%, 2=0.0%, 4=0.0%, 8=0.0%, 16=0.0%, 32=0.0%, >=64=0.0%
     submit    : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     complete  : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     issued rwts: total=636658,0,0,0 short=0,0,0,0 dropped=0,0,0,0
     latency   : target=0, window=0, percentile=100.00%, depth=1

Run status group 0 (all jobs):
   READ: bw=41.4MiB/s (43.5MB/s), 41.4MiB/s-41.4MiB/s (43.5MB/s-43.5MB/s), io=2487MiB (2608MB), run=60001-60001msec

Disk stats (read/write):
  sdc: ios=635030/767, merge=0/0, ticks=57282/20366, in_queue=27772, util=100.00%
########## mal mit 8kB
fio --ioengine=libaio --direct=1 --sync=1 --rw=read --bs=8K --numjobs=1 --iodepth=1 --runtime=60 --time_based --name seq_read --filename=/dev/sdc
seq_read: (g=0): rw=read, bs=(R) 8192B-8192B, (W) 8192B-8192B, (T) 8192B-8192B, ioengine=libaio, iodepth=1
fio-3.12
Starting 1 process
Jobs: 1 (f=1): [R(1)][100.0%][r=70.4MiB/s][r=9016 IOPS][eta 00m:00s]
seq_read: (groupid=0, jobs=1): err= 0: pid=4394: Thu Oct 14 15:53:04 2021
  read: IOPS=9231, BW=72.1MiB/s (75.6MB/s)(4328MiB/60001msec)
    slat (usec): min=5, max=513, avg= 8.57, stdev= 2.07
    clat (nsec): min=1847, max=138366k, avg=98542.85, stdev=525779.82
     lat (usec): min=82, max=138384, avg=107.28, stdev=525.83
    clat percentiles (usec):
     |  1.00th=[   87],  5.00th=[   89], 10.00th=[   90], 20.00th=[   90],
     | 30.00th=[   91], 40.00th=[   92], 50.00th=[   92], 60.00th=[   93],
     | 70.00th=[   93], 80.00th=[   94], 90.00th=[   95], 95.00th=[   98],
     | 99.00th=[  120], 99.50th=[  260], 99.90th=[  400], 99.95th=[  562],
     | 99.99th=[16188]
   bw (  KiB/s): min=44592, max=79216, per=100.00%, avg=74006.52, stdev=7738.68, samples=119
   iops        : min= 5574, max= 9902, avg=9250.76, stdev=967.34, samples=119
  lat (usec)   : 2=0.01%, 10=0.01%, 50=0.01%, 100=96.86%, 250=2.56%
  lat (usec)   : 500=0.51%, 750=0.04%, 1000=0.01%
  lat (msec)   : 2=0.01%, 4=0.01%, 10=0.01%, 20=0.01%, 50=0.01%
  lat (msec)   : 100=0.01%, 250=0.01%
  cpu          : usr=3.35%, sys=14.84%, ctx=554010, majf=0, minf=19
  IO depths    : 1=100.0%, 2=0.0%, 4=0.0%, 8=0.0%, 16=0.0%, 32=0.0%, >=64=0.0%
     submit    : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     complete  : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     issued rwts: total=553926,0,0,0 short=0,0,0,0 dropped=0,0,0,0
     latency   : target=0, window=0, percentile=100.00%, depth=1

Run status group 0 (all jobs):
   READ: bw=72.1MiB/s (75.6MB/s), 72.1MiB/s-72.1MiB/s (75.6MB/s-75.6MB/s), io=4328MiB (4538MB), run=60001-60001msec

Disk stats (read/write):
  sdc: ios=553438/742, merge=0/0, ticks=56860/21771, in_queue=27216, util=99.94%

Sieht ja sehr interessant aus - aber mir sagt das nicht allzuviel ..... un' nu ?
 
Gut wir halten fest, dass deine drei Platten mit 4kB Blöcken lesend circa 40 MB/s schafft.

Wenn du das ganze nun auch schreibend ausführst (ich glaube da wäre --rw=write korrekt), dann wissen wir auch, was die Platten an Input hergeben.
 
showiproute said:
Gut wir halten fest, dass deine drei Platten mit 4kB Blöcken lesend circa 40 MB/s schafft.

Wenn du das ganze nun auch schreibend ausführst (ich glaube da wäre --rw=write korrekt), dann wissen wir auch, was die Platten an Input hergeben.
Click to expand...

Moin,
das Ganze jetzt im write-Modus:
Code: 
 fio --ioengine=libaio --direct=1 --sync=1 --rw=write --bs=4K --numjobs=1 --iodepth=1 --runtime=60 --time_based --name seq_read --filename=/dev/sda
seq_read: (g=0): rw=write, bs=(R) 4096B-4096B, (W) 4096B-4096B, (T) 4096B-4096B, ioengine=libaio, iodepth=1
fio-3.12
Starting 1 process
Jobs: 1 (f=1): [W(1)][100.0%][w=456KiB/s][w=114 IOPS][eta 00m:00s]
seq_read: (groupid=0, jobs=1): err= 0: pid=28985: Fri Oct 15 10:43:01 2021
  write: IOPS=110, BW=441KiB/s (452kB/s)(25.8MiB/60001msec); 0 zone resets
    slat (usec): min=12, max=7999, avg=41.49, stdev=121.03
    clat (msec): min=4, max=190, avg= 9.02, stdev= 6.53
     lat (msec): min=4, max=190, avg= 9.06, stdev= 6.54
    clat percentiles (msec):
     |  1.00th=[    9],  5.00th=[    9], 10.00th=[    9], 20.00th=[    9],
     | 30.00th=[    9], 40.00th=[    9], 50.00th=[    9], 60.00th=[    9],
     | 70.00th=[    9], 80.00th=[    9], 90.00th=[    9], 95.00th=[    9],
     | 99.00th=[   33], 99.50th=[   41], 99.90th=[  131], 99.95th=[  153],
     | 99.99th=[  190]
   bw (  KiB/s): min=  136, max=  480, per=100.00%, avg=440.99, stdev=74.65, samples=120
   iops        : min=   34, max=  120, avg=110.24, stdev=18.66, samples=120
  lat (msec)   : 10=97.26%, 20=0.85%, 50=1.54%, 100=0.20%, 250=0.15%
  cpu          : usr=0.10%, sys=0.51%, ctx=12367, majf=0, minf=10
  IO depths    : 1=100.0%, 2=0.0%, 4=0.0%, 8=0.0%, 16=0.0%, 32=0.0%, >=64=0.0%
     submit    : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     complete  : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     issued rwts: total=0,6616,0,0 short=0,0,0,0 dropped=0,0,0,0
     latency   : target=0, window=0, percentile=100.00%, depth=1

Run status group 0 (all jobs):
  WRITE: bw=441KiB/s (452kB/s), 441KiB/s-441KiB/s (452kB/s-452kB/s), io=25.8MiB (27.1MB), run=60001-60001msec

Disk stats (read/write):
  sda: ios=176/7308, merge=0/0, ticks=3159/65245, in_queue=65280, util=99.88%
root@pve:~# fio --ioengine=libaio --direct=1 --sync=1 --rw=write --bs=4K --numjobs=1 --iodepth=1 --runtime=60 --time_based --name seq_read --filename=/dev/sdb
seq_read: (g=0): rw=write, bs=(R) 4096B-4096B, (W) 4096B-4096B, (T) 4096B-4096B, ioengine=libaio, iodepth=1
fio-3.12
Starting 1 process
Jobs: 1 (f=1): [W(1)][100.0%][w=204KiB/s][w=51 IOPS][eta 00m:00s]
seq_read: (groupid=0, jobs=1): err= 0: pid=31076: Fri Oct 15 10:45:11 2021
  write: IOPS=108, BW=433KiB/s (443kB/s)(25.4MiB/60002msec); 0 zone resets
    slat (usec): min=8, max=713, avg=30.14, stdev=13.09
    clat (msec): min=5, max=190, avg= 9.20, stdev= 7.53
     lat (msec): min=5, max=190, avg= 9.24, stdev= 7.53
    clat percentiles (msec):
     |  1.00th=[    9],  5.00th=[    9], 10.00th=[    9], 20.00th=[    9],
     | 30.00th=[    9], 40.00th=[    9], 50.00th=[    9], 60.00th=[    9],
     | 70.00th=[    9], 80.00th=[    9], 90.00th=[    9], 95.00th=[    9],
     | 99.00th=[   38], 99.50th=[   48], 99.90th=[  159], 99.95th=[  167],
     | 99.99th=[  190]
   bw (  KiB/s): min=   63, max=  480, per=100.00%, avg=432.43, stdev=94.39, samples=120
   iops        : min=   15, max=  120, avg=107.78, stdev=23.65, samples=120
  lat (msec)   : 10=97.06%, 20=0.71%, 50=1.83%, 100=0.25%, 250=0.15%
  cpu          : usr=0.09%, sys=0.41%, ctx=11600, majf=0, minf=11
  IO depths    : 1=100.0%, 2=0.0%, 4=0.0%, 8=0.0%, 16=0.0%, 32=0.0%, >=64=0.0%
     submit    : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     complete  : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     issued rwts: total=0,6494,0,0 short=0,0,0,0 dropped=0,0,0,0
     latency   : target=0, window=0, percentile=100.00%, depth=1

Run status group 0 (all jobs):
  WRITE: bw=433KiB/s (443kB/s), 433KiB/s-433KiB/s (443kB/s-443kB/s), io=25.4MiB (26.6MB), run=60002-60002msec

Disk stats (read/write):
  sdb: ios=50/7181, merge=0/0, ticks=1545/68884, in_queue=67244, util=100.00%
root@pve:~# fio --ioengine=libaio --direct=1 --sync=1 --rw=write --bs=4K --numjobs=1 --iodepth=1 --runtime=60 --time_based --name seq_read --filename=/dev/sdc
seq_read: (g=0): rw=write, bs=(R) 4096B-4096B, (W) 4096B-4096B, (T) 4096B-4096B, ioengine=libaio, iodepth=1
fio-3.12
Starting 1 process
Jobs: 1 (f=1): [W(1)][100.0%][w=480KiB/s][w=120 IOPS][eta 00m:00s]
seq_read: (groupid=0, jobs=1): err= 0: pid=32514: Fri Oct 15 10:46:42 2021
  write: IOPS=109, BW=438KiB/s (449kB/s)(25.7MiB/60001msec); 0 zone resets
    slat (usec): min=7, max=239, avg=29.94, stdev=10.42
    clat (msec): min=7, max=169, avg= 9.10, stdev= 6.57
     lat (msec): min=7, max=169, avg= 9.13, stdev= 6.57
    clat percentiles (msec):
     |  1.00th=[    9],  5.00th=[    9], 10.00th=[    9], 20.00th=[    9],
     | 30.00th=[    9], 40.00th=[    9], 50.00th=[    9], 60.00th=[    9],
     | 70.00th=[    9], 80.00th=[    9], 90.00th=[    9], 95.00th=[    9],
     | 99.00th=[   35], 99.50th=[   46], 99.90th=[  136], 99.95th=[  148],
     | 99.99th=[  169]
   bw (  KiB/s): min=  112, max=  487, per=99.92%, avg=437.65, stdev=86.55, samples=120
   iops        : min=   28, max=  121, avg=109.15, stdev=21.62, samples=120
  lat (msec)   : 10=97.17%, 20=0.70%, 50=1.83%, 100=0.15%, 250=0.15%
  cpu          : usr=0.15%, sys=0.37%, ctx=11570, majf=0, minf=12
  IO depths    : 1=100.0%, 2=0.0%, 4=0.0%, 8=0.0%, 16=0.0%, 32=0.0%, >=64=0.0%
     submit    : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     complete  : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     issued rwts: total=0,6571,0,0 short=0,0,0,0 dropped=0,0,0,0
     latency   : target=0, window=0, percentile=100.00%, depth=1

Run status group 0 (all jobs):
  WRITE: bw=438KiB/s (449kB/s), 438KiB/s-438KiB/s (449kB/s-449kB/s), io=25.7MiB (26.9MB), run=60001-60001msec

Disk stats (read/write):
  sdc: ios=53/7199, merge=0/0, ticks=1531/67936, in_queue=66328, util=100.00%
root@pve:~# fio --ioengine=libaio --direct=1 --sync=1 --rw=write --bs=8K --numjobs=1 --iodepth=1 --runtime=60 --time_based --name seq_read --filename=/dev/sdc
seq_read: (g=0): rw=write, bs=(R) 8192B-8192B, (W) 8192B-8192B, (T) 8192B-8192B, ioengine=libaio, iodepth=1
fio-3.12
Starting 1 process
Jobs: 1 (f=1): [W(1)][100.0%][w=592KiB/s][w=74 IOPS][eta 00m:00s]
seq_read: (groupid=0, jobs=1): err= 0: pid=1186: Fri Oct 15 10:47:55 2021
  write: IOPS=104, BW=837KiB/s (857kB/s)(49.0MiB/60002msec); 0 zone resets
    slat (usec): min=8, max=102, avg=29.65, stdev= 9.73
    clat (msec): min=2, max=171, avg= 9.53, stdev= 6.92
     lat (msec): min=2, max=171, avg= 9.56, stdev= 6.92
    clat percentiles (msec):
     |  1.00th=[    9],  5.00th=[    9], 10.00th=[    9], 20.00th=[    9],
     | 30.00th=[    9], 40.00th=[    9], 50.00th=[    9], 60.00th=[    9],
     | 70.00th=[    9], 80.00th=[    9], 90.00th=[    9], 95.00th=[   14],
     | 99.00th=[   43], 99.50th=[   50], 99.90th=[  105], 99.95th=[  138],
     | 99.99th=[  171]
   bw (  KiB/s): min=  192, max=  960, per=100.00%, avg=836.62, stdev=188.18, samples=120
   iops        : min=   24, max=  120, avg=104.56, stdev=23.51, samples=120
  lat (msec)   : 4=0.02%, 10=94.90%, 20=1.16%, 50=3.51%, 100=0.30%
  lat (msec)   : 250=0.11%
  cpu          : usr=0.11%, sys=0.37%, ctx=11091, majf=0, minf=10
  IO depths    : 1=100.0%, 2=0.0%, 4=0.0%, 8=0.0%, 16=0.0%, 32=0.0%, >=64=0.0%
     submit    : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     complete  : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     issued rwts: total=0,6276,0,0 short=0,0,0,0 dropped=0,0,0,0
     latency   : target=0, window=0, percentile=100.00%, depth=1

Run status group 0 (all jobs):
  WRITE: bw=837KiB/s (857kB/s), 837KiB/s-837KiB/s (857kB/s-857kB/s), io=49.0MiB (51.4MB), run=60002-60002msec

Disk stats (read/write):
  sdc: ios=121/7028, merge=0/0, ticks=3262/70800, in_queue=70384, util=99.78%
root@pve:~#

Es handelt sich um 3xHD Seagate(DELL) 1TB (24/7)

Sind diese Lese-/Schreibraten "normal" oder müssen wir die 3 wirklich durch 3xSSD ersetzen. um das Problem loszuwerden ??
PMX_zpool_config.png
 
Last edited:
Was genau für Platten sind das?
Seagate hat hier verschiedene.

Falls die Platten SMR hätten, wäre das kontraproduktiv, da hier die Schreibvorgänge teils länger dauern als andere Modi (zB CMR).


Weißt du noch, welche Geschwindigkeiten du vorher hattest?

Prinzipiell hättest du bei regulären Platten zwei Möglichkeiten:
1) Du ersetzt sie generell durch SSDs.
2) Du könntest dir eine SSD als Lese-/Schreib-Cache zulegen. Wobei dir der Schreibcache nur dann etwas bringt, wenn du sehr viele synchrone Schreibvorgänge hast. Asynchrone werden durch einen Schreibcache nicht abgedeckt.
 
showiproute said:
Was genau für Platten sind das?
Seagate hat hier verschiedene.
Click to expand...
Solche:
Code: 
Model Family:     Seagate Constellation ES.3
Device Model:     ST1000NM0033-9ZM173
Serial Number:    Z1W4TTAM
LU WWN Device Id: 5 000c50 087a8e3ac
Add. Product Id:  DELL(tm)
Firmware Version: GA0D
User Capacity:    1.000.204.886.016 bytes [1,00 TB]
Sector Size:      512 bytes logical/physical
Rotation Rate:    7200 rpm
Form Factor:      3.5 inches
Device is:        In smartctl database [for details use: -P show]
ATA Version is:   ACS-2 (minor revision not indicated)
SATA Version is:  SATA 3.0, 3.0 Gb/s (current: 3.0 Gb/s)
Local Time is:    Fri Oct 15 12:43:26 2021 CEST
SMART support is: Available - device has SMART capability.
SMART support is: Enabled
showiproute said:
Falls die Platten SMR hätten, wäre das kontraproduktiv, da hier die Schreibvorgänge teils länger dauern als andere Modi (zB CMR).


Weißt du noch, welche Geschwindigkeiten du vorher hattest?

Prinzipiell hättest du bei regulären Platten zwei Möglichkeiten:
1) Du ersetzt sie generell durch SSDs.
2) Du könntest dir eine SSD als Lese-/Schreib-Cache zulegen. Wobei dir der Schreibcache nur dann etwas bringt, wenn du sehr viele synchrone Schreibvorgänge hast. Asynchrone werden durch einen Schreibcache nicht abgedeckt.
Click to expand...
 
Okay das wären reguläre CMR Platten - allerdings haben die nur ein Sektorengröße von 512 Bytes, statt den heutzutage üblichen 4 kB.
 
Moin,
... Sektorengröße 512 Byte ------ Heißt das, daß ich irgendeine Konfiguration anpassen sollte ... ?
 
showiproute said:
Hättest du testen können, allerdings stellst du die Sektorengröße direkt beim Formatieren ein.
Click to expand...
Moin,
gut, das neuformatieren lassen wir erst mal sein ... evtl. als letzten Strohhalm.

1. die SQL-Leistung wird im Moment als "normal" empfunden
2. in den letzen 30 Stunden war nur ein Eintrag in en Windows-Ereignissen, Freitag um 5:22 Uhr
Code: 
svchost (1788,D,0) SoftwareUsageMetrics-Svc: Eine Anforderung, in die Datei "C:\Windows\system32\LogFiles\Sum\Svc.log" ab Offset 69632 (0x0000000000011000) insgesamt 4096 (0x00001000) Bytes zu schreiben, war erfolgreich, benötigte aber ungewöhnlich viel Zeit (16 Sekunden) von Seiten des Betriebssystems. Dieses Problem ist vermutlich durch fehlerhafte Hardware bedingt. Wenden Sie sich für weitere Unterstützung bei der Diagnose des Problems an Ihren Hardwarehersteller.

3.Auf Grund der Ereignis-Zeiten habe ich gesucht, ob da irgendetwas früh abläuft -> nichts regelmäßiges gefunden, Aber:
zwischen 5....6 Uhr loggen sich die ersten User ein...
4. Die VM-W10 steckt am Morgen seit 3 Tagen im SUSPEND-Mode fest
- habe erst mal die Win-Stromsparmethoden im Verdacht und auf W10 und W2019 alles auf NIE gesetzt.

Und jetzt werden wir erst mal abwarten und am Di/Mi werde ich mich wieder melden

Vielen Dank erst mal und schönes Wochenende !

Mi 20.10.-18:00
Im Zeitraum vom 12.......20,10,2021 tauchen 11 ähnliche "Leistungs-Meldungen" in den Win-Ereignissen auf....
Es handelt sich IMMER um Schreibvorgänge in die Logfiles unter C:\Windows\system32\LogFiles\
Die ungewöhnlich hohe Zeitdauer schwankt zwischen 14....45 Sekunden.
Meist treten diese Warnungen zwischen 5....6;30 Uhr auf - AUCH SONNTAGS wenn niemand im System arbeitet !
Auf den gleichen Platten habe ich auch noch eine VM-W10 laufen - dort gab es bis heute nur einen derartigen Eintrag am 6.10.2021

Da die Reaktionszeiten des SQL-Servers im Moment zufriedenstellend sind, belassen wir das System erst mal so.
Es beunruhigt mich allerdings etwas, daß es diese Meldungen gibt - aber was soll ich tun ? Alles scheint im Moment gut zu laufen ...
 
Last edited:
  • Like
Reactions: showiproute
You must log in or register to reply here.
Top Bottom