[SOLVED] Cecksumfehler ZFS SSD

fireon

fireon

Distinguished Member
Proxmox Subscriber
Oct 25, 2010
4,502
476
153
Austria/Graz
deepdoc.at
Hallo,

Ich habe hier seit ca. 3 Wochen immer wieder Checksumfehler auf einem Zpool. Es handelt sich um zwei Intel EnterpriseSSD's im Raid1. Die Anzahl der Fehler bewegt sich von 1 bis 36. Immer wenn ein Backup von PBS erstellt wird. Sprich wenn richtig gelesen wird. Habe einen Long Smarttest durchgeführt, der ist auch ok. Smartwerte selbst passen auch. Ich hab auch mal den Slot für die SSD gewechselt --> auch keine Änderung.

Hier steht auch nichts was mir jetzt weiter hilft.
https://openzfs.github.io/openzfs-docs/msg/ZFS-8000-9P/

Jemand ne Idee woher der Fehler noch kommen könnte? Event hilft SSD mit DD überschreiben und neu syncen?

Code: 
pve-manager/8.0.4/d258a813cfa6b390 (running kernel: 6.2.16-10-pve)

Danke
lg
Fireon
 
Last edited:
Wie sehen denn die Smartwerte der SSDs aus? Kann man bei dem Modell die Nutzung des Reservespeichers auslesen?
Wenn der Wert hoch geht, sterben gerade Zellen und die wird wohl demnächst ausfallen.
 
Falk R. said:
Wie sehen denn die Smartwerte der SSDs aus? Kann man bei dem Modell die Nutzung des Reservespeichers auslesen?
Wenn der Wert hoch geht, sterben gerade Zellen und die wird wohl demnächst ausfallen.
Click to expand...
Ja das geht. Das ist doch das Mediawearout oder?

Code: 
ID# ATTRIBUTE_NAME          FLAG     VALUE WORST THRESH TYPE      UPDATED  WHEN_FAILED RAW_VALUE
226 Workld_Media_Wear_Indic 0x0032   100   100   000    Old_age   Always       -       4362
233 Media_Wearout_Indicator 0x0032   096   096   000    Old_age   Always       -       0
 

Attachments

  • Screenshot_20230906_123444.png
    Screenshot_20230906_123444.png
    41.1 KB · Views: 12
Wearout sind die Schreibzyklen bis eine Zelle stirbt.
Die usage des Reserve Space zeigen aber nicht alle SSDs an.
 
Ich werd's mal weiter beobachten... das Teil ist erst 3 Jahre alt. 24x7 gelaufen und fast nicht aktiv benutzt. Der Garantiecheck bei Intel ist auch cool. Laut denen ist die SSD 2001 ausgelaufen...
 
Memtest86+ kann auch nicht schaden. Nicht dass da die SSD korrekte Checksummen hat, sich aber die CPU verrechnet und die Checksummen deshalb nicht passen.
 
  • Like
Reactions: Falk R. and fireon
fireon said:
Ich werd's mal weiter beobachten... das Teil ist erst 3 Jahre alt. 24x7 gelaufen und fast nicht aktiv benutzt. Der Garantiecheck bei Intel ist auch cool. Laut denen ist die SSD 2001 ausgelaufen...
Click to expand...
Wenn das Ding aber 24/7 für 3 Jahre in einem ZFS Pool rumgedümpelt ist, sind ja trotzdem writes drauf gekommen und falls die dabei im Sommer mal paar Grad wärmer geworden ist, zieht das auch ganz schön an der Lebenszeit.
 
Falk R. said:
Wenn das Ding aber 24/7 für 3 Jahre in einem ZFS Pool rumgedümpelt ist, sind ja trotzdem writes drauf gekommen und falls die dabei im Sommer mal paar Grad wärmer geworden ist, zieht das auch ganz schön an der Lebenszeit.
Click to expand...
Kann man irgendwo auslesen wie viel da geschrieben worden ist? Smart kann das ja anscheinend nicht. Zumindest seh ich da nichts vergleichbares.

Ist schon irgendwie komisch. Hab andere SSD's die laufen seit ca. 10 Jahren da drinnen, in einem anderen Pool. Die haben nichts. Der Server hat 4 Zpools. Ich mach nen Ramtest und wenn sich da nichts ergibt (von dem gehe ich aus) dann bestell ich mal ne neue SSD.
 
Last edited:
fireon said:
Kann man irgendwo auslesen wie viel da geschrieben worden ist? Smart kann das ja anscheinend nicht. Zumindest seh ich da nichts vergleichbares.

Ist schon irgendwie komisch. Hab andere SSD's die laufen seit ca. 10 Jahren da drinnen, in einem anderen Pool. Die haben nichts. Der Server hat 4 Zpools. Ich mach nen Ramtest und wenn sich da nichts ergibt (von dem gehe ich aus) dann bestell ich mal ne neue SSD.
Click to expand...
SMART gibt eigentlich total written TB aus. Leider weiß man nicht wie gleichmäßig die Zellen belastet wurden.
Da ZFS ja COW nutzt ist das eigentlich gut für gleichmäßige Belastung, aber wie ZFS mit den Metadaten umgeht, weiß ich nicht.
 
poste doch mal bitte den completten Inhalt wenn du in der Shell: "smartctl -a /dev/sdj" bzw /dev/sdk

was ist das für eine Hardware? im besonderen:

- Controller?
- Kabel
- Backplane

etc.

oft liegt da der Fehler. Aber schick bitte mal die Kompletten Smart Werte rüber
 
Falk R. said:
Die usage des Reserve Space zeigen aber nicht alle SSDs an.
Click to expand...

Du meintest vermutlich das:

Code: 
232 Available_Reservd_Space 0x0033   099   099   010    Pre-fail  Always       -       0
abader said:
poste doch mal bitte den completten Inhalt wenn du in der Shell: "smartctl -a /dev/sdj" bzw /dev/sdk

was ist das für eine Hardware? im besonderen:

- Controller?
- Kabel
- Backplane

etc.

oft liegt da der Fehler. Aber schick bitte mal die Kompletten Smart Werte rüber
Click to expand...

Hier sind die Smartwerte:

Code: 
smartctl 7.3 2022-02-28 r5338 [x86_64-linux-6.2.16-12-pve] (local build)
Copyright (C) 2002-22, Bruce Allen, Christian Franke, www.smartmontools.org

=== START OF INFORMATION SECTION ===
Model Family:     Intel S4510/S4610/S4500/S4600 Series SSDs
Device Model:     INTEL SSDSC2KB960G8
Serial Number:    BTYF94930ABH960CGN
LU WWN Device Id: 5 5cd2e4 151b39e3d
Firmware Version: XCV10120
User Capacity:    960.197.124.096 bytes [960 GB]
Sector Sizes:     512 bytes logical, 4096 bytes physical
Rotation Rate:    Solid State Device
Form Factor:      2.5 inches
TRIM Command:     Available, deterministic, zeroed
Device is:        In smartctl database 7.3/5319
ATA Version is:   ACS-3 T13/2161-D revision 5
SATA Version is:  SATA 3.2, 6.0 Gb/s (current: 6.0 Gb/s)
Local Time is:    Fri Sep 15 15:06:27 2023 CEST
SMART support is: Available - device has SMART capability.
SMART support is: Enabled

=== START OF READ SMART DATA SECTION ===
SMART overall-health self-assessment test result: PASSED

General SMART Values:
Offline data collection status:  (0x02) Offline data collection activity
                                        was completed without error.
                                        Auto Offline Data Collection: Disabled.
Self-test execution status:      (   0) The previous self-test routine completed
                                        without error or no self-test has ever
                                        been run.
Total time to complete Offline
data collection:                (  144) seconds.
Offline data collection
capabilities:                    (0x79) SMART execute Offline immediate.
                                        No Auto Offline data collection support.
                                        Suspend Offline collection upon new
                                        command.
                                        Offline surface scan supported.
                                        Self-test supported.
                                        Conveyance Self-test supported.
                                        Selective Self-test supported.
SMART capabilities:            (0x0003) Saves SMART data before entering
                                        power-saving mode.
                                        Supports SMART auto save timer.
Error logging capability:        (0x01) Error logging supported.
                                        General Purpose Logging supported.
Short self-test routine
recommended polling time:        (   1) minutes.
Extended self-test routine
recommended polling time:        (   2) minutes.
Conveyance self-test routine
recommended polling time:        (   2) minutes.
SCT capabilities:              (0x003d) SCT Status supported.
                                        SCT Error Recovery Control supported.
                                        SCT Feature Control supported.
                                        SCT Data Table supported.

SMART Attributes Data Structure revision number: 1
Vendor Specific SMART Attributes with Thresholds:
ID# ATTRIBUTE_NAME          FLAG     VALUE WORST THRESH TYPE      UPDATED  WHEN_FAILED RAW_VALUE
  5 Reallocated_Sector_Ct   0x0032   099   099   000    Old_age   Always       -       4
  9 Power_On_Hours          0x0032   100   100   000    Old_age   Always       -       26205
 12 Power_Cycle_Count       0x0032   100   100   000    Old_age   Always       -       64
170 Available_Reservd_Space 0x0033   099   099   010    Pre-fail  Always       -       0
171 Program_Fail_Count      0x0032   100   100   000    Old_age   Always       -       1
172 Erase_Fail_Count        0x0032   100   100   000    Old_age   Always       -       0
174 Unsafe_Shutdown_Count   0x0032   100   100   000    Old_age   Always       -       64
175 Power_Loss_Cap_Test     0x0033   100   100   010    Pre-fail  Always       -       2391 (64 65535)
183 SATA_Downshift_Count    0x0032   100   100   000    Old_age   Always       -       0
184 End-to-End_Error_Count  0x0033   100   100   090    Pre-fail  Always       -       0
187 Uncorrectable_Error_Cnt 0x0032   100   100   000    Old_age   Always       -       0
190 Drive_Temperature       0x0022   073   070   000    Old_age   Always       -       27 (Min/Max 22/30)
192 Unsafe_Shutdown_Count   0x0032   100   100   000    Old_age   Always       -       64
194 Temperature_Celsius     0x0022   100   100   000    Old_age   Always       -       27
197 Pending_Sector_Count    0x0012   100   100   000    Old_age   Always       -       0
199 CRC_Error_Count         0x003e   100   100   000    Old_age   Always       -       0
225 Host_Writes_32MiB       0x0032   100   100   000    Old_age   Always       -       8875480
226 Workld_Media_Wear_Indic 0x0032   100   100   000    Old_age   Always       -       4362
227 Workld_Host_Reads_Perc  0x0032   100   100   000    Old_age   Always       -       17
228 Workload_Minutes        0x0032   100   100   000    Old_age   Always       -       1572244
232 Available_Reservd_Space 0x0033   099   099   010    Pre-fail  Always       -       0
233 Media_Wearout_Indicator 0x0032   096   096   000    Old_age   Always       -       0
234 Thermal_Throttle_Status 0x0032   100   100   000    Old_age   Always       -       0/0
235 Power_Loss_Cap_Test     0x0033   100   100   010    Pre-fail  Always       -       2391 (64 65535)
241 Host_Writes_32MiB       0x0032   100   100   000    Old_age   Always       -       8875480
242 Host_Reads_32MiB        0x0032   100   100   000    Old_age   Always       -       1892159
243 NAND_Writes_32MiB       0x0032   100   100   000    Old_age   Always       -       15986482

SMART Error Log Version: 1
No Errors Logged

SMART Self-test log structure revision number 1
Num  Test_Description    Status                  Remaining  LifeTime(hours)  LBA_of_first_error
# 1  Extended offline    Completed without error       00%     26075         -
# 2  Extended offline    Completed without error       00%     25927         -

SMART Selective self-test log data structure revision number 1
 SPAN  MIN_LBA  MAX_LBA  CURRENT_TEST_STATUS
    1        0        0  Not_testing
    2        0        0  Not_testing
    3        0        0  Not_testing
    4        0        0  Not_testing
    5        0        0  Not_testing
Selective self-test flags (0x0):
  After scanning selected spans, do NOT read-scan remainder of disk.
If Selective self-test is pending on power-up, resume after 0 minute delay.

SAS Controller:
Code: 
LSI SAS3224 PCI-Express Fusion-MPT SAS-3

Backplane ist mit SAS Kable mit dem Controller verbunden.
 
Last edited:
die Smartwerte der SSD sehen gut aus.

kannst du die Smart der zweiten SSD noch posten?

die sieht eigentlich gut aus.

kenne das Problem von einem Controller den ich mal im Einsatz hatte - da war es ein Port am Controller der bei hoher Leselast (Srub etc.)

hast du im Gehäuse noch platz um die Slots mal zu wechseln?

treten die fehler zu bestimmten ereignissen auf?
 
abader said:
hast du im Gehäuse noch platz um die Slots mal zu wechseln?

treten die fehler zu bestimmten ereignissen auf?
Click to expand...
Ist strange. Weil jetzt hat das Raid die ganze Woche voll gerattert inkl. Backups, kein einziger Fehler. Normalerweise trat es jeden Tag beim Backup auf. Zwischenzeitlich gabs ein Proxmoxupdate auch. Möglicherweise hat da schon ein Kernel geholfen. Mal abwarten.

Das mit dem Controller muss ich mir ansehen, wieder mal nen Bildschirm an den Server stöpseln... :p
 
Möchte mich hier nach längerer Zeit zum Thema doch noch zurück melden. Es war dann längere Zeit Ruhe. Dann fing das Leiden wieder an. Ich hab die SSD dann getauscht und seit dem war bis Heute wirklich Ruhe. ZFS ist da halt empfindlicher. Die SSD lebt nun in einem nicht so wichtigen PC weiter.
 
  • Like
Reactions: Falk R.
You must log in or register to reply here.

About

The Proxmox community has been around for many years and offers help and support for Proxmox VE, Proxmox Backup Server, and Proxmox Mail Gateway.
We think our community is one of the best thanks to people like you!

Quick Navigation

Home Get Subscription Wiki Downloads Proxmox Customer Portal About

Get your subscription!

The Proxmox team works very hard to make sure you are running the best software and getting stable updates and security enhancements, as well as quick enterprise support. Tens of thousands of happy customers have a Proxmox subscription. Get yours easily in our online shop.

Buy now!
Community platform by XenForo® © 2010-2024 XenForo Ltd.
Top Bottom