Linux - nedgradert Raid

united

Æresmedlem
Ble medlem
23.07.2009
Innlegg
21.364
Antall liker
24.901
Sted
Indre Østfold
Torget vurderinger
2
Hei, er det noen Linux-eksperter innom som kan gi meg et råd eller to?

Fordi: mitt Raid5 i Ubuntu har blitt NEDGRADERT.
Det betyr vel at en av de fire diskene ikke fungerer som den skal.

Selvtest på disken påstår at den er sunn.
Lurer på hvordan jeg skal gå fram for å fikse på dette.

ALTERNATIV 1. Prøve å legge den til raidet igjen? (hvordan da, rent konkret?)
ALTERNATIV 2. Kjøpe ny disk som legges til raidet? (hvordan da?)

Hadde uansett vært kjekt å slippe å legge inn de 3-4 TB med data pånytt, har backup, men....

Under noen opplysninger om raidet og diskene

cat /proc/mdstat
Personalities : [linear] [multipath] [raid0] [raid1] [raid6] [raid5] [raid4] [raid10]
md0 : active raid5 sdb[0] sdd[2] sde[4]
5860538880 blocks super 1.2 level 5, 512k chunk, algorithm 2 [4/3] [U_UU]


Det er altså /dev/sdc som har falt bort i raidet.


mdadm --detail /dev/md0

/dev/md0:
Version : 1.2
Creation Time : Sat Oct 15 15:48:33 2011
Raid Level : raid5
Array Size : 5860538880 (5589.05 GiB 6001.19 GB)
Used Dev Size : 1953512960 (1863.02 GiB 2000.40 GB)
Raid Devices : 4
Total Devices : 3
Persistence : Superblock is persistent

Update Time : Sun Jan 6 03:03:21 2013
State : clean, degraded
Active Devices : 3
Working Devices : 3
Failed Devices : 0
Spare Devices : 0

Layout : left-symmetric
Chunk Size : 512K

Name : ubuntu:0
UUID : e8418fb8:d5435a1c:510d3146:27614b1e
Events : 40281

Number Major Minor RaidDevice State
0 8 16 0 active sync /dev/sdb
1 0 0 1 removed
2 8 48 2 active sync /dev/sdd
4 8 64 3 active sync /dev/sde

@ubu:~$ cat /proc/mdstat
Personalities : [linear] [multipath] [raid0] [raid1] [raid6] [raid5] [raid4] [raid10]
md0 : active raid5 sdb[0] sdd[2] sde[4]
5860538880 blocks super 1.2 level 5, 512k chunk, algorithm 2 [4/3] [U_UU]

unused devices: <none>

FDISK:
Disk /dev/sdc: 2000.4 GB, 2000398934016 bytes
255 heads, 63 sectors/track, 243201 cylinders, total 3907029168 sectors
Units = sectors of 1 * 512 = 512 bytes
Sector size (logical/physical): 512 bytes / 512 bytes
I/O size (minimum/optimal): 512 bytes / 512 bytes
Disk identifier: 0x00000000

Device Boot Start End Blocks Id System
/dev/sdc1 1 3907029167 1953514583+ ee GPT

WARNING: GPT (GUID Partition Table) detected on '/dev/sde'! The util fdisk doesn't support GPT. Use GNU Parted.
 

Goophy

Hi-Fi entusiast
Ble medlem
10.09.2010
Innlegg
248
Antall liker
21
Torget vurderinger
4
Merkelig at den bare har blitt borte. Normalt sett vil den bli satt til failed først.

Men du kan bare legge den til på nytt, så skal den starte å synce automatisk.
Husk å fjerne eventuell raid-data som ligger igjen på disken først!

mdadm --zero-superblock /dev/sdc
mdadm /dev/md0 -a /dev/sdc
 

united

Æresmedlem
Ble medlem
23.07.2009
Innlegg
21.364
Antall liker
24.901
Sted
Indre Østfold
Torget vurderinger
2
Takk!

Er det mdadm --zero-superblock /dev/sdc som fjerner raid-data?
Kjøre først den kommandoen og deretter den andre?

Det var ved oppstarten av server etter juleferie at jeg fikk valget om jeg ville starte raidet i 'degrated' versjon.
Men det var endel ting der jeg ikke skjønte. (svarte jeg ikke ja, kom jeg ikke igang).
 

Goophy

Hi-Fi entusiast
Ble medlem
10.09.2010
Innlegg
248
Antall liker
21
Torget vurderinger
4
Mulig det ble kjørt noen script som fjernet disken også da.

--zero-superblock fjerner superblocken som inneholder metadata om raidet ditt.

Først den, så den andre og det vil starte rebuild hvis det ikke er noe annet krøll.
 

Class

Hi-Fi freak
Ble medlem
11.03.2009
Innlegg
2.763
Antall liker
484
Sted
Vestfold
Torget vurderinger
7
Hva slags disk er det som ramlet ut, en av disse green-ikke-egnet-til-raid -diskene?

Jeg ville definitivt sjekket logger og SMART status før jeg la den til igjen.
 

united

Æresmedlem
Ble medlem
23.07.2009
Innlegg
21.364
Antall liker
24.901
Sted
Indre Østfold
Torget vurderinger
2
OK, tusen x takk.:)
Prøver den.
Raidet må ikke stoppes først?
 

Goophy

Hi-Fi entusiast
Ble medlem
10.09.2010
Innlegg
248
Antall liker
21
Torget vurderinger
4
Trenger ikke stoppe raidet, men du kan godt gjøre det hvis du ikke bruker det akkurat nå uansett.
 

united

Æresmedlem
Ble medlem
23.07.2009
Innlegg
21.364
Antall liker
24.901
Sted
Indre Østfold
Torget vurderinger
2
Hva slags disk er det som ramlet ut, en av disse green-ikke-egnet-til-raid -diskene?

Jeg ville definitivt sjekket logger og SMART status før jeg la den til igjen.
Ja noen Seagate Barracuda 2tb grønne.
Som mange sa egnet seg til raid for et drøyt år siden.

Men det blir vel slike Red-disker neste gangen.

Smart-statusen oppsummert sier at disken er SUNN.
Hvor riktig det er, vet jeg ikke.
Lese logger? Skjønner jeg ikke helt. Hvor er de? Hvordan?

Jeg kan ikke så mye linux nei, jeg bygget en server for noen år siden, fikk satt opp et raid og glemte serveren. Men byttet til nye disker og en ssd OS-disk for halvannet år siden.


Uansett må det vel nå være bedre å ha fire "ikke-egnede-disker" i fungerende raid enn tre i et nedgradert raid?

Det viktigste nå er å trygge dataene (12-13k album med musikk).
 

united

Æresmedlem
Ble medlem
23.07.2009
Innlegg
21.364
Antall liker
24.901
Sted
Indre Østfold
Torget vurderinger
2
Merkelig at den bare har blitt borte. Normalt sett vil den bli satt til failed først.

Men du kan bare legge den til på nytt, så skal den starte å synce automatisk.
Husk å fjerne eventuell raid-data som ligger igjen på disken først!

mdadm --zero-superblock /dev/sdc
mdadm /dev/md0 -a /dev/sdc
gjorde dette, nå ser det vel ut som om den har begynt å bygge seg opp igjeb?
cat /proc/mdstat
Personalities : [linear] [multipath] [raid0] [raid1] [raid6] [raid5] [raid4] [raid10]
md0 : active raid5 sdc[5] sdb[0] sdd[2] sde[4]
5860538880 blocks super 1.2 level 5, 512k chunk, algorithm 2 [4/3] [U_UU]
[>....................] recovery = 0.3% (7308264/1953512960) finish=806.1min speed=40234K/sec

@ubu:~$ sudo mdadm --detail /dev/md0
/dev/md0:
Version : 1.2
Creation Time : Sat Oct 15 15:48:33 2011
Raid Level : raid5
Array Size : 5860538880 (5589.05 GiB 6001.19 GB)
Used Dev Size : 1953512960 (1863.02 GiB 2000.40 GB)
Raid Devices : 4
Total Devices : 4
Persistence : Superblock is persistent

Update Time : Sun Jan 6 16:52:33 2013
State : clean, degraded, recovering
Active Devices : 3
Working Devices : 4
Failed Devices : 0
Spare Devices : 1

Layout : left-symmetric
Chunk Size : 512K

Rebuild Status : 0% complete

Name : ubuntu:0
UUID : e8418fb8:d5435a1c:510d3146:27614b1e
Events : 40389

Number Major Minor RaidDevice State
0 8 16 0 active sync /dev/sdb
5 8 32 1 spare rebuilding /dev/sdc
2 8 48 2 active sync /dev/sdd
4 8 64 3 active sync /dev/sde

TAKK SKAL DU VIRKELIG HA
 

Goophy

Hi-Fi entusiast
Ble medlem
10.09.2010
Innlegg
248
Antall liker
21
Torget vurderinger
4
Ser riktig ut det, ja.
Bare hyggelig. :)
 

marsboer

Hi-Fi freak
Ble medlem
04.04.2010
Innlegg
4.229
Antall liker
1.424
Sted
Phobos
Jeg har etterhvert opparbeidet meg en del informasjon rundt bruk og drift av mdadm som jeg har dokumentert her for den som måtte være interessert: https://wiki.proikt.com/wiki/index.php/Mdadm

Det er generelt en god idé å vite hva man gjør før man tukler med mdadm, men den gode nyheten er at det nesten alltid er mulig å rydde opp i ting, uansett hvor ille det ser ut.
 

P. Bateman

Fersking
Ble medlem
12.10.2008
Innlegg
2
Antall liker
0
Torget vurderinger
1
Problemet kan ligge i at det ikke brukes dedikerte raid-disker. Ikke raid- disker får mye lenger tid på seg til feilsjekking i oppstart
enn raid-disker. Så hvis disken av en eller annen grunn finner det for godt å sjekke seg selv i oppstart, så vil den ikke bli
registrert i den tiden som raidkontrolleren gir den.
 

united

Æresmedlem
Ble medlem
23.07.2009
Innlegg
21.364
Antall liker
24.901
Sted
Indre Østfold
Torget vurderinger
2
Jeg har etterhvert opparbeidet meg en del informasjon rundt bruk og drift av mdadm som jeg har dokumentert her for den som måtte være interessert: https://wiki.proikt.com/wiki/index.php/Mdadm

Det er generelt en god idé å vite hva man gjør før man tukler med mdadm, men den gode nyheten er at det nesten alltid er mulig å rydde opp i ting, uansett hvor ille det ser ut.
Takk, har lagret den siden din som et bokmerke.

Et par ting jeg lurer på i forbindelse med dette det å bytte defekt disk (se nederst).

1. Må den nye disken partisjoneres eller prepareres på noen måte hvis man bruker hele disken? altså noe mer før mdadm -a /dev/md0 /dev/sd"x"
2. Er dette måten å bytte ut alle diskene på? Altså ta en i gangen og tilslutt har du skiftet diskene i ditt raid?

Marsboer-avsnittet:
Bytte ut en defekt disk

Sjekk serienummer på disken for å være sikker på at du tar ut korrekt disk

smartctl -a /dev/sdi | grep Serial Sett disken til "faulty", "/dev/sdi" i dette eksempelet

mdadm -f /dev/md0 /dev/sdi Fjern deretter disken fra arrayet

mdadm -r /dev/md0 /dev/sdi Stopp maskinen og bytt deretter disken. Verifisér at serienummeret på disken du tar ut er identisk med det du hentet ut før du slo av maskinen. Start maskinen igjen og legg til den nye disken i arrayet

mdadm -a /dev/md0 /dev/sdi Verifiser at arrayet starter med gjenoppbyggingen

cat /proc/mdstat

 

marsboer

Hi-Fi freak
Ble medlem
04.04.2010
Innlegg
4.229
Antall liker
1.424
Sted
Phobos
Jeg har etterhvert opparbeidet meg en del informasjon rundt bruk og drift av mdadm som jeg har dokumentert her for den som måtte være interessert: https://wiki.proikt.com/wiki/index.php/Mdadm

Det er generelt en god idé å vite hva man gjør før man tukler med mdadm, men den gode nyheten er at det nesten alltid er mulig å rydde opp i ting, uansett hvor ille det ser ut.
Takk, har lagret den siden din som et bokmerke.

Et par ting jeg lurer på i forbindelse med dette det å bytte defekt disk (se nederst).

1. Må den nye disken partisjoneres eller prepareres på noen måte hvis man bruker hele disken? altså noe mer før mdadm -a /dev/md0 /dev/sd"x"
2. Er dette måten å bytte ut alle diskene på? Altså ta en i gangen og tilslutt har du skiftet diskene i ditt raid?

Marsboer-avsnittet:
Bytte ut en defekt disk

Sjekk serienummer på disken for å være sikker på at du tar ut korrekt disk

smartctl -a /dev/sdi | grep Serial Sett disken til "faulty", "/dev/sdi" i dette eksempelet

mdadm -f /dev/md0 /dev/sdi Fjern deretter disken fra arrayet

mdadm -r /dev/md0 /dev/sdi Stopp maskinen og bytt deretter disken. Verifisér at serienummeret på disken du tar ut er identisk med det du hentet ut før du slo av maskinen. Start maskinen igjen og legg til den nye disken i arrayet

mdadm -a /dev/md0 /dev/sdi Verifiser at arrayet starter med gjenoppbyggingen

cat /proc/mdstat

Hvis disken er av tilsvarende størrelse som den du byttet ut trenger du ikke å partisjonere disken. mdadm støtter bruk av disken direkte. Dette er også den foretrukne metoden for mdadms hovedutvikler. Dersom du imidlertid skal putte inn enn 3 TB disk som erstatning for en 2 TB disk bør du imidlertid partisjonere disken, slik at du kan bruke de resterende 1TB til noe fornuftig. Unntaket er dersom du på sikt har planer om å bytte alle diskene til tilsvarende størrelse for så å ekspandere RAIDet.
 
Sist redigert:

united

Æresmedlem
Ble medlem
23.07.2009
Innlegg
21.364
Antall liker
24.901
Sted
Indre Østfold
Torget vurderinger
2
Takk, Marsboer.:)
Kommer nok til å bytte ut alle diskene om ikke alt for lenge.
Og da er nok 4 x 3TB noe jeg tenker på.

Samtidig er det muligens på tide med nytt hovedkort, ram og prosessor også, så håper jeg kan vente til høsten i det minste.
 
Topp Bunn