1. Состояние пула после выключения NAS, извлечения дефективного. Напомню, это raidz2 с двумя дисками избыточности, то есть даже вылет ещё одного диска сейчас на целостность данных не повлияет.
nas4free: ~# zpool status Pool
pool: Pool
state: DEGRADED
status: One or more devices could not be opened. Sufficient replicas exist for
the pool to continue functioning in a degraded state.
action: Attach the missing device and online it using 'zpool online'.
see: http://illumos.org/msg/ZFS-8000-2Q
scan: resilvered 1000K in 0h0m with 0 errors on Thu Feb 22 10:42:29 2018
config:
NAME STATE READ WRITE CKSUM
Pool DEGRADED 0 0 0
raidz2-0 DEGRADED 0 0 0
gpt/D_Z300V843 ONLINE 0 0 0
gpt/D_Z300W3TK ONLINE 0 0 0
gpt/D_W300DZ5A ONLINE 0 0 0
gpt/D_W300E0RC ONLINE 0 0 0
gpt/D_Z30053GL ONLINE 0 0 0
gpt/D_Z300PRXX ONLINE 0 0 0
6037660560072957879 UNAVAIL 0 0 0 was /dev/gpt/D_Z300V7PE
gpt/D_Z300V7AV ONLINE 0 0 0
errors: No known data errors
2. Ищем новый диск - вот он, ST4000DM004-2CV1 на da6
nas4free: ~# camcontrol devlist
{ata st4000dm000-1f21="ST4000DM000-1F21" cc52="CC52"> at scbus0 target 4 lun 0 (pass0,da0)
{ata st4000dm000-1cd1="ST4000DM000-1CD1" cc43="CC43"> at scbus0 target 5 lun 0 (pass1,da1)
{ata st4000dm000-1f21="ST4000DM000-1F21" cc52="CC52"> at scbus0 target 6 lun 0 (pass2,da2)
{ata st4000dm000-1f21="ST4000DM000-1F21" cc52="CC52"> at scbus0 target 7 lun 0 (pass3,da3)
{ata st4000dm000-1f21="ST4000DM000-1F21" cc51="CC51"> at scbus0 target 8 lun 0 (pass4,da4)
{ata st4000dm000-1f21="ST4000DM000-1F21" cc52="CC52"> at scbus0 target 9 lun 0 (pass5,da5)
{ata st4000dm004-2cv1="ST4000DM004-2CV1" 0001="0001"> at scbus0 target 14 lun 0 (pass6,da6)
{st4000dm000-1f2168 cc52="CC52"> at scbus1 target 0 lun 0 (ada0,pass7)
{wdc wd20ears-00mvwb0="WD20EARS-00MVWB0"> at scbus2 target 0 lun 0 (ada1,pass8)
{ahci sgpio="SGPIO" enclosure="Enclosure" 0001="0001"> at scbus3 target 0 lun 0 (ses0,pass9)
{jetflash transcend="Transcend" 4gb="4GB"> at scbus4 target 0 lun 0 (pass10,da7)
3. Убиваем разметку (я диск сначала виндами по полной отформатировал, чтоб хоть раз прогнать поверхность. Полдня...). Создаём новую разметку, имя раздела по серийному номеру.
nas4free: ~# gpart destroy -F /dev/da6
da6 destroyed
nas4free: ~# gpart create -s GPT /dev/da6
da6 created
nas4free: ~# gpart add -t freebsd-zfs -l D_ZFN0PARZ -a 4K /dev/da6
da6p1 added
4. Запускаем реплейс. Это на несколько суток в случае 4T медленных дисков. Реально разгоняется где-то до 100 Мб/с - так что дня на три
nas4free: ~# zpool replace Pool 6037660560072957879 /dev/gpt/D_ZFN0PARZ
nas4free: ~# zpool status Pool
pool: Pool
state: DEGRADED
status: One or more devices is currently being resilvered. The pool will
continue to function, possibly in a degraded state.
action: Wait for the resilver to complete.
scan: resilver in progress since Fri Feb 23 12:05:00 2018
1.20G scanned out of 24.8T at 32.4M/s, 223h3m to go
144M resilvered, 0.00% done
config:
NAME STATE READ WRITE CKSUM
Pool DEGRADED 0 0 0
raidz2-0 DEGRADED 0 0 0
gpt/D_Z300V843 ONLINE 0 0 0
gpt/D_Z300W3TK ONLINE 0 0 0
gpt/D_W300DZ5A ONLINE 0 0 0
gpt/D_W300E0RC ONLINE 0 0 0
gpt/D_Z30053GL ONLINE 0 0 0
gpt/D_Z300PRXX ONLINE 0 0 0
replacing-6 UNAVAIL 0 0 0
6037660560072957879 UNAVAIL 0 0 0 was /dev/gpt/D_Z300V7PE
gpt/D_ZFN0PARZ ONLINE 0 0 0 (resilvering)
gpt/D_Z300V7AV ONLINE 0 0 0
errors: No known data errors
5. Закончится процесс - информирую гуй о произошедшем. Переимпортирую диски
Disks > Management > HDD Management, Import
Синхронизирую zfs Disks > ZFS > Configuration > Synchronize