Vladislav
как диски подключены? через контроллер?
Василий
Коллеги, посоветуйте. Стали бы вы менять диски в пуле, получившие статус DEGRADED и too many errors ? При условии, что диски новые и пробег у них небольшой. Ниже данные пула, и смарт одного из дисков. Сервер домашний. pool: cpool state: DEGRADED status: One or more devices has experienced an unrecoverable error. An attempt was made to correct the error. Applications are unaffected. action: Determine if the device needs to be replaced, and clear the errors using 'zpool clear' or replace the device with 'zpool replace'. see: https://openzfs.github.io/openzfs-docs/msg/ZFS-8000-9P scan: scrub repaired 9.17M in 1 days 05:41:33 with 0 errors on Mon Jan 10 06:05:40 2022 config: NAME STATE READ WRITE CKSUM cpool DEGRADED 0 0 0 mirror-0 ONLINE 0 0 0 ata-TOSHIBA_MG07ACA12TE_60G0A073F95G ONLINE 3 0 0 ata-TOSHIBA_MG07ACA12TE_60D0A029F95G ONLINE 0 0 0 mirror-1 DEGRADED 0 0 0 ata-TOSHIBA_MG07ACA12TE_60G0A06XF95G DEGRADED 3 0 48 too many errors ata-TOSHIBA_MG07ACA12TE_60D0A05GF95G DEGRADED 6 0 97 too many errors errors: No known data errors ——— SMART Attributes Data Structure revision number: 16 Vendor Specific SMART Attributes with Thresholds: ID# ATTRIBUTE_NAME FLAG VALUE WORST THRESH TYPE UPDATED WHEN_FAILED RAW_VALUE 1 Raw_Read_Error_Rate 0x000b 100 100 050 Pre-fail Always - 0 2 Throughput_Performance 0x0005 100 100 050 Pre-fail Offline - 0 3 Spin_Up_Time 0x0027 100 100 001 Pre-fail Always - 7046 4 Start_Stop_Count 0x0032 100 100 000 Old_age Always - 11 5 Reallocated_Sector_Ct 0x0033 100 100 010 Pre-fail Always - 0 7 Seek_Error_Rate 0x000b 100 100 050 Pre-fail Always - 0 8 Seek_Time_Performance 0x0005 100 100 050 Pre-fail Offline - 0 9 Power_On_Hours 0x0032 073 073 000 Old_age Always - 11118 10 Spin_Retry_Count 0x0033 100 100 030 Pre-fail Always - 0 12 Power_Cycle_Count 0x0032 100 100 000 Old_age Always - 11 23 Helium_Condition_Lower 0x0023 100 100 075 Pre-fail Always - 0 24 Helium_Condition_Upper 0x0023 100 100 075 Pre-fail Always - 0 191 G-Sense_Error_Rate 0x0032 100 100 000 Old_age Always - 0 192 Power-Off_Retract_Count 0x0032 100 100 000 Old_age Always - 10 193 Load_Cycle_Count 0x0032 100 100 000 Old_age Always - 2565 194 Temperature_Celsius 0x0022 100 100 000 Old_age Always - 24 (Min/Max 14/32) 196 Reallocated_Event_Count 0x0032 100 100 000 Old_age Always - 0 197 Current_Pending_Sector 0x0032 100 100 000 Old_age Always - 0 198 Offline_Uncorrectable 0x0030 100 100 000 Old_age Offline - 0 199 UDMA_CRC_Error_Count 0x0032 200 200 000 Old_age Always - 0 220 Disk_Shift 0x0002 100 100 000 Old_age Always - 35651585 222 Loaded_Hours 0x0032 084 078 000 Old_age Always - 6495 223 Load_Retry_Count 0x0032 100 100 000 Old_age Always - 0 224 Load_Friction 0x0022 100 100 000 Old_age Always - 0 226 Load-in_Time 0x0026 100 100 000 Old_age Always - 536 240 Head_Flying_Hours 0x0001 100 100 001 Pre-fail Offline - 0 SMART Error Log Version: 1 No Errors Logged
стал бы пробовать менять их местами и смотреть не посыпятся ли ошибки на других дисках
Art
как диски подключены? через контроллер?
да, через HBA, у меня везде так
Василий
возможно кабель
Vladislav
возможно и кабель и HBA
Василий
тут у нас есть эксперт по шапочкам из фольги и хреновым кабелям
Василий
блин. нету. ливнул :(
Vladislav
Это кто? Мудозвон?
Василий
Олехандро или как то так. он не злобливый, но рассказы про то как его спецлужбы пытались по электричеству сломать слегка удивляли
Vladislav
В любом случае СМАРТ не показывает проблем
Василий
Коллеги, посоветуйте. Стали бы вы менять диски в пуле, получившие статус DEGRADED и too many errors ? При условии, что диски новые и пробег у них небольшой. Ниже данные пула, и смарт одного из дисков. Сервер домашний. pool: cpool state: DEGRADED status: One or more devices has experienced an unrecoverable error. An attempt was made to correct the error. Applications are unaffected. action: Determine if the device needs to be replaced, and clear the errors using 'zpool clear' or replace the device with 'zpool replace'. see: https://openzfs.github.io/openzfs-docs/msg/ZFS-8000-9P scan: scrub repaired 9.17M in 1 days 05:41:33 with 0 errors on Mon Jan 10 06:05:40 2022 config: NAME STATE READ WRITE CKSUM cpool DEGRADED 0 0 0 mirror-0 ONLINE 0 0 0 ata-TOSHIBA_MG07ACA12TE_60G0A073F95G ONLINE 3 0 0 ata-TOSHIBA_MG07ACA12TE_60D0A029F95G ONLINE 0 0 0 mirror-1 DEGRADED 0 0 0 ata-TOSHIBA_MG07ACA12TE_60G0A06XF95G DEGRADED 3 0 48 too many errors ata-TOSHIBA_MG07ACA12TE_60D0A05GF95G DEGRADED 6 0 97 too many errors errors: No known data errors ——— SMART Attributes Data Structure revision number: 16 Vendor Specific SMART Attributes with Thresholds: ID# ATTRIBUTE_NAME FLAG VALUE WORST THRESH TYPE UPDATED WHEN_FAILED RAW_VALUE 1 Raw_Read_Error_Rate 0x000b 100 100 050 Pre-fail Always - 0 2 Throughput_Performance 0x0005 100 100 050 Pre-fail Offline - 0 3 Spin_Up_Time 0x0027 100 100 001 Pre-fail Always - 7046 4 Start_Stop_Count 0x0032 100 100 000 Old_age Always - 11 5 Reallocated_Sector_Ct 0x0033 100 100 010 Pre-fail Always - 0 7 Seek_Error_Rate 0x000b 100 100 050 Pre-fail Always - 0 8 Seek_Time_Performance 0x0005 100 100 050 Pre-fail Offline - 0 9 Power_On_Hours 0x0032 073 073 000 Old_age Always - 11118 10 Spin_Retry_Count 0x0033 100 100 030 Pre-fail Always - 0 12 Power_Cycle_Count 0x0032 100 100 000 Old_age Always - 11 23 Helium_Condition_Lower 0x0023 100 100 075 Pre-fail Always - 0 24 Helium_Condition_Upper 0x0023 100 100 075 Pre-fail Always - 0 191 G-Sense_Error_Rate 0x0032 100 100 000 Old_age Always - 0 192 Power-Off_Retract_Count 0x0032 100 100 000 Old_age Always - 10 193 Load_Cycle_Count 0x0032 100 100 000 Old_age Always - 2565 194 Temperature_Celsius 0x0022 100 100 000 Old_age Always - 24 (Min/Max 14/32) 196 Reallocated_Event_Count 0x0032 100 100 000 Old_age Always - 0 197 Current_Pending_Sector 0x0032 100 100 000 Old_age Always - 0 198 Offline_Uncorrectable 0x0030 100 100 000 Old_age Offline - 0 199 UDMA_CRC_Error_Count 0x0032 200 200 000 Old_age Always - 0 220 Disk_Shift 0x0002 100 100 000 Old_age Always - 35651585 222 Loaded_Hours 0x0032 084 078 000 Old_age Always - 6495 223 Load_Retry_Count 0x0032 100 100 000 Old_age Always - 0 224 Load_Friction 0x0022 100 100 000 Old_age Always - 0 226 Load-in_Time 0x0026 100 100 000 Old_age Always - 536 240 Head_Flying_Hours 0x0001 100 100 001 Pre-fail Offline - 0 SMART Error Log Version: 1 No Errors Logged
а zpool status где ошибки показывает?
Василий
а. увидел
Василий
црц сильно на кабель или питание смахивает
Art
црц сильно на кабель или питание смахивает
HBA-карты и кабеля есть, попробую заменить. Вообще есть соблазн сделать zpool clear и забыть)
Василий
а у тебя разве црц не растет?
Art
а у тебя разве црц не растет?
не, как было 48 и 97, так и остаётся
inqfen
Он и здесь отметился?
А ещё есть чаты где не отметился?
Anonymous
Игорь
После замены железок zpool clear, затем zpool scrub и снова смотреть на счетчики ошибок.
Ivan
Новые диски вполне могут быть плохими
Δαρθ
В любом случае СМАРТ не показывает проблем
а тест смартовый на диск запускал?
Vladislav
это автору надо адресовать вопрос
Δαρθ
это автору надо адресовать вопрос
да. не следил кто был ТСом :)
Ilya
Коллеги, посоветуйте. Стали бы вы менять диски в пуле, получившие статус DEGRADED и too many errors ? При условии, что диски новые и пробег у них небольшой. Ниже данные пула, и смарт одного из дисков. Сервер домашний. pool: cpool state: DEGRADED status: One or more devices has experienced an unrecoverable error. An attempt was made to correct the error. Applications are unaffected. action: Determine if the device needs to be replaced, and clear the errors using 'zpool clear' or replace the device with 'zpool replace'. see: https://openzfs.github.io/openzfs-docs/msg/ZFS-8000-9P scan: scrub repaired 9.17M in 1 days 05:41:33 with 0 errors on Mon Jan 10 06:05:40 2022 config: NAME STATE READ WRITE CKSUM cpool DEGRADED 0 0 0 mirror-0 ONLINE 0 0 0 ata-TOSHIBA_MG07ACA12TE_60G0A073F95G ONLINE 3 0 0 ata-TOSHIBA_MG07ACA12TE_60D0A029F95G ONLINE 0 0 0 mirror-1 DEGRADED 0 0 0 ata-TOSHIBA_MG07ACA12TE_60G0A06XF95G DEGRADED 3 0 48 too many errors ata-TOSHIBA_MG07ACA12TE_60D0A05GF95G DEGRADED 6 0 97 too many errors errors: No known data errors ——— SMART Attributes Data Structure revision number: 16 Vendor Specific SMART Attributes with Thresholds: ID# ATTRIBUTE_NAME FLAG VALUE WORST THRESH TYPE UPDATED WHEN_FAILED RAW_VALUE 1 Raw_Read_Error_Rate 0x000b 100 100 050 Pre-fail Always - 0 2 Throughput_Performance 0x0005 100 100 050 Pre-fail Offline - 0 3 Spin_Up_Time 0x0027 100 100 001 Pre-fail Always - 7046 4 Start_Stop_Count 0x0032 100 100 000 Old_age Always - 11 5 Reallocated_Sector_Ct 0x0033 100 100 010 Pre-fail Always - 0 7 Seek_Error_Rate 0x000b 100 100 050 Pre-fail Always - 0 8 Seek_Time_Performance 0x0005 100 100 050 Pre-fail Offline - 0 9 Power_On_Hours 0x0032 073 073 000 Old_age Always - 11118 10 Spin_Retry_Count 0x0033 100 100 030 Pre-fail Always - 0 12 Power_Cycle_Count 0x0032 100 100 000 Old_age Always - 11 23 Helium_Condition_Lower 0x0023 100 100 075 Pre-fail Always - 0 24 Helium_Condition_Upper 0x0023 100 100 075 Pre-fail Always - 0 191 G-Sense_Error_Rate 0x0032 100 100 000 Old_age Always - 0 192 Power-Off_Retract_Count 0x0032 100 100 000 Old_age Always - 10 193 Load_Cycle_Count 0x0032 100 100 000 Old_age Always - 2565 194 Temperature_Celsius 0x0022 100 100 000 Old_age Always - 24 (Min/Max 14/32) 196 Reallocated_Event_Count 0x0032 100 100 000 Old_age Always - 0 197 Current_Pending_Sector 0x0032 100 100 000 Old_age Always - 0 198 Offline_Uncorrectable 0x0030 100 100 000 Old_age Offline - 0 199 UDMA_CRC_Error_Count 0x0032 200 200 000 Old_age Always - 0 220 Disk_Shift 0x0002 100 100 000 Old_age Always - 35651585 222 Loaded_Hours 0x0032 084 078 000 Old_age Always - 6495 223 Load_Retry_Count 0x0032 100 100 000 Old_age Always - 0 224 Load_Friction 0x0022 100 100 000 Old_age Always - 0 226 Load-in_Time 0x0026 100 100 000 Old_age Always - 536 240 Head_Flying_Hours 0x0001 100 100 001 Pre-fail Offline - 0 SMART Error Log Version: 1 No Errors Logged
учитывая, что приболели диски из одного зеркала, надо чё-то делать
Vladislav
Для начала сделал бы бэкап
Vladislav
И пробежался бы викторией по дискам
DOK ꧁꧂
Удалить их, они сами по себе не создаются
Они сами создаются неизвестно где при каждом обновлении системы
Игорь
Они сами создаются неизвестно где при каждом обновлении системы
Сами создаются при каждом обновлении системы чем, apt-ом? Смотри конфигурацию apt и его триггеры.
Игорь
учитывая, что приболели диски из одного зеркала, надо чё-то делать
Диски одного зеркала да, неприятно. Можно пул потерять. Правильно про создать архив написали.
DOK ꧁꧂
Сами создаются при каждом обновлении системы чем, apt-ом? Смотри конфигурацию apt и его триггеры.
Ок я понял сейчас быстро просмотрю весь линукс и его исходники и за пять минут разберусь
Игорь
Ок я понял сейчас быстро просмотрю весь линукс и его исходники и за пять минут разберусь
О сколько нам открытий чудных Готовят просвещенья дух И Опыт, [сын] ошибок трудных, И Гений, [парадоксов] друг, [И Случай, бог изобретатель] А.С. Пушкин
central
Они сами создаются неизвестно где при каждом обновлении системы
Ты админ или кто? Кто сервером управляет? Может у тебя сервер сто лет скомпрометирован а ты ни сном ни духом
Александр
Они сами создаются неизвестно где при каждом обновлении системы
Обратитесь к вашему системному администратору.
Sergey
Коллеги, посоветуйте. Стали бы вы менять диски в пуле, получившие статус DEGRADED и too many errors ? При условии, что диски новые и пробег у них небольшой. Ниже данные пула, и смарт одного из дисков. Сервер домашний. pool: cpool state: DEGRADED status: One or more devices has experienced an unrecoverable error. An attempt was made to correct the error. Applications are unaffected. action: Determine if the device needs to be replaced, and clear the errors using 'zpool clear' or replace the device with 'zpool replace'. see: https://openzfs.github.io/openzfs-docs/msg/ZFS-8000-9P scan: scrub repaired 9.17M in 1 days 05:41:33 with 0 errors on Mon Jan 10 06:05:40 2022 config: NAME STATE READ WRITE CKSUM cpool DEGRADED 0 0 0 mirror-0 ONLINE 0 0 0 ata-TOSHIBA_MG07ACA12TE_60G0A073F95G ONLINE 3 0 0 ata-TOSHIBA_MG07ACA12TE_60D0A029F95G ONLINE 0 0 0 mirror-1 DEGRADED 0 0 0 ata-TOSHIBA_MG07ACA12TE_60G0A06XF95G DEGRADED 3 0 48 too many errors ata-TOSHIBA_MG07ACA12TE_60D0A05GF95G DEGRADED 6 0 97 too many errors errors: No known data errors ——— SMART Attributes Data Structure revision number: 16 Vendor Specific SMART Attributes with Thresholds: ID# ATTRIBUTE_NAME FLAG VALUE WORST THRESH TYPE UPDATED WHEN_FAILED RAW_VALUE 1 Raw_Read_Error_Rate 0x000b 100 100 050 Pre-fail Always - 0 2 Throughput_Performance 0x0005 100 100 050 Pre-fail Offline - 0 3 Spin_Up_Time 0x0027 100 100 001 Pre-fail Always - 7046 4 Start_Stop_Count 0x0032 100 100 000 Old_age Always - 11 5 Reallocated_Sector_Ct 0x0033 100 100 010 Pre-fail Always - 0 7 Seek_Error_Rate 0x000b 100 100 050 Pre-fail Always - 0 8 Seek_Time_Performance 0x0005 100 100 050 Pre-fail Offline - 0 9 Power_On_Hours 0x0032 073 073 000 Old_age Always - 11118 10 Spin_Retry_Count 0x0033 100 100 030 Pre-fail Always - 0 12 Power_Cycle_Count 0x0032 100 100 000 Old_age Always - 11 23 Helium_Condition_Lower 0x0023 100 100 075 Pre-fail Always - 0 24 Helium_Condition_Upper 0x0023 100 100 075 Pre-fail Always - 0 191 G-Sense_Error_Rate 0x0032 100 100 000 Old_age Always - 0 192 Power-Off_Retract_Count 0x0032 100 100 000 Old_age Always - 10 193 Load_Cycle_Count 0x0032 100 100 000 Old_age Always - 2565 194 Temperature_Celsius 0x0022 100 100 000 Old_age Always - 24 (Min/Max 14/32) 196 Reallocated_Event_Count 0x0032 100 100 000 Old_age Always - 0 197 Current_Pending_Sector 0x0032 100 100 000 Old_age Always - 0 198 Offline_Uncorrectable 0x0030 100 100 000 Old_age Offline - 0 199 UDMA_CRC_Error_Count 0x0032 200 200 000 Old_age Always - 0 220 Disk_Shift 0x0002 100 100 000 Old_age Always - 35651585 222 Loaded_Hours 0x0032 084 078 000 Old_age Always - 6495 223 Load_Retry_Count 0x0032 100 100 000 Old_age Always - 0 224 Load_Friction 0x0022 100 100 000 Old_age Always - 0 226 Load-in_Time 0x0026 100 100 000 Old_age Always - 536 240 Head_Flying_Hours 0x0001 100 100 001 Pre-fail Offline - 0 SMART Error Log Version: 1 No Errors Logged
Оперативку проверял?
Александр
Ты админ или кто? Кто сервером управляет? Может у тебя сервер сто лет скомпрометирован а ты ни сном ни духом
Скорее всего, просто поставил какой-то пакет, это бывает с людьми, которые случайно зашли в серверную
Δαρθ
Ок я понял сейчас быстро просмотрю весь линукс и его исходники и за пять минут разберусь
1ая ссылка гугла https://askubuntu.com/questions/1272023/how-to-disable-btrfs-snapshots-created-by-apt
Ivan
1ая ссылка гугла https://askubuntu.com/questions/1272023/how-to-disable-btrfs-snapshots-created-by-apt
ставлю на докер. он любит автоснапить на zfs.
Δαρθ
ну я к тому что при должном старании можно нагуглить или найти кто гадит. я однажды даже нашел кто мне ломает port в ttyS*, но это оффтопик уже )
Александр
Скорее всего, создание gpt-раздела под zfs
Vladislav
Интересно, такие вот webGUI корректно рассчитают смещение на дисках ?
Vladislav
yes
Александр
А вот это к разработчикам. ВОЗМОЖНО.
Александр
Нет
Vladislav
в общем - нет. но есть вопросы к правильности разметки разделов
Vladislav
надо смотреть ОС и версию ZFS
Vladislav
gpart show еще
Vladislav
ну такое себе
Vladislav
в конце раздела должно больше оставлено свободного места
Vladislav
иначе будете искать похожий по размерам винт
Александр
иначе будете искать похожий по размерам винт
А. Да, тема. Впрочем, при замене все равно имеет смысл брать больший размер
Vladislav
завтра маркетологам моча в голову ударят и они выпустят 4ТБ винты меньшего размера на несколько мегабайт
Vladislav
Это немного другие яйца
Vladislav
нит
Vladislav
это резервирование внутри ZFS раздела
Vladislav
оставляй так и запиши себе про размеры винтов на замену
Egor V
ну так ARC кеш сглаживает просадку дисков видимо
Egor V
шифрование AES делается вроде за счет инстукций CPU - там 2,5 Гбит и более выходит. узкое место всегда диски
central
Это что за процессор?.aes уязвим в софтверном варианте
Ilya
ну так ARC кеш сглаживает просадку дисков видимо
Разовое копирование - и уже из арк?
Egor V
Копирование идёт в ОЗУ, потом сброс на винты. Arc в любом случае юзается
Egor V
Более эффективнее чем UFS использует озу
Ilya
Арк - это про чтение
Aleksei
Default при записи - буфер в 4 гига, сбрасывается или раз в 5 сек или при заполнении, если нет fsync
Sergey
Обновил свой livecd с поддержкой ZFS, теперь там ZFS 2.1.2 https://git.s-morozov.net/sergey/archlive-zfs/releases/tag/2022.01.17
Vladislav
размер гиг - такое себ
Δαρθ
лучше чем 3 гига какойнить убунты )
Vladislav
лучше чем 3 гига какойнить убунты )
ZFS на OpenWRT https://mfsbsd.vx.sk/files/iso/mfslinux/
Sergey
размер гиг - такое себ
А есть смысл сокращать? Там отличия по пакетом от установочного диска арча - только Linux headers, ncdu и ZFS. Ну и зависимости.
Δαρθ
"initramfs distrib" -- как в него в онлайне чот нужное присунуть? а скажем в ливцдшную убунту легко, apt install
Vladislav
ну, чем меньше в размерах liveCD - тем быстрее загрузка. Мой сценарий: PXE boot с liveCD и потом через Ansible нужные операции в системе
Egor
Арк - это про чтение
Про запись тоже: специально поднимал 2 пула на сервере видеонаблюдения, и менял путь записи (диск ufs и zfs), так вот ufs в gstat показывал равномерную запись (данные сливались на диск сразу, постоянным потоком) а на zfs периодическими циклами: тишина - скачёк записи
Egor
По умолчанию оставлял вроде