Shaker
Диски подключены одним линком в raid ?
Shaker
Оно в режиме jbod у тебя ?
Алексей
Алексей
Shaker
atop смотрел ? что там происходит вообще ?
Диски какие ? SMR ?)))))
Алексей
выглядит ресильвер примерно вот так
Алексей
мне непонятно почему впринципе может быть так медленно
Shaker
У меня обычно интерфейсные тормоза, упирается в sas2 например, когда много дисков. В raid контроллерах вообще реализация HBA через "не то" место, и работает медленно.
Ты посмотри atop или iostat, увидишь по очередям на диск, где тупит. Решение "влоб" например, смотреть iostat -xdm /dev/sd? 5 и смотреть утилизацию. Может у какого-то диска проблема, или группы дисков.
Shaker
Ну и вообще, может секрет откроется в dmesg. Туда-бы заглянуть не мешало.
Алексей
Утилизация на всех дисках в пол
Алексей
Дмесг чист
Алексей
Этот же массив у меня ресильверился на прошлой неделе за 5 дней
Ivan
Shaker
Если так, посмотри в сторону cpu. Не помню, там тротлинг уже есть, или нет. Но проверь нагрузку.
Алексей
Shaker
Типа чего?
Вот я бы не стал лишний раз удлять ))
Shaker
А что zfs -V ?
Алексей
Алексей
Снапшотов нет
Shaker
Не 0.8.X -ли версия ?
Алексей
Shaker
Версия не плохая )
Алексей
Да он свежий вполне
Vladimir
Вопрос про конфигурацию:
Supermicro 847BE1C4-R1K23LPB: 4U , 36 дырок 3.5", бэкплейны BPN-SAS3-846EL1 и BPN-SAS3-826EL1-N4 , мать X12SPI-TF , Broadcom 3108 SAS3, Intel 4316 x2, 256Gb Ram, Micron 7450 800Gb x2 SSD, 36xSAS Seagate EXOS X18 18Tb , будер работать файлохранилищем для локального вычислительного кластера.
- Нормально?
Shaker
Да он свежий вполне
Если диски дают 100% утилизацию, то больше вопросов к линку на диски и доп нагрузке.
Shaker
Посмотри еще zpool iostat
Shaker
Там тоже можно посмотреть, что чем грузит
Shaker
Может внутри контейнеры какие-то тебе файлы шифруют ))) А ты ресильером им мешаешь своим.
Алексей
я ж говорю всё вырубил вообще
Алексей
если ресильвер запаузить - диски вообще не читают
Shaker
А как это началось ?
Shaker
"С чего вдруг"
Алексей
добавил еще один ссд в существующее зеркало special
Shaker
Что за ссд ? Отличается от первого ?
Алексей
я вообще рассчитывал что он блины трогать не будет просто отсинкает зеркало
Shaker
Вопрос про конфигурацию:
Supermicro 847BE1C4-R1K23LPB: 4U , 36 дырок 3.5", бэкплейны BPN-SAS3-846EL1 и BPN-SAS3-826EL1-N4 , мать X12SPI-TF , Broadcom 3108 SAS3, Intel 4316 x2, 256Gb Ram, Micron 7450 800Gb x2 SSD, 36xSAS Seagate EXOS X18 18Tb , будер работать файлохранилищем для локального вычислительного кластера.
- Нормально?
Конфиг прямо как копия одного из моих. Только я 4314 ставлю проц, и диски другие для журнала. Выглядит неплохо.
Shaker
Vladimir
Artem
Алексей
Алексей
Но тут же очень медленно. Скраб то идет быстро
Artem
Artem
А диски в 100%, какие вопросы?
Алексей
Алексей
(Первые несколько терабайт он заресильверил со скоростью 2-3гб/сек).
Artem
Алексей
Georg🎞️🎥
Georg🎞️🎥
Vladislav
У Вас блок старый остаётся в системе, а ставится ссылка на новый блок
Поэтому когда идёт ресилвер он скачет по этому указателю, то вперёд, то назад
Georg🎞️🎥
Как вот заставить l2arc больше на себя писать ? Сколько выставить ? А то попадание всего в него 2,20 процента 😱стоит Optane 900p
Vladislav
Эти старые блоки постепенно исчезают, но не скажу сколько они живут
Vladislav
Поэтому ZFS всегда рекомендует оставлять 10-20% от массива на эти операции
Vladislav
Georg🎞️🎥
Методом проб и ошибок)))))
В документация пишут - ну увеличите до 16мегабайт🤦♂️ а диск то может 2000Мегов в секунду писать 🤷🏻♂️ вот и думаю
Алексей
Алексей
это впринципе бы всё объяснило, но блин, какого хрена в пофайловом то...
bes
Они теперь одинаковые. Читаем по метадате, а потом сортируем полученные блоки по LBA получаем вроде как последовательно.
Вот это можно потюнить, но сомнительно раз там нагрузки нет
vfs.zfs.top_maxinflight=128 vfs.zfs.resilver_min_time_ms=5000 vfs.zfs.resilver_delay=0
https://www.truenas.com/community/threads/scrub-performance-tuning.51959/
bes
А вообще как диск добавлялся? Нужно было же явно указать -s, иначе запустится пофайловый ресильвер, а не блочный. Главная фишка 2.0
The new -s option has been added to the zpool attach and zpool replace command to request sequential reconstruction be performed instead of healing reconstruction when resilvering.
Алексей
Алексей
Спасибо!!
Алексей
Алексей
Алексей
Shaker
Как ты перезапустил resilver ?
Shaker
Ясно