Shaker
Диски подключены одним линком в raid ?
Shaker
Оно в режиме jbod у тебя ?
Алексей
CPU какой ? Что еще на сервере ? Какие BPN/HBA ?
сервер перезагружен, все программы остановлены, и их запуск запрещен при рестарте. в общем он пустой можно сказать по программам
Shaker
atop смотрел ? что там происходит вообще ? Диски какие ? SMR ?)))))
Алексей
выглядит ресильвер примерно вот так
Алексей
atop смотрел ? что там происходит вообще ? Диски какие ? SMR ?)))))
диски хорошие Seagate Exos X16 ST16000NM001G-2KK103 в атопе пусто, всё что может читать с пула выключено
Алексей
мне непонятно почему впринципе может быть так медленно
Shaker
У меня обычно интерфейсные тормоза, упирается в sas2 например, когда много дисков. В raid контроллерах вообще реализация HBA через "не то" место, и работает медленно. Ты посмотри atop или iostat, увидишь по очередям на диск, где тупит. Решение "влоб" например, смотреть iostat -xdm /dev/sd? 5 и смотреть утилизацию. Может у какого-то диска проблема, или группы дисков.
Shaker
Ну и вообще, может секрет откроется в dmesg. Туда-бы заглянуть не мешало.
Алексей
Утилизация на всех дисках в пол
Алексей
Дмесг чист
Алексей
Этот же массив у меня ресильверился на прошлой неделе за 5 дней
Ivan
Этот же массив у меня ресильверился на прошлой неделе за 5 дней
грохни там ченить, вдруг аффектит свободное место.
Shaker
Если так, посмотри в сторону cpu. Не помню, там тротлинг уже есть, или нет. Но проверь нагрузку.
Алексей
Типа чего?
Чего грохнуть?
Shaker
Типа чего?
Вот я бы не стал лишний раз удлять ))
Ivan
Типа чего?
файлы ненужные, снапшоты
Shaker
А что zfs -V ?
Алексей
Алексей
Снапшотов нет
Shaker
Не 0.8.X -ли версия ?
Shaker
Версия не плохая )
Алексей
Да он свежий вполне
Vladimir
Вопрос про конфигурацию: Supermicro 847BE1C4-R1K23LPB: 4U , 36 дырок 3.5", бэкплейны BPN-SAS3-846EL1 и BPN-SAS3-826EL1-N4 , мать X12SPI-TF , Broadcom 3108 SAS3, Intel 4316 x2, 256Gb Ram, Micron 7450 800Gb x2 SSD, 36xSAS Seagate EXOS X18 18Tb , будер работать файлохранилищем для локального вычислительного кластера. - Нормально?
Shaker
Да он свежий вполне
Если диски дают 100% утилизацию, то больше вопросов к линку на диски и доп нагрузке.
Shaker
Посмотри еще zpool iostat
Shaker
Там тоже можно посмотреть, что чем грузит
Shaker
Может внутри контейнеры какие-то тебе файлы шифруют ))) А ты ресильером им мешаешь своим.
Алексей
я ж говорю всё вырубил вообще
Алексей
если ресильвер запаузить - диски вообще не читают
Shaker
А как это началось ?
Shaker
"С чего вдруг"
Алексей
добавил еще один ссд в существующее зеркало special
Shaker
Что за ссд ? Отличается от первого ?
Алексей
я вообще рассчитывал что он блины трогать не будет просто отсинкает зеркало
Алексей
Что за ссд ? Отличается от первого ?
на самом деле уже не важно, т.к. он уже удалён из этого зеркала INTEL SSDSC2BX016T4
Shaker
на самом деле уже не важно, т.к. он уже удалён из этого зеркала INTEL SSDSC2BX016T4
Странный вообще статус у тебя. Покажи еще еще раз ? Интересно даже стало
Shaker
А какие диски для журнала?
SSD Intel DC P4610 SSDPE2KE016T801 и в них регулярно упирается, но там не критично.
Алексей
А сколько от хардов хочется-то?
Хочется чтобы ресильвер шел побыстрее. Как скраб или что-то в этом роде
Artem
Хочется чтобы ресильвер шел побыстрее. Как скраб или что-то в этом роде
Ну возможно будет раза в два быстрее, но нынче мало кто осознает размер современных хардов. Это ленточки, по-сути
Алексей
Ну возможно будет раза в два быстрее, но нынче мало кто осознает размер современных хардов. Это ленточки, по-сути
Я осознаю размер и непропорциональность линейной скорости чтения современных жестких дисков
Алексей
Но тут же очень медленно. Скраб то идет быстро
Artem
Но тут же очень медленно. Скраб то идет быстро
Скраб только читает... поэтому может и до 250 разогнаться
Алексей
Скраб только читает... поэтому может и до 250 разогнаться
А этот что делает помимо чтения? (Пул не degraded если что)
Artem
А диски в 100%, какие вопросы?
Алексей
Процы в 100% или как?
Проц отдыхает.
Алексей
А диски в 100%, какие вопросы?
Вопросы почему он ресильверит рандомным чтением а не последовательным
Алексей
(Первые несколько терабайт он заресильверил со скоростью 2-3гб/сек).
Artem
Вопросы почему он ресильверит рандомным чтением а не последовательным
Харды на рандомное чтение не дадут 80Мб/сек, вот вообще никак
Vladislav
Вопросы почему он ресильверит рандомным чтением а не последовательным
Потому что zfs превращает запись в последовательную, но чтение в случайное Если я правильно помню структуру RoW систем
Vladislav
У Вас блок старый остаётся в системе, а ставится ссылка на новый блок Поэтому когда идёт ресилвер он скачет по этому указателю, то вперёд, то назад
Georg🎞️🎥
Как вот заставить l2arc больше на себя писать ? Сколько выставить ? А то попадание всего в него 2,20 процента 😱стоит Optane 900p
Vladislav
Эти старые блоки постепенно исчезают, но не скажу сколько они живут
Vladislav
Поэтому ZFS всегда рекомендует оставлять 10-20% от массива на эти операции
Georg🎞️🎥
Методом проб и ошибок)))))
В документация пишут - ну увеличите до 16мегабайт🤦‍♂️ а диск то может 2000Мегов в секунду писать 🤷🏻‍♂️ вот и думаю
Алексей
это впринципе бы всё объяснило, но блин, какого хрена в пофайловом то...
bes
Они теперь одинаковые. Читаем по метадате, а потом сортируем полученные блоки по LBA получаем вроде как последовательно. Вот это можно потюнить, но сомнительно раз там нагрузки нет vfs.zfs.top_maxinflight=128 vfs.zfs.resilver_min_time_ms=5000 vfs.zfs.resilver_delay=0 https://www.truenas.com/community/threads/scrub-performance-tuning.51959/
bes
А вообще как диск добавлялся? Нужно было же явно указать -s, иначе запустится пофайловый ресильвер, а не блочный. Главная фишка 2.0 The new -s option has been added to the zpool attach and zpool replace command to request sequential reconstruction be performed instead of healing reconstruction when resilvering.
Алексей
Спасибо!!
Vladislav
а почему скраб последовательный? неужели ресильвер работает в "файловом" режиме?
Потому что скраб проверяет все блоки А ресилвер восстанавливает структуру Впрочем Вам уже дали команду
Алексей
Лучше бы он блоки проверял)
может же когда хочет...
Shaker
может же когда хочет...
Как ты перезапустил resilver ?
Алексей
Как ты перезапустил resilver ?
да никак, у него иногда бывают озарения (очевидно когда он мету вычитывает) потом опять скорость деградирует
Shaker
Ясно