Алексей
скажем так если блин умрёт мне конечно будет жалко, но если умрёт весь массив я не переживу
Алексей
Немного не понял. Special можно задать как массив из 2х дисков
вот про два я и очкую, а на тройное не хватает дырок
Pavel
скажем так если блин умрёт мне конечно будет жалко, но если умрёт весь массив я не переживу
Так у тебя массив вылет одного переживет. Вылет одного диска из спешл тоже, если вылетят 2 то у тебя и так так все развалится
Алексей
А принципиально важно делать это именно через сканирование всех файлов?
Алексей Харламов, [06.06.2022 12:14] к сожалению да :( я бы хотел это отменить, но так софт работает
Ivan
нет ничего лучше, чем закидать проблему рамой
Алексей
ну несколько десятков миллионов на одном блине, а их там 10
Алексей
рамы столько нету
Алексей
а вот если бы л2 кэшировал всю мету было бы идеально
Pavel
вот мне бы кейс чтобы всё развалилось (из нвме) но ничего не похерилось бы
Я честно не понимаю чего миррор не нравится. А трипл нравится. У тебя пул какой raid?
Ivan
а вот если бы л2 кэшировал всю мету было бы идеально
стратегия настраивается, надо @gmelikov спросить как )
Алексей
Я честно не понимаю чего миррор не нравится. А трипл нравится. У тебя пул какой raid?
боюсь потерять весь массив данных таким образом, т.к. нвме одинаковые и из одной партии
Алексей
пул без избыточности совсем, 10 отдельных пулов на каждом блине по пулу
Egor
А интересно, если оба ssd в зеркале одновременно в РО перейдут, пул продолжит работать?
Pavel
Так у вас шансов потерять данные из-за вылета диска в пуле выше чем потерять данные из-за вылета спешл
Алексей
Так у вас шансов потерять данные из-за вылета диска в пуле выше чем потерять данные из-за вылета спешл
я ж говорю один два харда я переживу, а если все завалятся изза спешл я не вывезу
Ivan
кмк при таком раскладе проще на ext4 все сделать, а мету на nvme вынести. от zfs будут только лишние накладные расходы.
Алексей
кмк при таком раскладе проще на ext4 все сделать, а мету на nvme вынести. от zfs будут только лишние накладные расходы.
как раз с ext4 съезжаю, т.к. там это вообще никак не побороть ни спешлом ни л2 никак
Алексей
ну как сказать
Алексей
наверное улучшил, но я рассчитывал побольше чем 17% попаданий
Алексей
https://pastebin.com/YaUi4seD
Алексей
17 это конечно вообще ни о чём
Ivan
17 это конечно вообще ни о чём
у меня за год больше 6% не поднимается.
Алексей
у меня за год больше 6% не поднимается.
ну в этом вообще смысла нет
Алексей
если нельзя менять стратегию то он (л2) вообще почти бесполезен
Алексей
Вот что тюнинг животворящий делает
Алексей
vfs.zfs.l2arc_noprefetch = 0 если кому интересно
Алексей
спасибо всем!
Georg🎞️🎥
vfs.zfs.l2arc_noprefetch = 0 если кому интересно
Подскажите, что этой вам дало? Тоже имеем проблему чтения мелочи
Алексей
Подскажите, что этой вам дало? Тоже имеем проблему чтения мелочи
я пока еще наблюдаю насколько это изменение будет константно по времени. как я и сказал у меня задача убрать нагрузку на блины при обходе файлов, сделать это можно либо спешлом (что очень дорого и потенциально можно потерять всё), либо (возможно, с помощью л2арк, что почти бесплатно и совсем не опасно в смысле развала нвме устройства) я еще понаблюдаю в общем. но основная задача вроде как выполнена, файлы пробегаются порядка на два быстрее чем без кэширования метаданных
Алексей
главное чтобы кэш меты не вымывался из л2 как он это делает из арк
Алексей
вот сейчас несколько раз прогнал du по всем директориям и вижу что чтение прям практически на нуле на блине
Алексей
блин если это так и останется то это просто супер
Fedor
главное чтобы кэш меты не вымывался из л2 как он это делает из арк
если с разрастанием л2 арк производительность на чтение драматически снизится, то для зфс выделено мало оперативки.
Алексей
и Hit ratio уже 50.1
Алексей
если с разрастанием л2 арк производительность на чтение драматически снизится, то для зфс выделено мало оперативки.
ага, понятно, это ж мой уже третий подход к зфс за последние пять лет, я уже на нем столько какашек съел)
Алексей
мне кажется интересный кейс получится если всё удастся
Алексей
а с персистентным л2 так вообще
Алексей
нет команда другая
Алексей
echo 0 > /sys/module/zfs/parameters/l2arc_noprefetch это на 11 дебиане
Georg🎞️🎥
нет команда другая
У меня 11.3 фри нас
Алексей
в других системах может быть другое место, найдите где этот файл лежит у вас
Georg🎞️🎥
который l2arc_noprefetch
Извините за мой ломаный технический - суть чтобы он типа кэшировал не сами файлы а ярлычки(метаданные) так? И меньше крутил блинами
Алексей
Georg🎞️🎥
ну грубо говоря да, имя файла размер и проч его метаданные
Рассчитать бы размер l2 под это 🤔 вы всего 8 гиг ему дали?
Алексей
всего да, но это тест
Алексей
я поизучаю сколько нужно в итоге для моего кейса (десятки миллионов файлов)
Georg🎞️🎥
я поизучаю сколько нужно в итоге для моего кейса (десятки миллионов файлов)
Похоже на нас, сколько у вас подключённых клиентов и какие задачи ?
Georg🎞️🎥
я поизучаю сколько нужно в итоге для моего кейса (десятки миллионов файлов)
У нас до 10 машин в локалке 🤔 где то оптика, где то гигабит медный и читают часто одни и те же файлы
Алексей
У меня на каждом блине десяток процессов каждый из которых когда ему вздумается начинает перебирать файло. Ладно бы если они как то друг с другом это согласовывали. Так нет же иногда дерут блины все вместе одновременно
Алексей
Что как бы хреново и надолго
Алексей
А спешл ведев чисто под мету? Как я понял 🤔мож его соберу
Нет туда можно отправить и мелкие файлы по желанию
Georg🎞️🎥
Благодарю 👋
George
vfs.zfs.l2arc_noprefetch = 0 если кому интересно
ну теперь просто всё чтение в l2arc едет. secondarycache=all|none|metadata смотрите, не забывайте что primarycache должен включать эти значения, т.к. arc первичен
Georg🎞️🎥
ну теперь просто всё чтение в l2arc едет. secondarycache=all|none|metadata смотрите, не забывайте что primarycache должен включать эти значения, т.к. arc первичен
Добрый день, а скажите , 50 sas шпинделей 7,2к не будут ли быстрее l2arc u2 ssdшки? Может вообще он не нужен (((
Fedor
7.2к это переделанный сата, там от саса мало что имеется. с каждого из них в рандоме в лучшем случае в пределах 75-100 иопс можно снять.
Georg🎞️🎥
7.2к это переделанный сата, там от саса мало что имеется. с каждого из них в рандоме в лучшем случае в пределах 75-100 иопс можно снять.
Ну то есть u2 серверный мне поможет ? Просто я смотрю что попадает в l2 - какие то Копейки((
Fedor
всё зависит от нагрузки. признаки, когда может помочь л2арк - когда есть много рандомного многопоточного чтения как минимум, и только когда вся оперативка в сервере забита под завязку, если не вдаваться глубоко в технические детали. Иначе может получиться только хуже.
George
Это просто в высшей степени замечательно, спасибо!
но конечно только special vdev даст гарантии наличия меты на ссд, если 100% хочется попадание
George
озу ставьте сначала, нежели l2arc )
хотя персистентность l2arc немного это правило пошатнуло
Pavel
я честно говоря не сильно понял в чем боязнь спешла в мирроре.
George
Georg🎞️🎥
хотя персистентность l2arc немного это правило пошатнуло
Что есть персистентность ? Да вот думаю удвоить ага. Но боюсь лезть в рабочий сервак
George
Что есть персистентность ? Да вот думаю удвоить ага. Но боюсь лезть в рабочий сервак
после ребута состояние подгрузится, раньше с нуля заполнялся
Georg🎞️🎥
после ребута состояние подгрузится, раньше с нуля заполнялся
Это за l2 речь ? Ну оперативку же точно вызывает Просто l2 неплохой U2 1,6 тера 🤔 🤷🏻‍♂️