Georg🎞️🎥
Да вот тоже про него … Под кэш тоже ?
Georg🎞️🎥
Shaker
PMEM достаточно дорогой, я выбрал модули по 128G
Shaker
Я быстрее не нашел ничего
Georg🎞️🎥
Fedor
на порядки
Fedor
как и задержки - у ссд десятки-сотни мкс, а рамы - десятки наносекунд
Georg🎞️🎥
Y
Надо 500-900 )))
там чем больше кеш тем больше РАМы надо, а если много РАМы можно поставить то нафига кеш?
Georg🎞️🎥
Georg🎞️🎥
Y
никто не знает или оно существует реально
Fedor
бывает еще lrdimm, используя который можно упихнуть в сервер больше рамы, но там свои нюансы
Y
@Georg_post , кстати оно локально или по сетке ? а то по сетке может и не надо такую скорость - упрется в сетку
░▒▓
Georg🎞️🎥
Дорого да и какой профит 🤷🏻♂️
Georg🎞️🎥
Линейные скорости не особо важны ..
Andrey
Georg🎞️🎥
Georg🎞️🎥
Может кто использовал 🤷🏻♂️
Sergey
Art
я что-то много читал что hot spare работает не так как сходу ожидается и лучше сразу raidz3 в таком случае
Затем я зачистил диск sdf, и вот что получилось:
root@exp2:/home/art# zpool status
pool: hahapool
state: DEGRADED
status: One or more devices could not be used because the label is missing or
invalid. Sufficient replicas exist for the pool to continue
functioning in a degraded state.
action: Replace the device using 'zpool replace'.
see: http://zfsonlinux.org/msg/ZFS-8000-4J
scan: resilvered 120M in 0 days 00:00:02 with 0 errors on Fri Apr 28 20:02:59 2023
config:
NAME STATE READ WRITE CKSUM
hahapool DEGRADED 0 0 0
raidz2-0 DEGRADED 0 0 0
sde ONLINE 0 0 0
spare-1 DEGRADED 0 0 0
sdf UNAVAIL 0 0 0 corrupted data
sdj ONLINE 0 0 0
sdg ONLINE 0 0 0
sdh ONLINE 0 0 0
sdi ONLINE 0 0 0
spares
sdj INUSE currently in use
Art
я что-то много читал что hot spare работает не так как сходу ожидается и лучше сразу raidz3 в таком случае
ну и остаётся отсоединить убитый диск:
root@exp2:/home/art# zpool detach hahapool sdf
root@exp2:/home/art# zpool status
pool: hahapool
state: ONLINE
scan: resilvered 120M in 0 days 00:00:02 with 0 errors on Fri Apr 28 20:02:59 2023
config:
NAME STATE READ WRITE CKSUM
hahapool ONLINE 0 0 0
raidz2-0 ONLINE 0 0 0
sde ONLINE 0 0 0
sdj ONLINE 0 0 0
sdg ONLINE 0 0 0
sdh ONLINE 0 0 0
sdi ONLINE 0 0 0
errors: No known data errors
Nick
Nick
У кого-нибудь был опыт втыкания сата ссд дисков под кеш l2arc + slog, типа s3700, в сата2 порты без trim? От этого что-то становится принципиально медленее/хуже?
Art
Art
Nick
проблема в том, что в этом случае он сначала начинается, а потом происходит не менее двух дисков для отказа без потери данных
Nick
другое дело, если иметь рейдз3 сразу и к нему еще добавить хотспаре, но это странный сценарий, типа если уверен что диск умрет, но некогда идти к серверу ставить новый и деньги на купить заранее лишние есть
Georg🎞️🎥
Georg🎞️🎥
Вот думаю что лучший l2 - это оптан, пока нет подходящего недорогого попробовать , скорость случайного чтения у него что надо 👍🤔но еще не пробовал , это теория ..
central
Fedor
Georg🎞️🎥
Georg🎞️🎥
Nick
Наверно это от области применения все же
наверное, но я взял топовый на тот момент сервер и не смог прогрузить нагрузкой диск. Диск давали на тест на ограниченное время, во что я уперся (шину или проц или что) я понять не успел.
Nick
понятно, что если цель в износоустойчивости, а не иопсах, то оптан прекрасен
Nick
нужен совет, raidz2 на 6 дисков по 8 или 12 терабайт под бекапы - чтение редкое и очень произвольное (сжатие и дедупликация, чанки от бекапного софта стоит ожидать разбросанными по дискам). Какие диски и какого объема взять под slog и l2arc?
Пока думаю взять что-то с около 1-1.3 dwpd гигабайт на 800 и слог и л2арк положить на него. Ну и если умрет - просто выкинуть и поставить следующий.
слог сделать гигабайт 16, л2арк сделать гигабайт 400, остальное оставить под оверпровизионинг.
Сервер в сеть воткнут двумя гигабитными портами с бондингом, теоретический предел входного литья бекапов - 200 мегабайт в секунду.
Y
Nick
о, спасибо за посчитанные цифры. 2 порта по 10гиг в сервере тоже есть, но свитча на 10г пока нет. с размером слога понятно
с л2арк - а что можно улучшить в этой ситуации (кроме special devices)?
в ситуации 1 к 40 - может быть тогда лучше сделать secondarycache=metadata ?
Nick
или наоборот primarycache=metadata ?
памяти на сервере 32 гига и проц больше не умеет (
Igor
Igor
Но хватает вроде
Nick
ну у меня фишка сервера в том что это 12 дисков на 3.5" в одноюните
Nick
в моменте показалось очень привлекательным
Igor
У меня тоже 12 дисков 3.5” сас
Nick
но не уверен что второй раз взял бы такое, похоже возможность поставить очень много памяти перевешивает экономию на юнитах
Art
Nick
Xeon E3 v3
Georg🎞️🎥
Georg🎞️🎥
Igor
Не хватает ?
Хватает, после последних обнов прокс сам регулирует до 75% использование ОЗУ
Igor
Много виртуалок
Georg🎞️🎥
Аааа … я б и 2 тера вкатил - денег много надо (((
Igor
Боржщ с глазаме
Georg🎞️🎥
Art
Я и так их юзаю ecc reg
обычные регистровые это RDIMM, а в случае с LRDIMM что-то у них там снижено, и как результат в один модуль влезает дофига гигабайтов, но это оборачивается нюансами... кои мне неведомы) У меня такой памяти тоже нигде нет)
Art
Vladislav
Georg🎞️🎥
Fedor
Сначала максимум рамы, потом л2арк, все правильно
Y
Georg🎞️🎥