Autumn
На 10-м мне удавалось уровнять аппаратку и zfs.
Shaker
https://www.datacenterdynamics.com/en/news/intel-kills-off-optane-memory-writes-off-559-million-inventory/#:~:text=Intel%20has%20fully%20killed%20off,as%20it%20exits%20the%20business.
Почитал про это подробнее, все очень грустно в перспективе для оптанов конечно. Но по мне так, для zfs это самое лучшее решение, или нет ?! Я только недавно закупил 5800X и очень доволен результатом. На перспективу видимо CXL, когда цена платформ с PCIe 5 подешевеет ?
Ivan
ну по статье там тема в чем, баг в прошивке выдавал "разряд батарейки", что приводило к автоматическому отключению врайткэша и железка превращалась в тыкву, пофиксили обновой фирмвари, но при этом не факт что батарейка например реально живая, это как пример, у меня такое было когда в рейде батарейка сдохла, джентльмены сервер вырубили и оставили на год без питания, батарейка разрядилась и померла, а когда включили не могли понять почему дисковая не в тонусе
начало эпопеи не рассказал )) - я когда начал разбираться почему тупит - в диагностике висела ошибка по кэшу, я сначала подумал что батарейка, но ннет, оказалось сам кэш (512мб) - ну думаю раз такое дело, давай возьмём сразу на 2гб. Как раз пока это выяснял - перепроверил все прошивки, гонял и fio и hdparm и просто файлы, (кстати fio с кэшем какую то дичь показывает... там вроде надо было "директ" чтоли прописывать, короче не суть...) . Так вот, поставил - ошибки ушли, стало быстрее, но блин - я вижу что всё равно медленно - и понеслось))) Вообщем привезут - оттестирую спокойно, может пропустил чтото - посмотрим.
Combot
Юрий has been banned! Reason: CAS ban.
Art
Хз, у нас то выбора нет, что дадут то и будем гонять.
Вообще, кстати интересно, как железные рейды умудряются работать быстрее софтовых? Ведь у железных оч скромные проц и память? Тогда как у самого сервера 100500 ядер и памяти
Art
без кэша не умудряются )
Так ведь кэш у них это их же оператива? Которая по моему бывает максимум уровня DDR4 и её мало...
Ivan
плюс у каждой транзакции латенси куда меньше.
Art
но она то при батарейке делает writeback.
Вот мне всегда обидно за зфс, что её ругают за медленноту, но ведь в ней можно включить по сути тот же режим кэширования
Art
плюс у каждой транзакции латенси куда меньше.
О, а вот это да... Точно, путь до проца в случае железки поменьше будет
Ivan
тот же у bcache и ему подобных.
Art
LMGTFY коллега?
Не надо, это я сам могу)
Autumn
Вот мне всегда обидно за зфс, что её ругают за медленноту, но ведь в ней можно включить по сути тот же режим кэширования
хз, кто ругает, норм она работает, ну да та же ext4 будет шустрее, но гибкости нет, все же относительно, лично на zfs raid 10 достигал скоростей аппаратных рейдов
central
Чтение быстрее запись медленнее, вся жизнь компромисс
Autumn
Не надо, это я сам могу)
намек был на очевидный ответ - оптимизация выделенного процессора памяти и софта рейд железки, проделанная инженерами для достижения определенных предсказуемых результатов, изолированные ресурсы для одной задачи - работать с устройствами храниения
Georg🎞️🎥
Расходимся … берем железные рейды и радуемся )))
Georg🎞️🎥
А вот подскажите пожалуйста, я уже спрашивал но никак не въеду, айсуази будет быстрее smb? Там же как то по другим алгоритмам передвется ? Простыми словами если не сложно, что это блочное устройство и типа оно будто диск в компе - это я читал, но как оно на практике ? Благодарю 👋👋
Georg🎞️🎥
Читается как айскази) И оно точно будет быстрее, чем дефолтный smb без rdma
Вот… а что есть rdma!?😱и за счет чего быстрее ? Теже провода, та же сетевуха ?👋👋
Art
Вот… а что есть rdma!?😱и за счет чего быстрее ? Теже провода, та же сетевуха ?👋👋
Если сетевуха умеет в rdma, то ж о означает что она будет иметь прямой доступ к памяти, мимо ЦПУ, что здорово уменьшает задержку Но помиомо аппаратной поддержки ещё нужна программная. В Линь вроде ещё не впилили поддержку самбы через rdma Так что работать будет только в связке винда-винда, и причём если этими виндовыми машинами не прямой линк, а коммутатор, то он тоже должен уметь в rdma Короче всё не просто🤷🏻
Autumn
А smb и nfs похожи по сути и механизмам ?
там похожего только то что они сеть используют =) и это надо уже в другой чат перемещаться
Georg🎞️🎥
smb3+rdma =) так устроит?
То есть nfs шустрее ? Простите, с этой частью совсем плохо у меня ((
Autumn
То есть nfs шустрее ? Простите, с этой частью совсем плохо у меня ((
все зависит от условий, я описал идеальный вариант SMB 3 + RDMA в Windows будет быстрее, я лично гонял на мелланоксах, как там сейчас модно говорить - пушка, бомба, но опять же надо в другой чат переходить, все это к ZFS не имеет никакого отношения =) тут либо к сетевикам либо в кластерные хранилища
Autumn
Спасмбо, это хотя б направление о котором я не знал 👋👋
да в и-нете полно доки, по смб+рдма у майкрософта тьма, технология уже несколько лет живет, по нфс тоже, а iscsi так вообще от царя гороха, все ситуативно
Vladimir
А уравнивание прошивок помогло?
Одна карта была через nvidia куплена, а вторая - supermicro, и у них тогда принципиально разные версии прошивки были, может что изменилось с тех пор ( ~ 2 года)
Autumn
У меня мак ос 😱
не знал что на маке нельзя доку читать =) санкции?
Georg🎞️🎥
не знал что на маке нельзя доку читать =) санкции?
Можно ) но вряд ли там такое будет )) у них даже клиент iscsi отсутсвует - за дееежку от сторонних производителей )) а уж прошить сетевух )) это прям … Там ничего отдельно не шьют )) все науктывеься с новой осью само
Δαρθ
дефрагментацию данных на CoW делать довольно идиотская затея
почему? недефраг. данные роняют скорость (на хдд)
Δαρθ
а обычные hdd trim поддерживают?
некоторые smr поддерживают
Animal
некоторые smr поддерживают
У меня как раз тошик smr (вроде :)) ). Но обычный (не кнть ентерпрайз). Да и вроде как есть некоторая истерия с тем что zfs+smr не есть гуд.
Animal
В чем проявляется то по факту?
Хз. Сам не сталкивался. И точно не скажу. Чот с развалом пула или нарушением данных...Но на форуме и канале truenas народ смр для зфс прям фу фу. Ну и там же где то более точные описания и ссылки на проблему...
Δαρθ
У меня как раз тошик smr (вроде :)) ). Но обычный (не кнть ентерпрайз). Да и вроде как есть некоторая истерия с тем что zfs+smr не есть гуд.
юзаю зфс на smr (wd). 1шт диск (бекапы), всё пока ок. забавно было blkdiscard'ом обнулять такой диск
Δαρθ
не ынтерпраез
Δαρθ
@gmelikov хотелось бы узнать, какие планы у коммьюнити насчет поддержки ядра 6.1? вроде как lts обещают
Alexander 🖨
юзаю зфс на smr (wd). 1шт диск (бекапы), всё пока ок. забавно было blkdiscard'ом обнулять такой диск
Проблема SMR накопителей в том, что они еще хуже переносят случайный доступ. Размер одной ленты - несколько мегабайт, чтобы поменять несколько сотен килобайт внутри ленты ее надо по-хорошему прочитать всю, а потом записать всю. Но мало какое прикладное ПО работает "удобно" для дисков, и чтобы все это как-то дышало производителям приходится сильно усложнять логику записи на диск. Сигейты завели себе CMR кэш размером в десятки ГБ, куда могут относительно быстро все писать, а потом уже в фоне отправлять данные на ленту. А WD собирают собирают данные с разных мест и пишут их в одну ленту, но чтобы не запутаться потом хранят дерево трансляции и также в фоне потому его крутят-вертят. Запись большого числа небольших блоков может легко "перегреть" всю эту систему.
Δαρθ
Alexander 🖨
кстати сейчас пилятся FS для подлержки HM SMR (host-managed)
да, только вот хотел написать про "зонные" хранилища https://zonedstorage.io/docs/tests/zbc-tests
Alexander 🖨
сигейты даже ext4 переделать успели https://github.com/Seagate/SMR_FS-EXT4
Alexander 🖨
В целом, идея понятная, вместо того, чтобы диск притворялся, что он "обычный", он будет говорить, что он "зонный" и пусть проблему со сбором лент решает уже драйвер ФС или прикладное по
Alexander 🖨
А из-за того, что в smr дисках уже есть дополнительный слой трансляции, то легко там же сделать и trim: вместо трансляции данных "куда-то" мы транслируем их в "никуда".
George
если интересны сроки - как обычно, как релизнется ядро в след. минорную версию приедет поддержка
George
если хочется раньше - просто собрать с патчами самому
Ivan
Зачем каждый раз паника по поводу того что свежее ядро еще не поддерживается ? Рано или поздно будет поддерживаться.
George
@gmelikov хотелось бы узнать, какие планы у коммьюнити насчет поддержки ядра 6.1? вроде как lts обещают
я явно скажу, что саппорт следующей версии в мастер приезжает как только выходит rc версия ядра, практически сразу коллеги патчи делают
George
и при желании просто берёте патчи и накладываете на стейбл ветку
Алексей
Δαρθ
и при желании просто берёте патчи и накладываете на стейбл ветку
у меня лапки... в генту приежают только релизы из openzfs
Δαρθ
и часто получается что при попытке заапгрейдить ядро зфс отваливается пушо ядро слишком новое
George
George
а не лапочное - предлагать Tony Hutter'у помощь в билде релизов или собирать самому
George
ну решение очевидно - пинить ядро пока не приедет зфс, лапочное)
но я в этом пути не вижу ничего плохого, просто нужно подождать до месяца
Mikhail
Привет! Хочу расширить текущий zpool. По хорошему, надо добавить mirror nvme10 nvme11, но nvme11 пока занят до ночи. Как можно добавить nvme10 так, чтобы ночью всё же сделать mirror nvme10 nvme11 без полного пересбора массива? :)
George
если да, то просто zpool add nvme10 а ночью zpool attach nvme10 nvme11
George
плюс протестить на файликах до
Mikhail
Благодарю, теперь знаю про zpool-attach ))
Combot
Andrey Zubkov has been banned! Reason: CAS ban.
Боржщ с глазаме
Парни (и примкнувшие к ним женщины) Возможно я пишу не туда но все же. А поругайте мне пожалуйста MD3000i? То что с поддержки снята давно я знаю. Хотим взять ее как дисковый кэш для бэкапов, плюс то что на ней будет лежать раз в сутки будет уезжать на ленту. В общем расскажите почему так делать нельзя.
Боржщ с глазаме
В другие юмористичные чаты я уже писал
Боржщ с глазаме
Это делл если что
Fedor
Вопрос в том, а на чем будет кеш. Если в зфс - то будет хуже, чем ограниченный л1-л2 арк на сервере.
Fedor
И имеет ли смысл вообще для бекапов кеш использовать.