Sergei
дебилы блять
вай? ты показываешь или процессы, или процессы вперемешку с тредами.
Mark ☢️
поэтому есть TID а есть PID
Mark ☢️
Mikhail
окей, это треды, процесс один
Mark ☢️
прост на скриншоте Михаила не видно сколько осд запущено одновременно.
Mikhail
одна осд там
Sergei
одна осд там
ну так эта osd ест 5 гб памяти, а не 50.
Mark ☢️
именно
Mark ☢️
а 50 это пейдж кеш поди просто. 45 тоесть
Mikhail
окей, а второй вопрос - удалить эти объекты из тиера не позволяет, можно только сделать им evict, но как-то медленно очень получается, по 4-6 штук в секунду
Mikhail
почему так?
Mikhail
за сутки с небольшим 500 тыс эвиктнул
Роман
Товарищи, а в сравнении glusterfs и ceph: что быстрое/надежнее?
Роман
Здрасьте :)
Михаил
от тут тебе сейчас точно расскажут о том какая боль glusterfs
Роман
А я с удовольствием послушаю
Mark ☢️
Товарищи, а в сравнении glusterfs и ceph: что быстрое/надежнее?
Glusterfs — более надёжен и более быстр, если речь идёт о скорости потери данных.
Mark ☢️
тоесть надёжно падает. и быстро.
Роман
А меня щас пугали сплитбрейнами гластера
Mark ☢️
и не зря
Mark ☢️
он просто сука зависает
Mark ☢️
и это селфхеалинг нихуя не работает
Роман
glusterfs действительно проигрывает на мелких файлах. Для хранения образов виртуалок это не имеет значения. Для других данных может быть важно, например, что если glusterfs развалится напрочь, то файлы можно спасти, а ceph просто так не спасёшь. Ну и, например, для ceph есть поддержка монтирования в ядре. Но её нет в ovz-ядрах.
Роман
Мы поэтому не смогли перейти на ceph/
Роман
Но мы, например, держим на glusterfs в достаточно сложных условиях (нестабильная работа узлов) достаточно много файлов (сотни тысяч) на десяток терабайт объёма. Обычно glusterfs используют для хранения больших объёмов научных данных (хранилища в петабайты), уж не знаю, почему у них такой выбор.
Mark ☢️
нельзя спасти
Mark ☢️
можно спасти некий трешачок недописанный
Роман
Просто столько разных мнений ))
Mark ☢️
прост когда на базовых операциях (выдирание винта на лету) приходится делать ребут всех нодов хранилки - это кагбы не айс
Роман
Это для гластера так?
Mark ☢️
да
Роман
Ясн
Mark ☢️
выдирание внезапное имеется в виду
Роман
Я понял
Михаил
ну да ладно, это к гделу не относится хотя емнип гластерфс же fuse? ceph Тоже может fuse и ядерный модуль
Роман
Видимо, не нашли поддержку через fuse
Михаил
лол
Михаил
там прям в доке по cephfs Написано
Михаил
вот ядрерный модуль вот fuse
Роман
Хех
Roman
Набежало
Александр
Во всех чатах
Александр
:(
Roman
Роман
Гластер - страшное, тормозное говно.
Не, ну было бы странно, если бы опенстековцы не хвалили ceph ))) Или объективно у гластера проблемы?
Roman
Хочешь острых ощущений - отнеси одну ноду гластера на 20ms
Roman
Например, мск-спб
Роман
гы, прикольно.
Роман
то есть задержки по вермени - сильно критичны для гластера?
Александр
Задержки вообще критичны
Roman
то есть задержки по вермени - сильно критичны для гластера?
Да. Время операции в гластере лимитируется временем доступа к самой медленной ноде
Роман
Да. Время операции в гластере лимитируется временем доступа к самой медленной ноде
ну это только к быстродействию, а не к надежности претензия, так?
Andrey
Роман, часть надежности предсказуемое быстроедействие. Если у вас начнут операции отваливаться по таймауту или тормозить непредсказуемо, такая система мало кому нужна будет.
Михаил
@socketpair глупые вопросы
Mark ☢️
Кстати по теме у меня через цеф прошло около 12 тб
Mark ☢️
Думаю вот о том как туда сунуть файлопомойку... (Ftp и самба)
Mark ☢️
Есть идеи ? Цеффс боюсь пока в прод
Mark ☢️
Или в кракене норм ? Еще не пробовал
Михаил
Цеффс вроде ок на первый взгляд
Михаил
Она и в jewel уже стейбл
Михаил
Хз. Я собрал вчера, а потом стенд пришлось переделать
Mikhail
А смысл в cephfs, будут множественные r w подключения?
Mark ☢️
Нужно хранить файлы отказоустойчиво. И резиново. И вот чтобы не городить виртуалку и огромный образ с фс в ней решил цеффс поюзать
Mark ☢️
И как именно ?
Mark ☢️
Фтп и самба-хуямба
Sergei
фтп-гейты есть
Mark ☢️
Неймспейсы разные в самбе и фтп кстати
Sergei
а самба это уже полноценный файловый доступ.
Sergei
нет
Mark ☢️
Не понял
Mark ☢️
Sergei
фтп не гарантирует тебе корректную работу нескольких клиентов с одним файлом например
Mark ☢️
Да и на самбу пох. Она как помойка используется