Михаил
Mike
Быстрее балансируется, меньше параметр NF
Vlad
не iops-ом единым нужно считать
Михаил
Кэш в памяти - секретное оружие highload!
Ага, зато на графике красиво)
Александр
не iops-ом единым нужно считать
Если брать за цель iops то чо б нет 😆
Vlad
Если брать за цель iops то чо б нет 😆
Блин, ну ты-же инженер! Тебе нужно понимать что "под капотом".
Александр
Ирония же бле
Александр
:-\
Александр
Ладно, надоели уже со своим флудом
kiosaku
нынешние "инженеры" уже не знают, что под капотом ... ремонт схд выполняют по мануалу с инструкциями вида "вынь диск, поставь новый"
Александр
Ой всё, опять флуд.
Dimonyga
Здравствуйте уважаемое сообщество. А никто не считал стоимость хранилища под выполнение закона яровой ? беда в том что там большие скорости, но запись более менее линейная.
Александр
В каком-то канале считали O_o Искать надо.
Dimonyga
Окей, расссмотрим примерный кейс - запись видео архива. Есть у кого такое ?
Александр
Подобного не видел. Считали сколько трафика бегает и от него размер хранилища+цена
Dimonyga
Меня интересует концептуально. Примерно составил схему: SSD пул под кэш, jerasure пул на HDD как хранилище.
Dimonyga
Дело еще в том, что нагрузка неравномерная, есть ярко выраженные пики трафика, где-то с 7 вечера и утихает до часу ночи.
Александр
Ну я думаю таких расчётов тут ни кто не делал.
Dimonyga
Бррр .... грустненько ..
Александр
А, вот нашёл, считали хранилище 1пб в 12-15кк рублей, без учетов нагрузки и т.д., чисто хранилка
Михаил
Как вы так насчитали
Александр
Пруфы
Пузырёв считал 😆 В сисадм, у него спроси
Михаил
Нууу, ладно
Dimonyga
А писать то чем будете? Своя утилита? Erasure Coding не работает с RBD
Писать своим. Там всё довольно просто, ERSPAN + сортировалка/записывалка. Erasure Coding работает с RBD. где вы вычитали обратное ?
Михаил
Не даёт создать блочник
Dimonyga
[root@compute-31 ~]# ceph osd pool ls detail pool 1 'one-EC-2-1' erasure size 3 min_size 2 crush_ruleset 1 object_hash rjenkins pg_num 64 pgp_num 64 last_change 98 lfor 35 flags hashpspool tiers 2 read_tier 2 write_tier 2 stripe_width 4096 removed_snaps [1~9]
Dimonyga
[root@compute-31 ~]# rbd ls -p one-EC-2-1 one-13 one-14 one-15 one-16 one-18 one-20 one-21 one-22 one-23 one-24 one-30 one-31 one-34 one-35 one-36 one-40 one-43 one-7
Dimonyga
[root@compute-31 ~]# ceph —version ceph version 10.2.3 (ecc23778eb545d8dd55e2e4735b53cc93f92e65b)
Dimonyga
Лишка скопировал
Михаил
Size3 wtf?!
Dimonyga
Size3 wtf?!
маленький пул в нем всего 4 OSD
Михаил
ЧЯДНТ ?
It is not possible to create an RBD image on an erasure coded pool because it requires partial writes.
Михаил
http://docs.ceph.com/docs/master/rados/operations/erasure-code/
Михаил
у erasure coding нет понятия size)
Михаил
у него есть понятие k и m
Mark ☢️
А кстати, почему рбд не может в EC-пулы ? вот ему не пофиг ли ? это же на API работы с объектами через librados не влияет же?
Mark ☢️
или я не прав ?
Dimonyga
у erasure coding нет понятия size)
В данном случае сайз считается как k+m. у меня 2-1, вот он и отображает 3
Dimonyga
или я не прав ?
Прав, но программно ограничено. erasure пул для RBD может использоваться только с кэш пулом, который обязательно должен быть обычным.
Dimonyga
вот оно че
Так в доке же написано про это
Михаил
да, я не дочитал)
Dimonyga
да, я не дочитал)
It is not possible to create an RBD image on an erasure coded pool because it requires partial writes. It is however possible to create an RBD image on an erasure coded pools when a replicated pool tier set a cache tier:
Михаил
ну то есть условно берем 1 ссд под кеш, делаем из нее пул с размером 1, объявляем кешем и вперед?)
Dimonyga
буржуйским по белому написано
Dimonyga
ну еще квотой 1 =)
Dimonyga
чтобы вс сразу скидывалось
Mark ☢️
а почему ЕС-пулы не поддерживают частичную запись? возможно, я тупой, но это же и в ЕС можно....
Mark ☢️
частичная — это, видимо, пару байтов по смещению в таком-то объекте.
Mark ☢️
проклятье
Михаил
обещали в люминусе
Михаил
или как его там
Mark ☢️
люминоус
Dimonyga
люминоус
Это новый LTS ? а когда выходит ?
Mark ☢️
хз
Mark ☢️
есть вот это: https://trello.com/b/ugTc2QFH/ceph-backlog
Михаил
ну по крайней мере обещали
Dimonyga
Блин, я только только сподобился на jewel перелезти .... негодяи. В люминоусе опять +100500% к производительности ?
Михаил
там будет веселье в виде рабочего bluestore
Михаил
который +100500% к производительности
Михаил
если взлетит)
Mike
у него есть понятие k и m
Оно выводится как size в свойствах пула. При k=3, m=2 size будет 5
Mark ☢️
который +100500% к производительности
Насколько я понял, пропадёт хак что журнал используется как кеш на запись.
Mark ☢️
поэтому для кеширования записи придётся мастерить чот своё
Mark ☢️
dmcache или чтото в этом стиле (там её пару решений есть)
Михаил
ну зато у тебя убирается двойная запись
Mark ☢️
зато нет кеша на запись
Михаил
и всё это говно с ФС
Mark ☢️
дада.
Mark ☢️
но ссд меня сейчас сильно вывозит
Mark ☢️
а если его не будет - то пиковые нагрузки превратятся в ад
Mark ☢️
у меня