Anonymous
Снимаем не м помощью diamond
Anonymous
Те все таки получается ssd пооблегчит ?
J
А вот надо посмотреть соотносятся ли значения apply latency с тем что вы через сокеты берете.
J
Потому что чот мне кажется что commit latency в perf и то что отдается через сокет - это разное. Ну, ссд облегчит хотя бы тем что не будет двойной записи на каждый жесткий диск. Чисто у механики будет меньше лишних подергиваний увеличивающих задержки.
Anonymous
А вот то что comitlatency у нам это дословно называется filestore.commitcycle_latency
Anonymous
Жаль что эти параметры толком не документированы
Anonymous
Брал я их описание вот отсюда
Anonymous
https://access.redhat.com/documentation/en-us/red_hat_ceph_storage/1.3/html/administration_guide/performance_counters
J
Commit latency в выводе perf - Это время на запись в журнал. А вот commitcycle, как из объяснения понятно, это время на синхронизацию журнала с filestore.
J
Ну вот. Я через сокеты не собираю эти метрики, а зря) Интересно ж. Там вон есть отдельно commit latency, к примеру.
J
А есть commitcycle.
J
Ну а теперь когда зудение у меня в одном месте успокоилось стоит подумать о том чтобы прямо из виртуалки измерять иопсы и задержки.
J
Потому что вот это то как раз и есть то что имеет значение.
J
Думаю, взяв пару тестов с fio из виртуалки, можно уж и прикидывать что и как.
Mark ☢️
Mark ☢️
Вы ничо не понимаете в хранилках
Александр
Они вообще норм 😊
Александр
Только вот на сколько я помню, каждая флешка как отдельный девайс определяется
Mark ☢️
Неа. Там рейд заявлен
eugeans
у меня на компе
Александр
Неа. Там рейд заявлен
Хм... Попробовать что ль
Dimonyga
ceph на rpi
Вызов принят!
Sergei
Вызов принят!
да это известная тема же
Sergei
а вот например на сотовых телефонах...
Sergei
да поверх wifi...
Dimonyga
да поверх wifi...
Не, это уже из разряда мазахизм уровень 100500, я такого не выдержу
Sergei
это из разряда поржать
Sergei
легкий гуглинг говорит что поднимать ceph on rpi приходит в голову куче народу
Dimonyga
легкий гуглинг говорит что поднимать ceph on rpi приходит в голову куче народу
говно идея, ибо если я правильно помню - у нее сетевушка скоммутировала через USB, я конечно возможно путаю, но .....
Dimonyga
+ 100 мегабит всего
Sergei
зато можно почувствовать себя яху в 97-м
Sergei
когда данных уже десятки терабайт
Sergei
а диски максимум по 5-10 гб
Sergei
и сети 100 мбитные
Dimonyga
конечно говно
А вот направление разворачивать не на серверах - ИМХО верное. я даже находил платы с кучей сата портов на армах и хорошей сетью, но за неадекватный ценник
Sergei
и он сильно прибит гвоздями к линуксу
Dimonyga
1 - линуксы легко запускаются на армах 2 - современные армы хороши в производительности
Sergei
1 - линуксы легко запускаются на армах 2 - современные армы хороши в производительности
ну так они точно такие же серверы, только с другой архитектурой. то что они армы - не делает их специализированными железками.
J
Вернулись к серверам :D
Sergei
хотя они несколько дешевле
Sergei
но в целом сеф не шибко требует 2697
Sergei
и E7
Дмитрий
у меня orangepi c 1Гбит
Дмитрий
+sata порт
Dimonyga
немного оговорится, имел ввиду x86 сервера.
Dimonyga
у меня orangepi c 1Гбит
а зачеплена через что ? USB ?
J
Да не USB там. Во всех армах на одноплатниках есть Ethernet MAC ядро.
Дмитрий
http://www.orangepi.org/orangepiplus2/ отдельный порт, плюс есть flash на 16гбайт для логов
Dimonyga
вывод lspci lsusb показать смогешь ?
J
Была, короче, вот такая история. http://ceph.com/community/500-osd-ceph-cluster/ Все видели, наверное.
J
Ну и, собственно, на WDLabs продают похожее щас.
Дмитрий
вывод lspci lsusb показать смогешь ?
~$ sudo lsusb Bus 006 Device 001: ID 1d6b:0001 Linux Foundation 1.1 root hub Bus 005 Device 001: ID 1d6b:0001 Linux Foundation 1.1 root hub Bus 004 Device 001: ID 1d6b:0001 Linux Foundation 1.1 root hub Bus 003 Device 002: ID 05e3:0718 Genesys Logic, Inc. IDE/SATA Adapter Bus 003 Device 001: ID 1d6b:0002 Linux Foundation 2.0 root hub Bus 002 Device 002: ID 1a40:0101 Terminus Technology Inc. Hub Bus 002 Device 001: ID 1d6b:0002 Linux Foundation 2.0 root hub Bus 001 Device 001: ID 1d6b:0002 Linux Foundation 2.0 root hub pci там нету
Александр
А где картинки?
Дмитрий
Ну и, собственно, на WDLabs продают похожее щас.
Sales in the United States, the United Kingdom, Austria, Belgium, Bulgaria, Croatia, Cyprus, the Czech Republic, Denmark, Estonia, Finland, France, Germany, Greece, Hungary, Ireland, Italy, Latvia, Lithuania, Luxembourg, Malta, Netherlands, Poland, Portugal, Romania, Slovakia, Slovenia, Spain, Sweden.
Александр
osd map cache size = 40 osd map max advance = 32 osd map message max = 32 - а почему именно так? Не оч понял :-\
Dimonyga
не влазиит в оперативку, видимо
Михаил
Об ускорении rbd, чинить ничего не требуется
перетащить на новый RBD том в котором включен stripe?) предварительно посмотрев разницу
Дмитрий
Я прикидывал, на Ceph на orangepi, выйгрыша по деньгам практически нет, заморочки с питанием, размещением, с доп свичами и.т.д. Нужно чтобы было 2 езернета, и 2 сата хотябы
Дмитрий
чисто поржать )
Александр
я про 2 сети и 2 сата
Александр
2 сети через usb адаптер, 2 сата так же
Александр
:)
Дмитрий
ну нет )
Александр
Как это нет, когда да)
Дмитрий
Как это нет, когда да)
ага еще на Mali400MP2 майнить эфириум параллельно
Anonymous
перетащить на новый RBD том в котором включен stripe?) предварительно посмотрев разницу
Страйпы увы не поддерживаются krbd, да и как тут они помогут, я всегда считал что максимальный размер объекта в rbd устройстве это размер кластера файловой системы(в случае ext4 это 4кб и больше никак) получается что страйпить то то нечего. Я неправ?