Anonymous
Меня просто интересует вопрос, кто-нить делал rados deploy без скрипта ceph-deploy. Так называемый manual install
Сделал ключи, в ceph auth list все ок, Написал минимальный конфиг. И не пашет.
[client.radosgw.gateway]
host = portal-storage1.xxx.ru
keyring = /etc/ceph/ceph.client.radosgw.keyring
rgw frontends = "civetweb port=80"
Михаил
А чем тебе ceph deploy не угодил?
Anonymous
- Это все нужно засунуть в папет.
- SSH доступа нет. Он запрещен.
- Должна быть полная прозрачность в настройке сторожа.
Вот такое поставили в таске мне.
Anonymous
J
Anonymous
Все на физ железе. После подготовки манифестов, все уходит на пересетап, накатку папетом и в продакшн.
J
Я к тому что попробовал бы по-быстрому кластер собрать в виртуалках и там руками настроить rgw.
Sergei
Sergei
сначала посмотрел на требования, потом узнал контору, потом вспомнил имя.
Sergei
сочувствую вам.
Sergei
без ceph-deploy кластер поднимается.
Sergei
и radosgw тоже.
Anonymous
Требования. Сам понимаешь
Sergei
до того как возиться с ним и паппетом - я бы (и любой бы) крайне рекомендовал поиграть с кластером в ручном режиме.
Sergei
потом, когда разберешься что к чему - осилишь сделать это паппетом.
J
Anonymous
В ручном режиме - это что имеется ввиду ?
Да портал. Для Все мелких проектов один больной кластер. И по одному кластеру для жирных
J
Когда раза два-три проделаешь все это руками, начнешь понимать чо где может не так пойти.
Anonymous
Да да да. Сейчас так и делаю
Anonymous
В том то и проблема
Anonymous
застрял на RGW.
Anonymous
А так все руками. никаких деплоев. Доки сефа, гугл и бубен
Sergei
ну так ты посмотри что с ним не так
Sergei
чего застрял-то
J
Ага.
Значит эта ошибка на тестовом кластере у тебя?)
Дебаг уровень повысить попробуй еще. Но не слишком.
Anonymous
RGW до 20 поднял. Толку мало. Пришлось стрейсить.
В стрейсе видно что он таймаутит в порт 6805. Там сидит osd.3. В то же время в логах OSD ничего приметного нет.
Anonymous
*до 20 - уровень логов
Sergei
Anonymous
FW выключен. tcpdump не догадался ...
Sergei
ну если у тебя один демон идет в другой, другой слушает порт, первый не может дойти до второго, то кажется это сетевая проблема.
Mark ☢️
Или селинуксная
Mark ☢️
Аппарморная
Mark ☢️
Смотри дмесг на обоих контуперах
Anonymous
селинукс disabled по умолчанию. Юзается CO7.
Завтра, действительно проверю tcpdump-ом. Плюс откачу до LTS версии.
Anonymous
Дяде не говори =)
Alexander
Ооо! Вадимка! Привет!
Стесняюсь спросить, а у тебя кластер то работает?
Anonymous
STATUS_OK =)
Alexander
J
Раз уж речь зашла об инструментах, ребята.
Кто-нибудь пользуется ceph-ansible? Насколько отвратительно?
Mentat
Я пользуюсь. Главное сначала тестировать и первично допереть, что то, что лежит в galaxy и в репе- две большие разницы
Mentat
А так норм
J
Эх.
Я чего-то посмотрел, как и любой большой проект на ансибле будто из говна и палок склеен.
Сто тыщ файлов, зависимостей, все на очень мелкие роли разбито. И главное - все равно ceph-disk используют.
Mentat
Ну, ансибл он такой на больших проектах
citius
я пробовал, выкинул каку в итоге. цеф-деплой как-то проще. ну или под себя написать роли, чтобы не трахаться с их лапшой.
citius
с опенстеком тоже самое например. openstack-ansible у меня так ни разу и не смог ничего путного запустить. :D в результате пишу свои роли.
Mentat
Своё писать это святое , но для быстрого старта спасает чужое
J
Спасибо, джентельмены)
Роман
Всем привет. ceph-deploy не совместим с Debian 9?
J
Почему?
Роман
Почему?
[ceph_deploy][ERROR ] UnsupportedPlatform: Platform is not supported: debian 9.0
Роман
Как-то это можно победить?
J
Да, легко, мне кажется.
J
Он на питоне написан.
J
Или в lxc контейнерах демоны запускать.
Роман
Михаил
J
Можно, наверное.
Я с этой дрянью не работаю, посоветовать не могу насчет докера. Вон, ceph-ansible сразу в докере умеет раскатывать.
Михаил
J
ну, вопрос в стабильности
Это не вопрос.
Это пока просто пустое опасение. Ну, кстати, можно попробовать придумать чо не так пойдет в дебиане. Прям конкретно.
J
Я не вижу)
Михаил
Михаил
но попробовать то всегда можно
J
Да и ceph-deploy дебиан поддерживает, просто не девятый, видимо.
Михаил
встать то встанет, вопрос как работает
но да, это исключительно мои опасения
J
Ну, кстати, вот.
https://github.com/ceph/ceph-deploy/blob/c22764725eb1a588d7db6889e20006a954a0616a/ceph_deploy/hosts/__init__.py
J
В конце
def _get_distro(distro, fallback=None, use_rhceph=False):
J
О, вот. Дошел)
J
Там, кароч, через remoto выполняется функция remotes.pllatform_information:
https://github.com/ceph/ceph-deploy/blob/c22764725eb1a588d7db6889e20006a954a0616a/ceph_deploy/hosts/remotes.py
J
Добавляешь туда девятый дебиан в словарь debian_codenames и дело сделано, я думаю)
Михаил
J
Думаю, все заработает)
Ты как-то пессимистично на вещи смотришь.
Михаил
или "у меня на генте не ставиться цеф, цеф деплой пользовать не хочу, вы уроды не помогаете мне"
Александр
:)
Dmitry