Anonymous
Меня просто интересует вопрос, кто-нить делал rados deploy без скрипта ceph-deploy. Так называемый manual install Сделал ключи, в ceph auth list все ок, Написал минимальный конфиг. И не пашет. [client.radosgw.gateway] host = portal-storage1.xxx.ru keyring = /etc/ceph/ceph.client.radosgw.keyring rgw frontends = "civetweb port=80"
Михаил
А чем тебе ceph deploy не угодил?
Anonymous
- Это все нужно засунуть в папет. - SSH доступа нет. Он запрещен. - Должна быть полная прозрачность в настройке сторожа. Вот такое поставили в таске мне.
J
Допустим я откатился на 10.2.5 Этого по идее достаточно для поднятия радоса? Или я все же то-то упускаю?
А это все у тебя в продакшоне сразу делается или в тестовых виртуалках? Ну чтоб понимать какие могут быть проблемы)
Anonymous
Все на физ железе. После подготовки манифестов, все уходит на пересетап, накатку папетом и в продакшн.
J
Я к тому что попробовал бы по-быстрому кластер собрать в виртуалках и там руками настроить rgw.
Sergei
сначала посмотрел на требования, потом узнал контору, потом вспомнил имя.
Sergei
сочувствую вам.
Sergei
без ceph-deploy кластер поднимается.
Sergei
и radosgw тоже.
Anonymous
Требования. Сам понимаешь
Sergei
до того как возиться с ним и паппетом - я бы (и любой бы) крайне рекомендовал поиграть с кластером в ручном режиме.
Sergei
потом, когда разберешься что к чему - осилишь сделать это паппетом.
Anonymous
В ручном режиме - это что имеется ввиду ? Да портал. Для Все мелких проектов один больной кластер. И по одному кластеру для жирных
J
В ручном режиме - это что имеется ввиду ? Да портал. Для Все мелких проектов один больной кластер. И по одному кластеру для жирных
Это не через сeph-deploy\ceph-ansible, а прям руками Создать директории, ключи, добавить осд в краш карту, написать минимальный конфиг, ну и такое всякое.
J
Когда раза два-три проделаешь все это руками, начнешь понимать чо где может не так пойти.
Anonymous
Да да да. Сейчас так и делаю
Anonymous
В том то и проблема
Anonymous
застрял на RGW.
Anonymous
А так все руками. никаких деплоев. Доки сефа, гугл и бубен
Sergei
ну так ты посмотри что с ним не так
Sergei
чего застрял-то
J
Ага. Значит эта ошибка на тестовом кластере у тебя?) Дебаг уровень повысить попробуй еще. Но не слишком.
Anonymous
RGW до 20 поднял. Толку мало. Пришлось стрейсить. В стрейсе видно что он таймаутит в порт 6805. Там сидит osd.3. В то же время в логах OSD ничего приметного нет.
Anonymous
*до 20 - уровень логов
Anonymous
FW выключен. tcpdump не догадался ...
Sergei
ну если у тебя один демон идет в другой, другой слушает порт, первый не может дойти до второго, то кажется это сетевая проблема.
Mark ☢️
Или селинуксная
Mark ☢️
Аппарморная
Mark ☢️
Смотри дмесг на обоих контуперах
Sergei
FW выключен. tcpdump не догадался ...
FW выключен - дядя Ку должен по голове надавать
Anonymous
селинукс disabled по умолчанию. Юзается CO7. Завтра, действительно проверю tcpdump-ом. Плюс откачу до LTS версии.
Anonymous
Дяде не говори =)
Alexander
Ооо! Вадимка! Привет! Стесняюсь спросить, а у тебя кластер то работает?
Anonymous
STATUS_OK =)
J
Раз уж речь зашла об инструментах, ребята. Кто-нибудь пользуется ceph-ansible? Насколько отвратительно?
Mentat
Я пользуюсь. Главное сначала тестировать и первично допереть, что то, что лежит в galaxy и в репе- две большие разницы
Mentat
А так норм
J
Эх. Я чего-то посмотрел, как и любой большой проект на ансибле будто из говна и палок склеен. Сто тыщ файлов, зависимостей, все на очень мелкие роли разбито. И главное - все равно ceph-disk используют.
Mentat
Ну, ансибл он такой на больших проектах
citius
я пробовал, выкинул каку в итоге. цеф-деплой как-то проще. ну или под себя написать роли, чтобы не трахаться с их лапшой.
citius
с опенстеком тоже самое например. openstack-ansible у меня так ни разу и не смог ничего путного запустить. :D в результате пишу свои роли.
J
с опенстеком тоже самое например. openstack-ansible у меня так ни разу и не смог ничего путного запустить. :D в результате пишу свои роли.
Та же история, да. Только работает, конечно, но хрен чего поправишь. Сама структура репозитория такая что мозги сломаешь выискивая что где править)
Mentat
Своё писать это святое , но для быстрого старта спасает чужое
J
Спасибо, джентельмены)
Роман
Всем привет. ceph-deploy не совместим с Debian 9?
J
Почему?
Роман
Почему?
[ceph_deploy][ERROR ] UnsupportedPlatform: Platform is not supported: debian 9.0
Роман
Как-то это можно победить?
J
Да, легко, мне кажется.
J
Он на питоне написан.
J
Или в lxc контейнерах демоны запускать.
Михаил
Всем привет. ceph-deploy не совместим с Debian 9?
я не уверен, что сам ceph то очень совместим)
J
Можно, наверное. Я с этой дрянью не работаю, посоветовать не могу насчет докера. Вон, ceph-ansible сразу в докере умеет раскатывать.
J
я не уверен, что сам ceph то очень совместим)
А ему какая разница? И на гентах и на clearlinux работает, гляжу)
J
ну, вопрос в стабильности
Это не вопрос. Это пока просто пустое опасение. Ну, кстати, можно попробовать придумать чо не так пойдет в дебиане. Прям конкретно.
J
Я не вижу)
Михаил
но попробовать то всегда можно
J
Да и ceph-deploy дебиан поддерживает, просто не девятый, видимо.
Михаил
встать то встанет, вопрос как работает но да, это исключительно мои опасения
J
Ну, кстати, вот. https://github.com/ceph/ceph-deploy/blob/c22764725eb1a588d7db6889e20006a954a0616a/ceph_deploy/hosts/__init__.py
J
В конце def _get_distro(distro, fallback=None, use_rhceph=False):
J
О, вот. Дошел)
J
Там, кароч, через remoto выполняется функция remotes.pllatform_information: https://github.com/ceph/ceph-deploy/blob/c22764725eb1a588d7db6889e20006a954a0616a/ceph_deploy/hosts/remotes.py
J
Добавляешь туда девятый дебиан в словарь debian_codenames и дело сделано, я думаю)
Михаил
J
Думаю, все заработает) Ты как-то пессимистично на вещи смотришь.
Михаил
Думаю, все заработает) Ты как-то пессимистично на вещи смотришь.
есть такое просто насмотрелся уже "мы поставили тестинг кракена, помогите у нас не работает"
Михаил
или "у меня на генте не ставиться цеф, цеф деплой пользовать не хочу, вы уроды не помогаете мне"
Александр
:)