J
Анатомия катастрофы про другую историю.
Не, я серьезно) У тебя классно в двух словах поулчается сказать почему то жопа, а это норм. Что не так с несколькими петабайтами в RBD?
J
При условии что пул не один.
Artemy
osdmap там будет и removed_snaps и рассылка всего этого на каждый апдейт карты
Artemy
рассылка на все OSD
J
Ды с цефом они без надобности)
Artemy
У тебя одна OSD флапнула, эпоха сменилась и все ждут пока не получат новые карты, а оно всё из себя такое асинхронное и встает раком пока не дойдет апдейт.
Artemy
То есть, беда скорее в количестве osd, а не в суммарном объеме?
В количестве осд и количестве данных которые надо раздать с монов в случае сколь-нибудь существенных изменений.
NS 🇷🇺
nvmeoverбутылка_коньяку =)
Denis
тут завезли же nvmeOverTCP и вот это все. в сифу вроде тоже вкатили, не?
NS 🇷🇺
ну после коньяку тебе уже будет пох =)
J
В количестве осд и количестве данных которые надо раздать с монов в случае сколь-нибудь существенных изменений.
Да вроде выглядит все не так страшно) Не "нельзя так делать", а аккуратно нужно планировать и эксплуатировать)
NS 🇷🇺
ну коньяк тут самый дешевый варик =)
NS 🇷🇺
Да вроде выглядит все не так страшно) Не "нельзя так делать", а аккуратно нужно планировать и эксплуатировать)
ты понимаешь, адепт рхела страдает с астродебом =) тут только горячительное поможет
Ilya
@ceph_ru
собирай емкость одного диска, количество osd на ноду и количество нод.
Ilya
и с этим приходи
Ilya
к каждой ноде по сколько осд?
Irek
норм процессоры? Это какие? )
Irek
😅
Irek
😅
это 8380 )
Irek
не нужны большие/толстые кластера…от них проблем много)
Ilya
Ilya
Это по 140 ТБ один SSD ?
Ilya
4000 Tb / 27 Нод
Ilya
Ну с точки зрения всяких репликаций и крашмапов то будет норм (серверов и OSD не много), а вот сколько иопсов каждый сервер будет снимать с диска - это вопрос. Ну и нагрузка на каждый сервак и его сетевую подсистему тоже будет высокая
Ilya
И еще не очень понятно (мне) как будет один процесс OSD справляться с таким жирным SSD. Нет уверенности, что можно это распараллелить. И возможно будет одно ядро в полку а всё остальное будет курить...А можно ли на jbof разбивать SSD на виртуальные, чтобы цеплять к каждому свой виртуальный SSD - не понятно
Vyacheslav
а у кого-то есть успешные истории борьбы с ST? переподписка всего 2, но из-за лимитов IOPS утыкаются в WA и это довольно больно, т.к. диск не переутилизируется, а все ядра ждут файловую подсистему
Vyacheslav
особенно хорошо получается, когда у VM кончается память и она начинает скидывать на диск cache
Михаил
Кстати по ceph, народ, а как вы выкручиваетесь, когда сервер passthru дисков не поддерживает? JBOD же это совсем так себе история)
J
Ну а чо тут придумаешь? Можно воткнуть контроллер поддерживающий it mode. Через всякие рейд контроллеры гонять данные стремная затея обычно.
Михаил
Говоря про цеф, подразумеваются зимбабвийские доллары, разумеется)
J
Ну да... Но я подумал, может есть какая-нибудь хитрость на миллион долларов?)
Ды хз. на самом деле, наверное, зависит от того чо ты хочешь добиться. На нормальном контроллере может и норм держать небольшое количество OSD.
Vyacheslav
Чуваки хотели подключить цеф к винде и …
что бы на нём шарепойнт разместить? 🙂
Artemy
Не знаю что они хотели но вот юзерспейсным нвме все и закончилось
Jürgen
Через dokan умел
Михаил
qemu-img convert :)
Михаил
Я не виндузятник от слова совсем, но предположу, что надо сделать какой-нибудь файл ответов, где ставится вся требуха драйверов virtio, cloud-init/cloudbase-init с пользователем и сиспреп. Вангую, опенстеком это сделать весьма не просто в автомате - надо делать в локальном либвирте
Илья | 😶☮️🐸
packer как вариант, через скрипты
Михаил
Пока в опенстеке не будет простого монтирования исошников - с виндой придется приседать
Jürgen
Используй пакер это работает
Михаил
Надо изучать, наверняка народ напридумывал костылей
Илья | 😶☮️🐸
Jürgen
Есть конфиг ?
Где то был надо поискать но я в баре пятницо же
NS 🇷🇺
Есть конфиг ?
А чем не устраивает описалово с клаудбейс инита?
Илья | 😶☮️🐸
Илья | 😶☮️🐸
чтоб выплюнул qcow2 или что там требуется
NS 🇷🇺
Так пакер про сборку образа
Ну там есть пример анатендед инстала засовывай и собирай
Илья | 😶☮️🐸
Из iso раскатываешь и збс
Илья | 😶☮️🐸
Оно энивей только 1 раз на систему будет же
Илья | 😶☮️🐸
За минут 10-15 можно управиться
Ilya
С козырей зашел
NS 🇷🇺
Да там тоже фигня
Илья | 😶☮️🐸
Илья | 😶☮️🐸
один раз образ собираешь и всё
Илья | 😶☮️🐸
самый прикол, когда жирный инстанс (40-60 рам) стартует и отжирает всю рам
Илья | 😶☮️🐸
кайфы
NS 🇷🇺
один раз образ собираешь и всё
Ну образ да ) я думал ты с исохи предлагаешь катать
Илья | 😶☮️🐸
Ну образ да ) я думал ты с исохи предлагаешь катать
не, стартуешь с iso, аттачишь цындер волюм и потом после установки цындер волюм в гланс заливаешь
Илья | 😶☮️🐸
заказчик барин, я просто рядом стоял
NS 🇷🇺
Мы с русским все делали. Что там поменялось?
NS 🇷🇺
Эт было в 18-19 годах. Собирали 2012 и 2016
NS 🇷🇺
Буду у компа, могу поискать старые конфиги.
Stanley
А в чем смысл собирать русскую серверную Винду?
Stanley
Да, там есть куда покопать... Я примерно 4 дня угрохал чтобы оно заработало. К тому же, как оказалось hyper v не умеет в DHCP, пришлось отдельно поднимать. Ну веселое там, да
Stanley
Причем, я пакером перебираю все линуха за час. Винда собирается часа три, четыре.
Stanley
Не верю. Там апдейты тянутся больше часа, плюс перезагрузки.
Stanley
А смысл тогда городить огород, если можно взять готовые клауд реди имиджи винды? Пересборка как раз нужна для апдейтов и собственных допилок.
kn
вот эти нельзя пользовать? https://cloudbase.it/windows-cloud-images/#download
kn
надо 2008?
kn
хм
kn
я не подумал об этом
Jürgen
Кстати вот тут дофига примеров для пакера https://github.com/chef/bento/tree/main/packer_templates