Ну слышал что есть кто запускает мониторы ceph как daemonset на каждой ноде к примеру.

это попытка приделать к бульдозеру крылья и думать, что он полетит.

Подскажите есть ли альтернатива ELK для централизованого сбора логов?

Подскажите есть ли альтернатива ELK для централизованого сбора логов?

graylog

Подскажите есть ли альтернатива ELK для централизованого сбора логов?

fluentd

Подскажите есть ли альтернатива ELK для централизованого сбора логов?

https://www.graylog.org/overview

но только вот пока что к k8s его не прикрцучивал лично

graylog

Хранилище всеравно еластик?

Хранилище всеравно еластик?

да

нет. 1. прямой доступ к железу 2. конейтер по определению эфемерен и может быть в любой момент убит и перезапущен на любой машине.

у вас есть понимание в отличие доступа к железу "напрямую" и из "контейнера"?

Хранилище всеравно еластик?

А свои настройки он монге хранит

Ну сори за офтоп, а если бы я спросил кто чем логи сервисов в кубере собирает?)

у вас есть понимание в отличие доступа к железу "напрямую" и из "контейнера"?

А есть какое то отличие? :)

А есть какое то отличие? :)

вот и мне интересно, видимо это скорее вопрос для @docker_ru

А насколько вообще ceph надежен?

https://t.me/ceph_ru

Подскажите есть ли альтернатива ELK для централизованого сбора логов?

Loghouse

Loghouse

Устриц ели?)

Планирую. Clickhouse будет полегче для логов, чем ELK

Подскажите есть ли альтернатива ELK для централизованого сбора логов?

Splunk (https://www.splunk.com, cloud/on-premise); Loggly (https://www.loggly.com, cloud); Datadog (https://www.datadoghq.com, cloud)

Splunk (https://www.splunk.com, cloud/on-premise); Loggly (https://www.loggly.com, cloud); Datadog (https://www.datadoghq.com, cloud)

кстати, пробовали что-нибудь из вышеперечисленного?

Splunk и Loggly активно, Datadog только тур и демо, сейчас почти всё в ELK

Splunk и Loggly активно, Datadog только тур и демо, сейчас почти всё в ELK

а не расскажите ваши юз-кейсы. вы по логам какие-нибудь интересные графики делаете? типа гео локейшен? или для алертов

а не расскажите ваши юз-кейсы. вы по логам какие-нибудь интересные графики делаете? типа гео локейшен? или для алертов

Графики активности, алерты, всё более-менее стандартно

В splunk on-premise стало нехватать места по лицензии, в loggly иногда не доходят логи. А ELK перевели часть x-pack в open source https://www.elastic.co/products/x-pack/open

LogHouse сырой, с замечанием про устриц согласен... Я ниасилил

Планирую. Clickhouse будет полегче для логов, чем ELK

ClickHouse != LogHouse 😁

У него под капотом именно он

У него под капотом именно он

ClickHouse - db, LogHouse - ui через clickhouse-client. А сбор через fluentd

Ответ ELK

Кто то пробовал rook ?

Я пробовал. Если на ноде удалить все с /var/lib/docker/, то у вас будет минус одна нода ceph, при этом автоматом когда вы запустить kubelet он контейнеры вернет, но ceph в строй не вернется автоматом и у вас будет кластер с 2 работающими нодами ceph

Потом попробовал без рука ceph поставить, сломать у меня его не получилось :)

ClickHouse - db, LogHouse - ui через clickhouse-client. А сбор через fluentd

Вы сейчас написали очевидные вещи. Можно вопрос зачем? Вас смутило что я сравнил стэк с чисто базой?

я позавчера смотрел презентацию rook на кубконе https://www.youtube.com/watch?v=To1ldyb_9NA&list=PLj6h78yzYM2N8GdbjmhVU65KYm_68qBmo&index=31 и если честно не понимаю юзкейса

Вы сейчас написали очевидные вещи. Можно вопрос зачем? Вас смутило что я сравнил стэк с чисто базой?

Смутило, да. Сравнивать так стек со стеком

т.е. rook этот создаст мне кластер ceph прямо на моих нодах куба, каким-то боком там на моих нодах размажет вольюмы

и тут мне не ясно, сколько же мне стораджа надо на каждой ноде иметь чтобы все это работало?

пока у меня ощущение что это для детских поделок с вольюмами на 10 гиг

а если у меня ноды разные и по цпу с памятью и по диску (а то еще и hdd будут) - это что вообще будет? в итоге я так понимаю выйдет приколачивание подов с руком на нужных нодах - и чем это лучше отдельно стоящего ceph кластера?

rook - это инструмент деплоя ceph кластера. не более, его не обязательно мешать с кластером где раздеплоены ворклоады

т.е. мне для кластера ceph надо еще отдельный кластер куба поднять? Тогда если честно - еще больше непонятен юзкейс

Что даст деплой ceph в кубер кластер в таком случаи, если его не мешать с воркер нодами, в таком кейсе кубер просто лишняя прослойка

Плюс сложность конфигурирования самого ceph

Тот же скраб и планирование его с ростом кластера и нагрузки

То же редактирование круш карты, что бы разделить ноды по рэкам и машзалам

Да и вообще куча всего, сам по себе ceph то ещё попоебство, а тут ещё его в кубере предлогают ранить и управление отдать какому-то инструментарию ещё в Альфа версии

Это разве что так, для демо стенда где данные потерять не проблема

Тот кто предлагает rook юзать сейчас, явно с ceph имеет очень скудный опыт и не на больших данных и не с активной жизнью дисков, у которых срок наработки есть уже в пару лет

прямо все мои сомнения просуммированы

т.е. мне для кластера ceph надо еще отдельный кластер куба поднять? Тогда если честно - еще больше непонятен юзкейс

сейчас де факто раздеполить "еще один" k8s не является проблемой, и многие workload'ы специально деливерят для k8s что бы окрестрировать и автоматизировать деплоймент

сейчас де факто раздеполить "еще один" k8s не является проблемой, и многие workload'ы специально деливерят для k8s что бы окрестрировать и автоматизировать деплоймент

То что есть "распрекрасный" кубер, не говорит что в него надо пихать все, хотя они и пытаются навязать обратное

То что есть "распрекрасный" кубер, не говорит что в него надо пихать все, хотя они и пытаются навязать обратное

есть же бест-практис и статьи, где довольно доходчиво написано что стоит совать в k8s, что нет

https://pbs.twimg.com/media/DcXBhzoW4AA0LGg.jpg посмотрите на этих серьезных дядей rook.io deep dive for developers & admin

https://techcrunch.com/2018/05/02/upbound-grabs-9-m-series-a-to-automate-multi-cloud-management/

https://pbs.twimg.com/media/DcXBhzoW4AA0LGg.jpg посмотрите на этих серьезных дядей rook.io deep dive for developers & admin

и что я тут должен увидеть?

у меня опыта с ceph с 0.8 его версии

и я оперирую реальным опытом, а не серьезными дядеми

вообщем я не защищаю и не продаю rook, очевидная архитектурная промашка, если при апгреде k8s на котором запущен rook и ceph, k8s полоамется, нужно будет применить смекалку что бы вытащить из поломанного ceph'a user-data остальные аргументы про "доступ на прямую к железу" и "докер - это эфемерные контейнеры", мягко говоря не очень.

и я оперирую реальным опытом, а не серьезными дядеми

окей, когда у меня сломается ceph у кастомера на 11 пятабайт и не смогу его починить, я напишу вам в ЛС с коммерческим прердложением. пока полет нормальный

11 петабайт рав или с каким-то уже RF?

уже RF

и какой именно RF?

сколько лет наработки дискам, какая сеть?

сколько дисков на ноду и колличество памяти на нее

crush мапа редачидась или дефолтная

что со скрабом

сколько лет наработки дискам, какая сеть?

этому деплойменту около 4 месяцев, железо было закуплено полностью новое. если вам нужны детали, я смогу их добыть в понедельник, прямо с env'a

11 петабайт это уже занятого обйома или всего с учетом RF подупстим 3

11 петабайт это уже занятого обйома или всего с учетом RF подупстим 3

нет, не занятого, перед ним стоит небольшой кластер. обкатываем workload'ы и запускаем далее на большом ceph'e

я так понимаю за 4 месяца из 11 петабайт занято не так уж и много

вам видимо виднее, впрочем это оффтопик.

Я пробовал. Если на ноде удалить все с /var/lib/docker/, то у вас будет минус одна нода ceph, при этом автоматом когда вы запустить kubelet он контейнеры вернет, но ceph в строй не вернется автоматом и у вас будет кластер с 2 работающими нодами ceph

Такое себе :(

Splunk (https://www.splunk.com, cloud/on-premise); Loggly (https://www.loggly.com, cloud); Datadog (https://www.datadoghq.com, cloud)

Спасбо, но

Походк альтернатив еластику нет

Разае что logstash поменять

Походк альтернатив еластику нет

Как справедливо заметил @shursh — стек ClickHouse (+LogHouse+fluentd)

Спасбо, но

Если объёмы логов небольшие - можете попробовать Splunk Free license (up to 500 MB per day and will never expire)

oklog ещё есть, но у него не все фичи пока реализованы

Кто-то может поделиться линком на гластер канал в телеграме?

https://github.com/kubeflow/experimental-kvc кто нибудь пробовал?