Вот степ фо репродьюс

https:// codeshare. io/aJgoVd

все контейнеры обновились в +- одинаковое время

и никто не ждал 29 sec

Приложение (деплоиться)

Долго ты мне будеш жизнб портить отвечяй

ХАХАХАХА

вопрос для тех кто EFK стэк пользует для логов и докер как runtime я правильно понимаю что все log driver'а, кроме json-file поломают kubectl logs, и поэтому нужно использовать его? и писать из докер демона напрямую во fluentd не вариант? и как вы тогда делаете log rotation этих файлов? можно в докер демоне указать, но тогда возможны потери логов, когда fluentd агент не успел обработать кусок файла, а он уже ротировался

журналды с некоторыми условиями работает

вопрос для тех кто EFK стэк пользует для логов и докер как runtime я правильно понимаю что все log driver'а, кроме json-file поломают kubectl logs, и поэтому нужно использовать его? и писать из докер демона напрямую во fluentd не вариант? и как вы тогда делаете log rotation этих файлов? можно в докер демоне указать, но тогда возможны потери логов, когда fluentd агент не успел обработать кусок файла, а он уже ротировался

Вам нужен другой формат логов на выходе?

нет, просто хочу понять best practice здесь сперва когда смотришь на это, кажется что писать докер демоном в файл это лишний шаг..

подскажите пожалуйста как перенести в yaml конфиги вот эту строку kubectl --namespace monitoring port-forward svc/grafana 3000

нет, просто хочу понять best practice здесь сперва когда смотришь на это, кажется что писать докер демоном в файл это лишний шаг..

Я использую fluend-bit агенты в кластере. Они конектятся к докеровскому сокету и пересылают все события во fluend, в готором агрегируются все логи. Если правильно понял

о, спасибо, попробую также!

подскажите пожалуйста как перенести в yaml конфиги вот эту строку kubectl --namespace monitoring port-forward svc/grafana 3000

https://kubernetes.io/docs/concepts/services-networking/service/#type-nodeport

с типом: NodePort

о, спасибо, попробую также!

Классная штука. Вот тут можно почитать про настройку https://banzaicloud.com/blog/k8s-logging-tls/

спс!

Я использую fluend-bit агенты в кластере. Они конектятся к докеровскому сокету и пересылают все события во fluend, в готором агрегируются все логи. Если правильно понял

А почему не слать агентами напрямую?

А почему не слать агентами напрямую?

Шлю в эластик логи. Не совсем удобно это делать на прямую. Ну и там https из коробки плюсом.

подскажите плиз вот эта строку kubectl --namespace monitoring port-forward svc/grafana 3000 можно ли заменить вот этим конфигом? apiVersion: v1 kind: Service metadata: name: grafana namespace: monitoring labels: app: grafana spec: ports: - port: 3000 targetPort: 3000 selector: app: grafana ?

первым ты обозначаешь проброс порта на локалхост, а вторым сервис графаны

Я использую fluend-bit агенты в кластере. Они конектятся к докеровскому сокету и пересылают все события во fluend, в готором агрегируются все логи. Если правильно понял

ты что-то типа такого используешь в докер демоне? { "log-driver": "fluentd", "log-opts": { "fluentd-address": "unix:///path/to/fluentd.sock" } } и потом этот сокет в input fluent-bit указываешь?

ты что-то типа такого используешь в докер демоне? { "log-driver": "fluentd", "log-opts": { "fluentd-address": "unix:///path/to/fluentd.sock" } } и потом этот сокет в input fluent-bit указываешь?

Нет. Там ничего не нужно в докер демоне трогать. Просто ставишь fluentd-bit и указываешь куда логи форвадить в переменном окружении. Дальше он все сделает сам. Не какие правки в конфиги докер демона он не делает. Он монтирует volumes: volumeMounts: - name: varlog mountPath: /var/log - name: varlibdockercontainers readOnly: true mountPath: /var/lib/docker/containers И все

аа ты просто сказал, что он сокет докера слушает, я подумал., что логи он оттуда и забирает а так получается все равно он делает tail из файлов в директории logs? тогда остается проблема с ротацией все равно

подскажите плиз вот эта строку kubectl --namespace monitoring port-forward svc/grafana 3000 можно ли заменить вот этим конфигом? apiVersion: v1 kind: Service metadata: name: grafana-service labels: name: grafana spec: type: NodePort ports: - port: 3000 nodePort: 3000 name: http selector: name: grafana Конфиг взял NodePort

подскажите плиз вот эта строку kubectl --namespace monitoring port-forward svc/grafana 3000 можно ли заменить вот этим конфигом? apiVersion: v1 kind: Service metadata: name: grafana-service labels: name: grafana spec: type: NodePort ports: - port: 3000 nodePort: 3000 name: http selector: name: grafana Конфиг взял NodePort

уже теплее

? ok

Вопрос века - ceph или minio?

Вопрос века - ceph или minio?

сеф

O_O

аа ты просто сказал, что он сокет докера слушает, я подумал., что логи он оттуда и забирает а так получается все равно он делает tail из файлов в директории logs? тогда остается проблема с ротацией все равно

Да не верно выразился. Ты имеешь в виду ротация в самом докере?

на minio такие вещи как базу не поставишь. Писать менеджер статических файлов типа загруженных картинок на цеф зачем, если есть minio?

Да не верно выразился. Ты имеешь в виду ротация в самом докере?

ну да, как делать ротацию чтобы fluent не терял часть логов

Вопрос века - ceph или minio?

ceph конечно

и два было про процессы и "за жизнь" - keynote и #DataDrivenDevOps

DataDrivenDevOps норм

ну да, как делать ротацию чтобы fluent не терял часть логов

Если не ошибаюсь это находися в конфиге докер демона. Ну у меня проблем не возникало. Всегда норм все было

А почему не слать агентами напрямую?

https://12factor.net/ru/ не велит

а 12фактор нынче стало строгим стандартом, от которого нельзя отступать?

а 12фактор нынче стало строгим стандартом, от которого нельзя отступать?

Можно, но должны быть веские причины

кто сказал?

кто сказал?

походу статистика.

ну тогда конечно надо всем так делать

любое отклонение от среднего - расстрел и увольнение

Просто есть best practices и если ты им следуешь, то избегаешь 99% проблем, если нет то ты ССЗБ и разгребаешь свои какахи сам. У меня, на пример, на второй вариант нет ни времени ни желания.

кто ж решил, что это "бест" практис?

Обчество

эти "бест" практис - универсальны для всех и каждого?

эти "бест" практис - универсальны для всех и каждого?

Это best, а не perfect

не must, я бы сказал

вот именно

походу статистика.

на самом деле это фантазии граждан из Heroku, и проверить следуют ли они им сами нет никакой возможности

лично я считаю, что это лишь рекомендации, а не строгие требования

Ну это ж как с техникой безопасности. Чтобы ее нарушать, нужно знать зачем и к чему это приведет. Если не знаешь - соблюдай.

лично я считаю, что это лишь рекомендации, а не строгие требования

Абсолютно точно! Если есть желание пройтись по уже размеченным на карте граблям самостоятельно, то никто не может тебе этого запретить.

если технику безопасности для всех пишет частная контора, то у меня для вас плохие новости

Если кто-то намеренно игнорирует ТБ, то новости еще хуже

Ну игнорирование не потому что могу, а с причинами

К чему я это: Нельзя говорить что ты делаешь что-то неправильно, если не следуешь 12-фактор буквально

Плотненький тут понедельник

кто сказал?

Здравый смысл

А кто-нибудь знает судьбу etcd-operator? Он изрядно приуныл после начала переезда и так и не переехал в etcd-io.

да вроде жив - https://github.com/coreos/etcd-operator

да вроде жив - https://github.com/coreos/etcd-operator

последний коммит — 20 Aug

последний коммит — 20 Aug

ну так шли пуллреквесты

так шлют) Никто не отвечает

ну да, как делать ротацию чтобы fluent не терял часть логов

В докере вроде выставляется размер буфера для логов, поскольку fluent отправляет в elastic ничего ты не потеряешь если у тебя весь стек работает

В докере вроде выставляется размер буфера для логов, поскольку fluent отправляет в elastic ничего ты не потеряешь если у тебя весь стек работает

насколько я понимаю, буфер выставляется для драйвера, а драйвер в моем случае json-file, т.е. докер демон вообще не знает про fluentd и может случиться ситуация, когда писался лог-файл container.log, он достиг лимита и докер демон из него сделал container-ts-old-log.gzip, и продолжил писать в теперь уже пустой container.log а если fluentd был перегружен в это время и не успел прочитать старый файл, то эти строчки никогда уже не попадут в эластик

А вот вопрос относительно использования fluentd в кубе. Мне нужна гарантия доставки и поддержания очередности сообщений в логах, fluentd это умеет? Мне нужно отправлять в amqp (rabbitmq), чтобы в последствии их обрабатывать по порядку

насколько я понимаю, буфер выставляется для драйвера, а драйвер в моем случае json-file, т.е. докер демон вообще не знает про fluentd и может случиться ситуация, когда писался лог-файл container.log, он достиг лимита и докер демон из него сделал container-ts-old-log.gzip, и продолжил писать в теперь уже пустой container.log а если fluentd был перегружен в это время и не успел прочитать старый файл, то эти строчки никогда уже не попадут в эластик

вручную чтоли перегружен? он постоянно мониторит

вручную чтоли перегружен? он постоянно мониторит

точно не помню но он вроде вешает watch на файл и если он менялся - перечитывает

Прекрасный ник

Прекрасный ник

Культура ников помирает, Миша, что делать. Мы вообще динозавры)

Культура ников помирает, Миша, что делать. Мы вообще динозавры)

У меня вообще ник гуглится)

Ребят, не бейте сильно)) Мне нужно отыскать грамотного DevOpS, шарящего в Kubernetes. Хотелось бы взять у него пару консультаций. Торжественно обещаю после этого покинуть чат)

ты можешь просто спрашивать здесь

ловкий HR

или нанять хочешь?

давайте договоримся, чьи апартаменты

У меня где-то был quickstart “как научиться хайрить девопсов чтобы не упасть лицом в грязь” ?

Ребят, не бейте сильно)) Мне нужно отыскать грамотного DevOpS, шарящего в Kubernetes. Хотелось бы взять у него пару консультаций. Торжественно обещаю после этого покинуть чат)

Всем бы хотелось)

Нет, я не ищу человека в штат или на аутсорс, задача скорее провести небольшой ликбез для команды что таое кубернетис, как работает, ответить на вопросы по ошибкам, с которыми мы столкнулись. Как-то так.

Наверное, это можно уместить в 1 день.

Наверное, это можно уместить в 1 день.

Сильно сказано, особенно учитывая "вопросы по ошибкам, с которыми мы столкнулись"

консалтинг

точно

Вы хотите бесплатно?

Нет, я не ищу человека в штат или на аутсорс, задача скорее провести небольшой ликбез для команды что таое кубернетис, как работает, ответить на вопросы по ошибкам, с которыми мы столкнулись. Как-то так.

А зачем это им и почему этим занимается HR?

Вы хотите бесплатно?

Не бесплатно конечно

А зачем это им и почему этим занимается HR?

Им нужно. А у меня работа такая)

так а если доку просто почитать в течение одного дня? Бесплатно вроде. А ошибки погуглить можно

так а если доку просто почитать в течение одного дня? Бесплатно вроде. А ошибки погуглить можно

а где мишкин

а где мишкин

По шпилям скучает

Если команда не просит k8s, то k8s не нужен команде.

лучшее враг хорошего же

@hr_god если я вам найду таких людей, 10% мне