вариантов не много. npe = «что-то где-то сломалось»

ну не совсем строчк, там стектрейс такой красивый с подстановками и все такое

ну стектрейс, и что? Реальный источник ошибки не в нём

в выборку попал исходник. В нем рандомно выполнялась строчка, которая гадила в лог

Гдето я это видел

Типа аффтар сказал что это чтобы не засирать логи строчка логируется с маленькой вероятностью

Эпичнейший срач в гитхабе был

Чювак не понимал почему такое нельзя делать

Это называется семплирование

Когда трафика дохера то есть смысл

(дохера == миллионы реквестов)

На одной из работ где я работал, так логировали все ошибки бекенда. Потому что если кто-то деплоил хуйню на все 150 инстансов приложения то инстансы просто сами себя клали исходящим трафиком

Это называется семплирование

Это задача рсислога жи. Или жюрналдэ

А не софта

Какая разница чья задача есть throughput в итоге такой что все пиздой накрывается?

Если у софта очень жёсткие логи, то может быть и софта

Точнее это задача того кто это ваще может сделать

Журнал быстро дохнет от логов

Рсислог чуть позже

Но тоже можно убить его

И чем логировать тады ?

И чем логировать тады ?

файлами

Тогда чем рсислог хуже ? Фсинк выключаешь у него и фперед

я может быть стар и немоден, но по прежнему считаю что софт должен логировать в файлы _сам_

я может быть стар и немоден, но по прежнему считаю что софт должен логировать в файлы _сам_

Не. Говно. Плохоуправлчемо. Ротация логов ага

как по фэншую подсунуть какому-нибудь условному билдботу приватную репу гитхаба?

Управление фсинками ага

Не. Говно. Плохоуправлчемо. Ротация логов ага

да, логи в json, в systemd, в ядро их запихните, парсите на лету регулярками на руби

Перенаправление в сеть ага

да, логи в json, в systemd, в ядро их запихните, парсите на лету регулярками на руби

Не впадай в крайности

Перенаправление в сеть ага

rsyslog вполне может читать файл, если тебе нужно все эти штуки делать

rsyslog вполне может читать файл, если тебе нужно все эти штуки делать

Штэ ?

Штэ ?

если тебе надо отправлять лог в сеть, преобразовывать, складывать в кафку, потом еще куда-нибудь в реальном времени - вполне можно заставить rsyslog тейлить файл и делать все эти ништяки

Не. Логирование точно нужно централизовать в чото

И кода меньше и проще все

Не. Логирование точно нужно централизовать в чото

Не дело софта уметь логировать во все что ни попадя

Не дело софта уметь логировать во все что ни попадя

Праильно. Поэтому надо поддерживать только сислог :) ну или щас модно журналдэ

Праильно. Поэтому надо поддерживать только сислог :) ну или щас модно журналдэ

Или просто файлы

Праильно. Поэтому надо поддерживать только сислог :) ну или щас модно журналдэ

сислог архитектурно приспособлен терять сообщения

Или просто файлы

Просто файлы нихера не просто

А там пусть то чем ты там пользуешься это в сеть шьет

сислог архитектурно приспособлен терять сообщения

С юникссокетами то ?

Просто файлы нихера не просто

Что будет если сислог сдох?

С юникссокетами то ?

с юникс-сокетами сислог-отправитель архитектурно приспособлен терять сообщения

Что будет если сислог сдох?

Потеря сообщений. А что если метеорит упал ?

Что будет если ты в него шлешь столько данных, что ему поплохело?

с TCP-сокетами сислог-отправитель архитектурно приспособлен уметь в буферизацию, ретраи и т.п.

то есть задача нихуя не решена.

с юникс-сокетами сислог-отправитель архитектурно приспособлен терять сообщения

Вроде нет. Зависать будет. Не уверен.

Потеря сообщений. А что если метеорит упал ?

Смотря как сдох

А зачем вам гарантированая доставка для логов?

Что будет если ты в него шлешь столько данных, что ему поплохело?

А что будет если пишешь в файл так что фс поплохело ?

Это же не WAL для финансов

Это же не WAL для финансов

Лайк

А что будет если пишешь в файл так что фс поплохело ?

Забавно что это решить проще чем с сислогом

Это же не WAL для финансов

бывает, что это почти WAL для финансов

А зачем вам гарантированая доставка для логов?

Она и не нужна обычно.

Забавно что это решить проще чем с сислогом

И как ?

бывает, что это почти WAL для финансов

Пример?

Но вот чтоб сислог не вешал приложение - нужно

Но вот чтоб сислог не вешал приложение - нужно

Не вешает же

Вешает

С удп точно

И как ?

Кроме ситуации совсем сдохшего железа оно тебе когда нибудь вернёт управление. А сислог может и не вернуть

Пример?

например когда я работал в поисковиках, логи пользователей (и расширенные логи ранжирования) были чуть ли не самым важным что можно было придумать. потеря 0.05% логов уже вызывала вопли со стороны статистики

например когда я работал в поисковиках, логи пользователей (и расширенные логи ранжирования) были чуть ли не самым важным что можно было придумать. потеря 0.05% логов уже вызывала вопли со стороны статистики

Так такое надо писать в кафку стрим а не в лог

ERROR: S client not available

Это задача приложения

Так такое надо писать в кафку стрим а не в лог

да, да. кафка тоже теряет сообщения.

теряла. хз как щас.

теряла. хз как щас.

По определению она может терять данные

Ну слушай, кластер кафки уж явно поустойчивее будет

Ну слушай, кластер кафки уж явно поустойчивее будет

так он не падает. она просто проебывает маленькую порцию сообщений. молча.

Кроме ситуации совсем сдохшего железа оно тебе когда нибудь вернёт управление. А сислог может и не вернуть

SIGALRM кароч. Вот что надо от любых зависаний же

и потом этих сообщений у тебя нет, вообще нигде.

и потом этих сообщений у тебя нет, вообще нигде.

Дык это же дизайн кафки — ивенты.

С удп точно

видел как с SOCK_DGRAM вешало

Надо гарантию — кластер рэбита и так далее

SIGALRM кароч. Вот что надо от любых зависаний же

Или писать в сокет с таймаутом через poll

писать файлы, ротировать и в момент ротации (или позже) аплоадить в хадуп/архивный сторадж по результатам выходило надежнее.

Правда там пошардить придется

Надо гарантию — кластер рэбита и так далее

слушай, это ты мне кафку предложил

Не кафкой едины

вариантов хватает, я не спорю

но разве это проблема именно приложения - встраиваться в пайплайны обработки событий? приложение должно уметь отправлять в кафку, в хуявку, в хадуп, в реббит, агрегировать это все и отправлять в графит?

IMHO, задача приложения просто выплюнуть все нужные данные туда, где те, кому интересно, могут их подобрать. и приложение должно сразу же забыть о данных после того как выплюнуло. файл, за которым смотрит кто-то другой подходит здесь отлично.

Ну вот например в рэбите можно было бы сбоку подсосаться через фанаут схему

Т.е. насирать можно в один фанаут а дальше раутингом все сделать

IMHO, задача приложения просто выплюнуть все нужные данные туда, где те, кому интересно, могут их подобрать. и приложение должно сразу же забыть о данных после того как выплюнуло. файл, за которым смотрит кто-то другой подходит здесь отлично.

Посему файл то, епт

Посему файл то, епт

он локально, близко, примитивный рабочий интерфейс, не требует НИЧЕГО, кроме файловой системы.

Внутри рэббит сам тебе запилит копию сообщения а дальше делай топик и подписывайся на него. Надо гарантию — делай еще уровень через очереди.

он локально, близко, примитивный рабочий интерфейс, не требует НИЧЕГО, кроме файловой системы.

А ротация и фсинки ?

Пермишшены

И прочая хуита

И да, в линупсе врайты зависают если пейджкеш переполнен

А ротация и фсинки ?

ротация необязательна даже, во многих кейсах можно тупо транкейтить файлы (если объемы единичных write'ов невелики)

ротация необязательна даже, во многих кейсах можно тупо транкейтить файлы (если объемы единичных write'ов невелики)

Неатомарно жи

@spuzirev у нас в конторе кластера рэббита вообще на разных материках находятся. Схема фанаутов, топиков и очередей для приложений на этой шине ханимает несколько страниц документации.