HTTPHandler: Code: 999, e.displayText() = zkutil::KeeperException: connection loss

а потом вроде нормально продолжает работать )

а потом вроде нормально продолжает работать )

погуглил для себя https://github.com/firehol/netdata/wiki/Monitor-application-bandwidth-with-Linux-QoS

йуху )

ну я прохо хотел услышать - "да, такое бывает, все норм"

ну я прохо хотел услышать - "да, такое бывает, все норм"

да, такое бывает, все норм

? тогда пойду спать )

у тебя сервис лежит а ты спать!

у тебя сервис лежит а ты спать!

когда работа - просто работа :)

когда работа - просто работа :)

Надо сообщить работодателю что у них айтишник сломался

в одном из проектов КХ используется как архивная БД вопрос как лучше хранить JSON данные произвольной структуры? ... т.е. данные выгружаются из NoSQL БД

тут вам не монга =) смотря на то, насколько произвольная структура

если повезёт, то сможете обойтись полями с DEFAULT 0 или типа того

@kamish а что, только монга является NoSQL БД? и на ней все заканчивается?

JSON-данные произвольной структуры можно в виде строки хранить в колонке типа «строка». Для архивной базы, надо полагать, большего от них не требуется, если придёт время обрабатывать — можно будет выкачать, и внешним софтом десериализовать и обработать. Если надо из этой структуры что-то выцеплять и, скажем, строить индексы или что-нибудь подсчитывать, то это уже не совсем произвольная структура, и то, что надо выцеплять, можно вынести в отдельные колонки. Если совсем никак не получится упихнуться в sql, то да, извините, кликхаус не документоориентированный, он чуть для другого. Впрочем, мне сходу не представить задачу, где одновременно нужна и архивность/эффективный time series, и сложная структура документов по делу (если не по делу — сериализуется в строчку и базе пофиг, что там).

Всем привет а никак нельзя из zookeeper узнать список серверов которые есть clickhouse cluster??

я просто смотрю что там только /clickhouse/task_queue и /clickhouse/task_queue/ddl создаются ключи по умолчанию и все

Наверное, если знать, какие именно ключи там кликхаус создаёт, можно что-нибудь выяснить. (Советы от безумного сисадмина.) Но я бы посмотрел через netstat или tcpdump кто к нему запросы шлёт.

Наверное, если знать, какие именно ключи там кликхаус создаёт, можно что-нибудь выяснить. (Советы от безумного сисадмина.) Но я бы посмотрел через netstat или tcpdump кто к нему запросы шлёт.

не, мне не разово надо, а на постоянной основе ну то есть я хочу знать есть ли где то в экосистеме clickhouse текущий state кластера и я кажется понимаю, что если при select zookerper не используется и state просто размазан по конфигам и наверное в коде никакой имплементации на эту тему нет ключи в zookeeper я уже посмотрел, ничего интересующего меня не нашел, расстроился ;)

у кликхауса есть системные таблички с инфой, если речь об этом

у кликхауса есть системные таблички с инфой, если речь об этом

вы про system.zookeeper ? https://clickhouse.yandex/docs/ru/system_tables/system.zookeeper.html а вот есть эта информация в самом zookeper ? дело в том что я в приложении не знаю какие у меня есть сервера в кластере а вот какие zookeeper сервера есть я знаю и мне надо найти все сервера clickhouse только из zookeper это никак?

или чтобы эта инфа появилась, надо ReplicatedMergeTree табличку хотя бы одну создать?

да, так и есть, охохошеньки хохо ;) чем же все таки яндекс манагерит свой кластер метрики? ну то есть, как делает service-discovery ? чтобы прописать все хосты в remote-servers.xml?

c удовольствием бы такой доклад послушал

хороший вопрос

вы про system.zookeeper ? https://clickhouse.yandex/docs/ru/system_tables/system.zookeeper.html а вот есть эта информация в самом zookeper ? дело в том что я в приложении не знаю какие у меня есть сервера в кластере а вот какие zookeeper сервера есть я знаю и мне надо найти все сервера clickhouse только из zookeper это никак?

https://clickhouse.yandex/docs/ru/system_tables/system.clusters.html чем плох?

Тем, что человек хочет получить эти информацию запросом к zookeeper.

а что мешает сделать такой запрос?

Тем, что человек хочет получить эти информацию запросом к zookeeper.

Кажется, задача "текущий state кластера", а не "через zookeeper"

господа, а директиву LISTEN можно из env задать ?

1.1.54327 поднимался на 0.0.0.0 1.1.54337 поднимается на 127.0.0.1 чего теперь на ci конфиг писать что ли ?

а переменная окружения то особо не спасет. черт.

ага. поломали докер имидж.

https://github.com/yandex/ClickHouse/blob/master/docker/server/Dockerfile тут вот

Кажется, задача "текущий state кластера", а не "через zookeeper"

нет задача "текущий state кластера через zookeper" в принципе реализуемо все просто надо чтобы в кластере уже были созданы ReplicatedMergedTree таблицы

нет задача "текущий state кластера через zookeper" в принципе реализуемо все просто надо чтобы в кластере уже были созданы ReplicatedMergedTree таблицы

То есть, вы хотите так же, как и ClickHouse, подписаться на ноды определенной таблицы, чтобы знать о состоянии? Понятно, спасибо

https://github.com/yandex/ClickHouse/blob/master/docker/server/Dockerfile тут вот

Я задаю конкретные айпи которые он должен слушать и запускаю контейнер с нет хост. Вроде все нормально работает. Проблема только с 0.0.0.0?

ну я запускаю конфтейнер через giltab-ci. как сервис. мне доступны среди опций запска толко entrypoint: в нем можно задать что нить типа $ clickhouse-server --listen_host 0.0.0.0 Unknown option specified: listen_host

Вчера пробовал кликхаус в докере запустить. И выяснил, что докер контейнер не работает. Этот фикс https://github.com/yandex/ClickHouse/pull/1611/files поломал этот фикс https://github.com/yandex/ClickHouse/pull/613/files

видна слаженная работа команды

я было думал issue завести, но как-то написал сюда. ?

Почему в контейнерах sed любят... Мне лично подход графаны больше нравится - всё на переменных.

потому что sed можно везде нафигачать. а переменные это надо в приложении фигачить

Можно сбацать обертку которая, например, питоном патчит XML из переменных окружения. Сто раз так делал ?

всем привет зачем clickhouse ругается мне на создание вот такой ReplicatedMergeTree таблицы? CREATE TABLE IF NOT EXISTS metrika2clickhouse.appmetrika_clicks_replicated ( app_id UInt64 DEFAULT 0, load_time DateTime DEFAULT now (), click_url_parameters String, os_version String, android_id String, ios_ifv String, ios_ifa String, publisher_name String, publisher_id UInt64, tracker_name String, click_id String, device_manufacturer String, google_aid String, tracking_id UInt64, click_timestamp UInt64, click_datetime DateTime, device_type String, device_model String, windows_aid String, click_ipv6 String, click_date MATERIALIZED toDate (click_datetime), os_name String, click_user_agent String, country_iso_code FixedString (3), city String ) ENGINE=ReplicatedMergeTree ( '/clickhouse/tables/{layer}-{shard}/appmetrika_clicks_replicated', '{replica}', click_date, click_ipv6, (app_id, publisher_id, click_ipv6, tracking_id), 8192 ) выдает code: 122, message: Table structure in ZooKeeper is too much different from local table structure. смотрю сюда https://github.com/yandex/ClickHouse/blob/master/dbms/src/Storages/StorageReplicatedMergeTree.cpp#L547 вижу что у меня "три" материализованных поля, а можно только два? а почему??? чем это обсуловлено? https://clickhouse.yandex/docs/ru/table_engines/replication.html вот тут в документации я ничего такого не вижу =(

кто нибудь натыкался на такое?

ок =( завел баг https://github.com/yandex/ClickHouse/issues/1803

а как в метрике решается вопрос дабл-хитов, когда один и тот же пользователь в течении определенного времени несколько запросов (просмотров) посылает? для отчетов надо как-то фильтровать такое, причем во многих местах.

всем привет зачем clickhouse ругается мне на создание вот такой ReplicatedMergeTree таблицы? CREATE TABLE IF NOT EXISTS metrika2clickhouse.appmetrika_clicks_replicated ( app_id UInt64 DEFAULT 0, load_time DateTime DEFAULT now (), click_url_parameters String, os_version String, android_id String, ios_ifv String, ios_ifa String, publisher_name String, publisher_id UInt64, tracker_name String, click_id String, device_manufacturer String, google_aid String, tracking_id UInt64, click_timestamp UInt64, click_datetime DateTime, device_type String, device_model String, windows_aid String, click_ipv6 String, click_date MATERIALIZED toDate (click_datetime), os_name String, click_user_agent String, country_iso_code FixedString (3), city String ) ENGINE=ReplicatedMergeTree ( '/clickhouse/tables/{layer}-{shard}/appmetrika_clicks_replicated', '{replica}', click_date, click_ipv6, (app_id, publisher_id, click_ipv6, tracking_id), 8192 ) выдает code: 122, message: Table structure in ZooKeeper is too much different from local table structure. смотрю сюда https://github.com/yandex/ClickHouse/blob/master/dbms/src/Storages/StorageReplicatedMergeTree.cpp#L547 вижу что у меня "три" материализованных поля, а можно только два? а почему??? чем это обсуловлено? https://clickhouse.yandex/docs/ru/table_engines/replication.html вот тут в документации я ничего такого не вижу =(

Судя по ошибке, в зк уже есть нода для этой таблицы. Вы туда смотрели? /clickhouse/tables/{layer}-{shard}/appmetrika_clicks_replicated - скорее всего, эта нода уже есть

всем привет зачем clickhouse ругается мне на создание вот такой ReplicatedMergeTree таблицы? CREATE TABLE IF NOT EXISTS metrika2clickhouse.appmetrika_clicks_replicated ( app_id UInt64 DEFAULT 0, load_time DateTime DEFAULT now (), click_url_parameters String, os_version String, android_id String, ios_ifv String, ios_ifa String, publisher_name String, publisher_id UInt64, tracker_name String, click_id String, device_manufacturer String, google_aid String, tracking_id UInt64, click_timestamp UInt64, click_datetime DateTime, device_type String, device_model String, windows_aid String, click_ipv6 String, click_date MATERIALIZED toDate (click_datetime), os_name String, click_user_agent String, country_iso_code FixedString (3), city String ) ENGINE=ReplicatedMergeTree ( '/clickhouse/tables/{layer}-{shard}/appmetrika_clicks_replicated', '{replica}', click_date, click_ipv6, (app_id, publisher_id, click_ipv6, tracking_id), 8192 ) выдает code: 122, message: Table structure in ZooKeeper is too much different from local table structure. смотрю сюда https://github.com/yandex/ClickHouse/blob/master/dbms/src/Storages/StorageReplicatedMergeTree.cpp#L547 вижу что у меня "три" материализованных поля, а можно только два? а почему??? чем это обсуловлено? https://clickhouse.yandex/docs/ru/table_engines/replication.html вот тут в документации я ничего такого не вижу =(

У меня обычная MergeTree и больше 3х материализованных полей. Такой ошибки не встречал

есть ли способ перелить данные из SummingMergeTree в AggregatingMergeTree? Числовые колонки в sumState, без проблем получается, а вот countState пока никак - не пойму как завернуть.

https://github.com/duremar/ch/wiki/summing-merge-tree-to-aggregating-merge-tree

@orantius спасибо, выглядит интересно, буду пробовать

Всем привет, а кто-нибудь пользовался спарком вместе с КХ? Пытаюсь вычитать датасет, загрузив его из КХ, но КХ ругается (Query is too large (316224). max_query_size = 262144). Сталкивались с таким? Если я просто настройку выкручу на побольше, чем мне это грозит?

а как вы его загружаете? каким запросом?

а как вы его загружаете? каким запросом?

Конкретно этот кусок грузится так chLoader.load(spark, "STATISTICS").where("id in (" + idString + ") and statisticTakenDate > '" + strDate + "'

idString может содержать сотни тысяч айдишников

видимо в этом проблема..

это что такое

какой-то спарковский коннектор?

Ну, я сам его написал

ну точнее, коннектор стандартный

А вот диалект просто для кх чуть поменял

хз, какой там в итоге запрос у вас выходит

Да обычный. Select * from … where id in(….)

В общем, вопрос в следующем, если выкрутить настройку на размер SQL запроса - это очень плохо? или лучше делить запросы на несколько поменьше.

В общем, вопрос в следующем, если выкрутить настройку на размер SQL запроса - это очень плохо? или лучше делить запросы на несколько поменьше.

"надо измерять" олсо, если не изменяет память, разве у кх не для этого как раз случая "внешние данные" сделаны?

https://clickhouse.yandex/docs/ru/table_engines/external_data.html

"надо измерять" олсо, если не изменяет память, разве у кх не для этого как раз случая "внешние данные" сделаны?

Это не данные, это размер sql запроса.

В символах, как я понял. Так, как я много айдишников туда передал, строка стала слоновьего размера

В общем, вопрос в следующем, если выкрутить настройку на размер SQL запроса - это очень плохо? или лучше делить запросы на несколько поменьше.

У нас был лимит 5кк. Жили так какое-то время, а потом один аналитик убил КХ длинным запросом, который переполнил стек

первые два абзаца по ссылке, которую я кинул все равно подходят к вашему описанию

первые два абзаца по ссылке, которую я кинул все равно подходят к вашему описанию

Понял, спасибо, изучу

Просто анализатор запроса не смог спуститься во все условия :-j

ну и видимо да, есть там предел все-таки, но вы можете его довольно легко проверить свалив какой-нибудь левый хост кх )

(вспоминая базы 80х) - вы сможете добавить до 64 записей в любой из 255 файлов

Судя по ошибке, в зк уже есть нода для этой таблицы. Вы туда смотрели? /clickhouse/tables/{layer}-{shard}/appmetrika_clicks_replicated - скорее всего, эта нода уже есть

ну такая нода есть в ZK да потому что такая таблица сделана на другой репилке в шарде но насколько я понимаю CREATE TABLE не реплициурется но кажется я понял в чем косяк это потому что порядок полей при создании таблицы у меня может поменяться

вопрос не по теме кто подскажет хороший сервер очередей, взамен RabbitMQ

У нас - nsq

Попроще RabbitMQ, но дело делает

проще, но не всегда лучше

дело же не всегда в простоте

Чем RabbitMQ не устраивает? Лучше от этого отталкиваться

не справляется

стоит кластер из 5 нод

настройки уже по всякому крутили, в сторону производительности

С каким потоком сообщений он не справляется?

пока небольшой 5к/сек

быстро растет кол-во Erlang processes и все уходит в ребут, каждая нода по очереди

Тогда это не проблема рэбит. 5к он спокойно держит. Скорее всего не правильно кластер собрали. Я бы попробовал такую нагрузку сперва на одном инстансе рэбита. + у рэбита есть известная проблема кластера. Если моргает сеть, то кластер не может восстановиться, м.б. у вас кластер в разных дц

кластер на одном сервере, в docker-compose развернут, там точно с сетью нет проблем

кластер по докам собирался