ну да ща я побежал смотреть что такое ontime

Там 140 столбцов.

ENGINE = ReplicatedMergeTree(/clickhouse/tables/1/ontime, ontime_r_i, FlightDate, (Year, FlightDate), 8192);

Где i - номер ПК.

ну да ща я побежал смотреть что такое ontime

Таблица, которая расписание полетов. Самый первый пример из документации.

а зачем имя реплики прямо задавать? ontime_r_i ? т.е. одно должно быть разное на всех 4 а вот эта часть /clickhouse/tables/1/ontime везде одинаковая зачем тут 1 ?

а зачем имя реплики прямо задавать? ontime_r_i ? т.е. одно должно быть разное на всех 4 а вот эта часть /clickhouse/tables/1/ontime везде одинаковая зачем тут 1 ?

Из документации: на малых примерах можно задавать руками. ontime_r_1/ontime_r_2/ontime_r_3/ontime_r_4 - должны быть разные; опять же, по документации. Путь, да, везде одинаковый. 1 - shard.

а не проще тренироваться на таблице из 2 полей и 4х строк?

Из документации: на малых примерах можно задавать руками. ontime_r_1/ontime_r_2/ontime_r_3/ontime_r_4 - должны быть разные; опять же, по документации. Путь, да, везде одинаковый. 1 - shard.

ну ок, все правильно.

а не проще тренироваться на таблице из 2 полей и 4х строк?

Проще. Но есть ли принципиальная разница?

Проще. Но есть ли принципиальная разница?

на таких портянках проще себе прострелить что-нибудь.

ну ок, все правильно.

Вот и не могу понять, почему ZK 4 не цепляет. Хотя настройки одинаковые с учётом различий клиентов.

настройки зк одинаковые у всех 4 ?

зукиперов сколько?

настройки зк одинаковые у всех 4 ?

Да. Изменял лишь myid.

зукиперов сколько?

4.

Да. Изменял лишь myid.

вопрос был про КХ.

вопрос был про КХ.

А. Тогда да.

тогда я думаю у вас два зукипера, один из трех нод и один из одной

4.

рекомендуется нечетное число, и что самое удивительное, равное 3.

рекомендуется нечетное число, и что самое удивительное, равное 3.

У задание от 4. А большего количества компьютеров нет.

У задание от 4. А большего количества компьютеров нет.

один выбросьте.

один выбросьте.

Не примут.

Не примут.

Не примут? В утиль?

Не примут? В утиль?

Сдачу задания.

Задание негодное, возможно вас проверяют, что у вас все дома, и вы знаете что 4 четное число.

ну и кол-во зукиперов вообще перперндикулярно кол-ву нод КХ, в конфигах нод КХ должны быть прописаны все ноды зукипера.

Задание негодное, возможно вас проверяют, что у вас все дома, и вы знаете что 4 четное число.

Так. Окей. В принципе, это объясняет, почему я не вижу 4 экземпляр (уже на малых данных).

Так. Окей. В принципе, это объясняет, почему я не вижу 4 экземпляр (уже на малых данных).

нет, не по этому, просто вы ошиблись в конфигах зк.

ну и кол-во зукиперов вообще перперндикулярно кол-ву нод КХ, в конфигах нод КХ должны быть прописаны все ноды зукипера.

У меня пока прописаны 'все ко всем'.

нет, не по этому, просто вы ошиблись в конфигах зк.

Хм.

У меня пока прописаны 'все ко всем'.

Ага.

одна из нод зк не понимает что она часть ансамбля.

нет, не по этому, просто вы ошиблись в конфигах зк.

Но для ЗК я вообще ничего не трогал... В КХ стоит все ко всем. И по сравнению с прошлым разом выпадают разные машины.

и какой конфиг у нод zk ? как zk запускался?

и какой конфиг у нод zk ? как zk запускался?

Для ЗК менял только myid. service zookeeper start

ок, покажите вывод со всех 4 зукиперов echo stat | nc localhost 2181

echo stat | nc localhost 2181 Zookeeper version: 3.4.10-3--1, built on Sat, 03 Feb 2018 14:58:02 -0800 Clients: /127.0.0.1:37728[0](queued=0,recved=1,sent=0) /192.168.171.102:40324[1](queued=0,recved=6522,sent=6530) /192.168.171.100:36762[1](queued=0,recved=723,sent=725) /192.168.171.103:51638[1](queued=0,recved=7035,sent=7036) Latency min/avg/max: 0/0/90 Received: 16687 Sent: 16703 Connections: 4 Outstanding: 0 Zxid: 0xc9 Mode: standalone Node count: 110 Zookeeper version: 3.4.8-1--1, built on Fri, 26 Feb 2016 14:51:43 +0100 Clients: /192.168.171.101:33418[1](queued=0,recved=47461,sent=47461) /127.0.0.1:50672[0](queued=0,recved=1,sent=0) Latency min/avg/max: 0/0/32 Received: 54328 Sent: 54344 Connections: 2 Outstanding: 0 Zxid: 0xa7 Mode: standalone Node count: 93 Zookeeper version: 3.4.8-1--1, built on Fri, 26 Feb 2016 14:51:43 +0100 Clients: /127.0.0.1:33662[0](queued=0,recved=1,sent=0) Latency min/avg/max: 0/0/0 Received: 1 Sent: 0 Connections: 1 Outstanding: 0 Zxid: 0x0 Mode: standalone Node count: 4

echo stat | nc localhost 2181 Zookeeper version: 3.4.10-3--1, built on Sat, 03 Feb 2018 14:58:02 -0800 Clients: /127.0.0.1:37728[0](queued=0,recved=1,sent=0) /192.168.171.102:40324[1](queued=0,recved=6522,sent=6530) /192.168.171.100:36762[1](queued=0,recved=723,sent=725) /192.168.171.103:51638[1](queued=0,recved=7035,sent=7036) Latency min/avg/max: 0/0/90 Received: 16687 Sent: 16703 Connections: 4 Outstanding: 0 Zxid: 0xc9 Mode: standalone Node count: 110 Zookeeper version: 3.4.8-1--1, built on Fri, 26 Feb 2016 14:51:43 +0100 Clients: /192.168.171.101:33418[1](queued=0,recved=47461,sent=47461) /127.0.0.1:50672[0](queued=0,recved=1,sent=0) Latency min/avg/max: 0/0/32 Received: 54328 Sent: 54344 Connections: 2 Outstanding: 0 Zxid: 0xa7 Mode: standalone Node count: 93 Zookeeper version: 3.4.8-1--1, built on Fri, 26 Feb 2016 14:51:43 +0100 Clients: /127.0.0.1:33662[0](queued=0,recved=1,sent=0) Latency min/avg/max: 0/0/0 Received: 1 Sent: 0 Connections: 1 Outstanding: 0 Zxid: 0x0 Mode: standalone Node count: 4

+ 1 нечего не выводит.

т.е. вы вообще в конфиг зк ничего не записали. https://dzone.com/articles/how-to-setup-zookeeper-cluster надо в каждом zk сделать одинаковый конфиг в котором будут перечислены все server.1= server.2= server.3= server.4=

Понял. Правлю.

у вас зукиперы про свой ансамбль не знают

т.е. вы вообще в конфиг зк ничего не записали. https://dzone.com/articles/how-to-setup-zookeeper-cluster надо в каждом zk сделать одинаковый конфиг в котором будут перечислены все server.1= server.2= server.3= server.4=

1, 2... Согласно myid?

1, 2... Согласно myid?

Почитал, понял. Да.

@den_crane, создал, ZK перезапустил, теперь CH ругается:

@den_crane, создал, ZK перезапустил, теперь CH ругается:

SELECT * FROM system.zookeeper WHERE path = /clickhouse/tables/1/events/replicas Received exception from server (version 18.12.17): Code: 999. DB::Exception: Received from localhost:9000, 127.0.0.1. Coordination::Exception. Coordination::Exception: All connection tries failed while connecting to ZooKeeper. Addresses: 191.168.171.100:2181, 191.168.171.102:2181, 192.168.171.101:2181, 192.168.171.103:2181 Poco::Exception. Code: 1000, e.code() = 0, e.displayText() = Timeout: connect timed out: 191.168.171.100:2181, e.what() = Timeout Poco::Exception. Code: 1000, e.code() = 0, e.displayText() = Timeout: connect timed out: 191.168.171.102:2181, e.what() = Timeout Poco::Exception. Code: 1000, e.code() = 111, e.displayText() = Connection refused, e.what() = Connection refused, 192.168.171.101:2181 Poco::Exception. Code: 1000, e.code() = 111, e.displayText() = Connection refused, e.what() = Connection refused, 192.168.171.103:2181 Poco::Exception. Code: 1000, e.code() = 0, e.displayText() = Timeout: connect timed out: 191.168.171.100:2181, e.what() = Timeout Poco::Exception. Code: 1000, e.code() = 0, e.displayText() = Timeout: connect timed out: 191.168.171.102:2181, e.what() = Timeout Poco::Exception. Code: 1000, e.code() = 111, e.displayText() = Connection refused, e.what() = Connection refused, 192.168.171.101:2181 Poco::Exception. Code: 1000, e.code() = 111, e.displayText() = Connection refused, e.what() = Connection refused, 192.168.171.103:2181 Poco::Exception. Code: 1000, e.code() = 0, e.displayText() = Timeout: connect timed out: 191.168.171.100:2181, e.what() = Timeout Poco::Exception. Code: 1000, e.code() = 0, e.displayText() = Timeout: connect timed out: 191.168.171.102:2181, e.what() = Timeout Poco::Exception. Code: 1000, e.code() = 111, e.displayText() = Connection refused, e.what() = Connection refused, 192.168.171.101:2181 Poco::Exception. Code: 1000, e.code() = 111, e.displayText() = Connection refused, e.what() = Connection refused, 192.168.171.103:2181 (Connection loss). 0 rows in set. Elapsed: 10.906 sec.

а зукипер вообще поднялся?

зукиперы запустились? снова stat смотрите, надо удалять старый мусор.

У вас было 4 кластера зукиперов они в один не соберутся.

Нет. Лежат. ЗК нужен один?

кому нужен? Ну а что в задании было?

кому нужен? Ну а что в задании было?

Сделать систему из четырех серверов на ZK, чтобы она была устойчивой к отказу одного из них.

Так. Запустил ЗК.

Так. Запустил ЗК.

Все пишут, что у них все ok.

Все пишут, что у них все ok.

В конфигурации КХ прописал.

В конфигурации КХ прописал.

И вот так со всех 4: dmitry-HP :) SELECT * FROM system.zookeeper WHERE path = /clickhouse/tables/1/events/replicas FORMAT Vertical SELECT * FROM system.zookeeper WHERE path = /clickhouse/tables/1/events/replicas FORMAT Vertical Row 1: ────── name: events_r_nikita value: czxid: 163 mzxid: 163 ctime: 2018-10-09 05:47:11 mtime: 2018-10-09 05:47:11 version: 0 cversion: 13 aversion: 0 ephemeralOwner: 0 dataLength: 0 numChildren: 11 pzxid: 4294967317 path: /clickhouse/tables/1/events/replicas Row 2: ────── name: events_r_alex value: czxid: 151 mzxid: 151 ctime: 2018-10-09 05:46:52 mtime: 2018-10-09 05:46:52 version: 0 cversion: 13 aversion: 0 ephemeralOwner: 0 dataLength: 0 numChildren: 11 pzxid: 4294967320 path: /clickhouse/tables/1/events/replicas Row 3: ────── name: events_r_max value: czxid: 176 mzxid: 176 ctime: 2018-10-09 05:48:38 mtime: 2018-10-09 05:48:38 version: 0 cversion: 13 aversion: 0 ephemeralOwner: 0 dataLength: 0 numChildren: 11 pzxid: 4294967302 path: /clickhouse/tables/1/events/replicas 3 rows in set. Elapsed: 0.009 sec.

Так. Запустил ЗК.

Я же вам сказал ставьте один зукипер, зачем вам четыре или три

Я же вам сказал ставьте один зукипер, зачем вам четыре или три

А дальше как настроить?

А дальше как настроить?

Дальше не надо его настраивать

Просто в настройках кх его прописываете и все

Я вам сказал как сделать все правильно в вашей лабораторной работе, зачем вы делаете по другому загадка для всех

Я вам сказал как сделать все правильно в вашей лабораторной работе, зачем вы делаете по другому загадка для всех

Оставил одного, для КХ он прописан. Но тут ошибки подключения.

Ну вот с ними и разбирайтесь

А то понаставили независимых зукиперов везде. Потом удивляетесь почему не работает

Откройте порты проверьте фаервол

До этого я видел реплики табличек... Как это вообще должно работать?

Все кх должны ппрописать у себя один сервер зк

То есть его сайт в конфиге

Так. Вроде это я уже сделал. Но тут вопрос - отказоустойчивость. По заданию у меня 3 должны работать без любого 4.

Ну вы с одним сделайте а другие просто отключайте

Ну вы с одним сделайте а другие просто отключайте

Lifehack & najeob тип?

зукипер должен быть один из 4 нод, а не четыре разных зукипера, вот что вам говорят. какие ещё лайфхаки

Э... Зачем 4? Либо 3, либо 5.

Но таки да, кластер, а не несколько штук отдельно.

хз, задание у него такое. выше вон написано. 3 реально лучше. и они без одного могут работать.

зукипер должен быть один из 4 нод, а не четыре разных зукипера, вот что вам говорят. какие ещё лайфхаки

Просто я не понимаю, как он должен работать.

Э... Зачем 4? Либо 3, либо 5.

Ограничение снизу.

тогда лучше 5 сделать

Просто именно 4 смысла не имеет - как и для 3, может выдержать падение только одного узла

тогда лучше 5 сделать

Лишнего ноутбука нет.

Просто именно 4 смысла не имеет - как и для 3, может выдержать падение только одного узла

Да, знаю. У нас по заданию больше одного и не должно выпадать.

Школьники делают лабораторку а вы им советуете странное

нынче в школе проходят установку кластеров баз данных?

нынче в школе проходят установку кластеров баз данных?

Мы второгодники.

Мы второгодники.

И вообще, это ПТУ.

И вообще, это ПТУ.

а ну тогда все ок

Коллеги, добрый день! При чтении данных из таблицы получаю такую ошибку. Подскажите, можно ее как-то починить? DB::Exception: Cannot read all data: (while reading column upload_id): (while reading from part /var/lib/clickhouse/data/default/{table_name}/20171101_20171130_2_2_0/ from mark 0 with max_rows_to_read = 8192), e.what()

Ну что то у вас сломалось, смотрите логи

в логах больше ничего нет

Првиет! Нужно ли в повседневной жизни содержимое /var/lib/clickhouse/cores/ или нет? И что делать, если есть свежие core.XXX файлы, но кх работает?

День добрый. На тестовом окружении попробовали обновить КХ с достаточно старой версии на крайнюю, и у нас сломались внешние словари по ODBC. 18.5.1 и 18.10.3 работают. 18.12.13 и 18.12.17 выдают странное 2018.10.08 11:38:45.046289 [ 1 ] <Error> Application: DB::Exception: Cannot create table from metadata file /var/lib/clickhouse/metadata/db/browsers.sql, error: DB::Exception: Received error from remote server /?connection_string=DSN%3Dtest-postgres-system&columns=columns%20format%20version%3A%201%0A2%20columns%3A%0A%60id%60%20UInt64%0A%60name%60%20String%0A&max_block_size=8192. HTTP status code: 500 Internal Server Error, body: � Poco::Exception. Code: 1000, e.code() = 0, e.displayText() = Connection attempt failed: Connection:Not applicable Server:test-postgres-system =========================== ODBC Diagnostic record #1: =========================== SQLSTATE = 08001 Native Error Code = 202 connction string lacks some options

неужели мы единственные счастливчики с таким багом?

неужели мы единственные счастливчики с таким багом?

С одбц словарями были какие то проблемы в последних версиях , посмотрите ченджлог весь и ишью на гитхаб

Првиет! Нужно ли в повседневной жизни содержимое /var/lib/clickhouse/cores/ или нет? И что делать, если есть свежие core.XXX файлы, но кх работает?

Приложение падало по какой то причине, кора нужна разработчикам для анализа, вам - нет

Приложение падало по какой то причине, кора нужна разработчикам для анализа, вам - нет

Спасибо. Это нормально, что корка была во время работы кх и после этого он продолжил работать?

Спасибо. Это нормально, что корка была во время работы кх и после этого он продолжил работать?

Есть known issue, что падает clickhouse-odbc-bridge при использовании odbc для MySQL. В этом случае CH продолжает работать, и это круто.

полагаю, что при падении он тоже обкоркается

у меня нет mysql и odbc. Значит, что-то ещё

В любом случае, спасибо за ответы.