Сейчас попробую.

wtf?

Видимо, показалось

уже удалили

подскажите почему может появляться ошибка Code: 23, e.displayText() = DB::Exception: Cannot read from istream, e.what() = DB::Exception? Есть шард с двумя репликами. На одной реплике где то 1.5Т данных. На другой реплике данных нет. То есть организовали репликацию. Канал между репликами 10Гбит/с. Я почти уверен, что проблем с железом нет (не наблюдаю не ошибок, ничего). Данные начинают перетикать. В какой то момент трафик вырастает до 8Гбит/с и так это работать может дня два.. толку нуль. На дисках наблюдаю работу как при репликации на других шардах (на двух шардах репликация завершилась успешно в пределах полудня, данных так же 1.5Т). В system.replication_queue вижу очередь с типом GET_PART. Получается данные идут, но крайне мелкими порциями… Есть идеи?

Замечали похожее, когда была нестабильная сеть. Помогло установить настройку http_connection_timeout для профиля default в значение побольше (1800, например) После установки надо перезапустить реплики.

Замечали похожее, когда была нестабильная сеть. Помогло установить настройку http_connection_timeout для профиля default в значение побольше (1800, например) После установки надо перезапустить реплики.

спасибо, попробую.

Добрый день, коллеги. Помогите пожалуйста примонтировать папку для хранения БД с хостовой машины в докер контейнер. https://github.com/yandex/ClickHouse/issues/2690

у меня было такое, что в докере не монтировалось, пока на хосте не создашь юзера кликхаус и не дашь ему права на папку

у меня было такое, что в докере не монтировалось, пока на хосте не создашь юзера кликхаус и не дашь ему права на папку

Хм. А есть что почитать?

Хм. А есть что почитать?

https://stackoverflow.com/questions/46917533/data-directory-permissions-on-host-for-clickhouse-installation-via-docker/46967182#46967182

https://stackoverflow.com/questions/46917533/data-directory-permissions-on-host-for-clickhouse-installation-via-docker/46967182#46967182

У меня вот эта команда пишет ошибку синтаксиса которая в этой статье.

docker run --rm -i --entrypoint /bin/sh yandex/clickhouse-server -c id clickhouse вот команда. а вторая строка - это что автор ответа в ответ получил

а 3я строка - вторая команда, куда результаты из 1й подставили

И посмотрите логи самого КХ в ней после старта. Возможно прав доступа к /data не хватает из контейнера

Сделал. Остановил контейнер и запустил пишет restarting. Я даже папку с логами не могу примонтировать.

docker run --rm -i --entrypoint /bin/sh yandex/clickhouse-server -c id clickhouse вот команда. а вторая строка - это что автор ответа в ответ получил

Vadim Antropov: Сделал. Остановил контейнер и запустил пишет restarting. Я даже папку с логами не могу примонтировать.

Просто файл config.xml подхватывается.

Добрый день, пытаюсь собрать отказоустойчивый кластер на CH. Планируется нода с распределенными таблицами + 3 шарда по 2 реплики, 5 нод zookeeper. Вопрос в следующем, как сделать файловер ноды с распределенной таблицей? Как это вижу я: клон ноды + keepalived.

а зачем отдельная нода для Distributed?

Добрый день, пытаюсь собрать отказоустойчивый кластер на CH. Планируется нода с распределенными таблицами + 3 шарда по 2 реплики, 5 нод zookeeper. Вопрос в следующем, как сделать файловер ноды с распределенной таблицей? Как это вижу я: клон ноды + keepalived.

фигня какая то для дистрибьютед нахрена там кипалайв ,

дистрибьютед должна быть на каждом узле и можно подключаться к каждому узлу

Сделал. Остановил контейнер и запустил пишет restarting. Я даже папку с логами не могу примонтировать.

внутри контейнера логи почитайте. башем подключитесь

Добрый день, пытаюсь собрать отказоустойчивый кластер на CH. Планируется нода с распределенными таблицами + 3 шарда по 2 реплики, 5 нод zookeeper. Вопрос в следующем, как сделать файловер ноды с распределенной таблицей? Как это вижу я: клон ноды + keepalived.

На всех нодах сделайте распределенные таблицы и научите клиент в приложении выбирать другой сервер если какой-то не отвечает

у нас так - Distributed на всех репликах, балансировка через haproxy, balance roundrobin, идет ко всем по очереди

внутри контейнера логи почитайте. башем подключитесь

Не подключается пишет что контейнер не запущен. Он постоянно находится в статусе restarting...

у нас так - Distributed на всех репликах, балансировка через haproxy, balance roundrobin, идет ко всем по очереди

а почему haproxy а не ch_proxy, если не секрет

а почему haproxy а не ch_proxy, если не секрет

нет надобности в ch_proxy, все и так норм работает

haproxy много для чего используется, попробовали для КХ - работает хорошо

нет надобности в ch_proxy, все и так норм работает

прокси на клиенте стоит сразу ?

haproxy много для чего используется, попробовали для КХ - работает хорошо

а как делаете бэк-прешу и кэширование, если делаете

прокси на клиенте стоит сразу ?

прокси нет, клиенты идут в хапрокси сразу, оно само дальше там выбирает

прокси нет, клиенты идут в хапрокси сразу, оно само дальше там выбирает

а если хапрокси упадет ?

а если хапрокси упадет ?

второй хапрокси есть, в другом дц

балансер перекинет туды

клиенты идут в хапрокси по анонсируемому адресу

Проверял несколько раз плюс были даунтаймы в ДЦ, два их трёх дают кворум версия дефолтная из убунту 1604

Так, у нас старый ZK при таком кейсе ``` WARN Exception when following the leader (org.apache.zookeeper.server.quorum.Learner) java.io.EOFException ... INFO Shutting down (org.apache.zookeeper.server.quorum.FollowerZooKeeperServer) INFO shutting down (org.apache.zookeeper.server.ZooKeeperServer) INFO LOOKING (org.apache.zookeeper.server.quorum.QuorumPeer) ... И всё, всем пока, актуальные версии - ОК, такие дела )

клиенты идут в хапрокси по анонсируемому адресу

А что за клиент, может стоит в него встроить возможность выбора живого сервера?

А что за клиент, может стоит в него встроить возможность выбора живого сервера?

все есть, и питон, и cpp, и go

и ваш тоже есть :)

В гошном можно указать все адреса и он сам разрулит

А что за клиент, может стоит в него встроить возможность выбора живого сервера?

мне проще через хапрокси балансить нагрузку на КХ, я могу спокойно через reload ее туда-сюда двигать

Да, есть такое

мне проще через хапрокси балансить нагрузку на КХ, я могу спокойно через reload ее туда-сюда двигать

А у вас две ноды с haproxy?

Сделал. Остановил контейнер и запустил пишет restarting. Я даже папку с логами не могу примонтировать.

docker stop clickhouse-server1 docker rm clickhouse-server1

А у вас две ноды с haproxy?

да, на каждой подняты анонсируемые адреса, которые "перетекают" в случае недоступности haproxy на другую ноду

docker stop clickhouse-server1 docker rm clickhouse-server1

И заново его развернуть?

И заново его развернуть?

Да, уже с логами в volume.

Да, уже с логами в volume.

Так уже так сделал. Логов в волуме нет. Контейнер пишет restarting....

может сам контейнер не может стартануть?

Для исправления доступов перед запуском можно проделать такую операцию: docker run -i --rm=true -v <volumes> --user root --entrypoint /bin/sh yandex/clickhouse-server -c "chown -R clickhouse:clickhouse /var/lib/clickhouse /var/log/clickhouse-server"

Так парни дайте мне подумать.

да, на каждой подняты анонсируемые адреса, которые "перетекают" в случае недоступности haproxy на другую ноду

спасибо, с помощью keepalived настраивали?

спасибо, с помощью keepalived настраивали?

exabgp

День добрый. Тут же наверняка есть люди, которые юзают RClickhouse (пакет для связки Кликхаус с R)? Вопросы появились. Начну с базового: во всех примерах на онлайн-просторах говорится про подключение к localhost. А к кликхаусу на внешнем сервере оно умеет подключаться?

Ну если есть поле хост то да

поле host есть. Но R упорно выдает "fail to connect" (притом после минут 5 раздумий на каждый запрос) - хотя Табикс с теми же параметрами подключения нормально коннектится

ssl = True поставь

при создании коннекта

День добрый. Тут же наверняка есть люди, которые юзают RClickhouse (пакет для связки Кликхаус с R)? Вопросы появились. Начну с базового: во всех примерах на онлайн-просторах говорится про подключение к localhost. А к кликхаусу на внешнем сервере оно умеет подключаться?

У меня всё работает отлично. Список доступных параметров можно посмотреть в исходниках: https://github.com/IMSMWU/RClickhouse/blob/f59824db1afdaad6e828ba7271788fc6425cf275/R/ClickhouseDriver.R#L119

devtools::install_github("hannesmuehleisen/clickhouse-r") Установив эту библитеку можно создать коннект для библиотеке DBI: con_ch <- dbConnect( clickhouse::clickhouse(), ssl = TRUE, host = твой_хост, port = твой_порт, user = твоё_имя_юзера, password = твой_пароль )

devtools::install_github("hannesmuehleisen/clickhouse-r") Установив эту библитеку можно создать коннект для библиотеке DBI: con_ch <- dbConnect( clickhouse::clickhouse(), ssl = TRUE, host = твой_хост, port = твой_порт, user = твоё_имя_юзера, password = твой_пароль )

а чем отличаются RClickhouse (который я уже поставил) и clickhouse-R?

Если в кратце и верхнеуровнево говорить то в RClickhouse по сути создан только драйвер к CH, а clickhouse-R есть попытка адаптации методов из DBI к clickhouse-R +логгирование лучше

Для исправления доступов перед запуском можно проделать такую операцию: docker run -i --rm=true -v <volumes> --user root --entrypoint /bin/sh yandex/clickhouse-server -c "chown -R clickhouse:clickhouse /var/lib/clickhouse /var/log/clickhouse-server"

Спасибо тебе огромное. Заработал.

А как лучше будет хранить в 30 теробайт в контейнере через volume create и положить эту volume на схд или вот так через mount?

volume create никогда не использовал, по-моему, mount проще. Для переноса понадобится только данные перенести и запустить контейнер. А если с volume, то еще и volume пересоздавать

При подключении CH к DataGrip через JDBC возникает проблема. Не может сделать запрос. JDBC с зависимостями. Законнектило драйвер норм. Скрин:

Кто-то сталкивался с подобным?

Уверены что по порту 443 КХ доступен?

Да, проверяли

Не важно какой порт, если вводить любой адресс, выдает одну и ту же ошибку

Попробуйте открыть ваш путь с портом в браузере, должно написать ok http://joxi.ru/eAOGal3ixZX8YA

Да, проверяли

Как?

так тут же example.com

а не адрес вашего сервера

Кто-то сталкивался с подобным?

а с clickhouse-cli работает?

CLickhouse работает, проблема только в коннекторе jdbc

Там же есть даже на вашем скриншоте ссылка "View"

Это и есть view. Это весь текст ошибки

Кто-то сталкивался с подобным?

Была доказана в инете как сделать, по ней сделал и заработало все

Я на 8123 цепляюсь, ну и кастомная jar

Одна из первых ссылок по запросу how to connect idea/datagrip to clickhouse

Могу в логах браузера поискать через пару часов

CLickhouse работает, проблема только в коннекторе jdbc

jdbc работает

при коннекте в датагрипе там опять нужно прописывать настройки к ssl = true ssl_mode = none

и попробуйте не 443, а 8443 порт

подскажите, не совсем понял, как работает подстановка в конфигах. например, я хочу вынести настройку zookeeper в отдельный файл. 1. если я в /etc/clickhouse-server создам папку conf.d и положу туда файл zookeeper.xml, кликхаус при загрузке конфигов будет грузить этот файл, правильно? 2. в этом файле zookeeper.xml верхний тэг должен быть <yandex> потом <zookeeper> ? 3. в основном конфиге нужно при этом оставить <zookeeper incl="zookeeper-servers" optional="true" /> или нужно эту строку убрать?

volume create никогда не использовал, по-моему, mount проще. Для переноса понадобится только данные перенести и запустить контейнер. А если с volume, то еще и volume пересоздавать

А можешь глянуть второй комментарий. https://github.com/yandex/ClickHouse/issues/2690

А можешь глянуть второй комментарий. https://github.com/yandex/ClickHouse/issues/2690

Я там попытался ещё логи замонтировать и опять restarting...

Не получилось повторить.

а чем отличаются RClickhouse (который я уже поставил) и clickhouse-R?

RClickhouse более новый и работает через нативный интерфейс, а clickhouse-r общается с КХ по протоколу HTTP. Оба этих пакета работают через DBI.

На логе тоже надо было права поправить и все.

Всем спасибою

Добрый день. Клик 1.1.54394. Делаю insert select без группировок, сортировки. только выборка по условию день + поле в ключе. Выборка и вставка в distributed таблицу. Лимит по памяти стоит 40 гб ( настройки max_memory_usage / max_memory_usage_for_all_queries) На сервере 52 гб Наблюдаю картину - запрос на протяжении выполнения потребляет примерно 4 гб в пике. Смотрю в htop и контролирую free -m (данные совпадают) смотрю в system.processes наблюдаю что peak_memory_usage / memory_usage для процесса вставки ВСЕ ВРЕМЯ растет вверх. и по факту, через некоторое время, запрос падает с ошибкой DB::Exception: Memory limit (for query) exceeded, хотя памяти завалом. Других запросов на сервере не выполняется. distributed_aggregation_memory_efficient выставлен в 0 Подскажите, это в текущей версии неверный подсчет памяти идет? Или потребление памяти считается по другому?

Добрый день. Клик 1.1.54394. Делаю insert select без группировок, сортировки. только выборка по условию день + поле в ключе. Выборка и вставка в distributed таблицу. Лимит по памяти стоит 40 гб ( настройки max_memory_usage / max_memory_usage_for_all_queries) На сервере 52 гб Наблюдаю картину - запрос на протяжении выполнения потребляет примерно 4 гб в пике. Смотрю в htop и контролирую free -m (данные совпадают) смотрю в system.processes наблюдаю что peak_memory_usage / memory_usage для процесса вставки ВСЕ ВРЕМЯ растет вверх. и по факту, через некоторое время, запрос падает с ошибкой DB::Exception: Memory limit (for query) exceeded, хотя памяти завалом. Других запросов на сервере не выполняется. distributed_aggregation_memory_efficient выставлен в 0 Подскажите, это в текущей версии неверный подсчет памяти идет? Или потребление памяти считается по другому?

А Вы смотрите на какую колонку RSS или VSS?

А Вы смотрите на какую колонку RSS или VSS?

RES 3GB / Virt 4.7 GB

Отключил лимити по max_memory SELECT formatReadableSize(peak_memory_usage), formatReadableSize(memory_usage) FROM system.processes ┌─formatReadableSize(peak_memory_usage)─┬─formatReadableSize(memory_usage)─┐ │ 64.67 GiB │ 63.97 GiB │ │ 128.00 B │ 128.00 B │ └───────────────────────────────────────┴──────────────────────────────────┘ 2 rows in set. Elapsed: 0.030 sec.