@hadoopusers

Страница 128 из 182
Grigory
08.08.2018
15:24:03
емр; 5 нод на ссдах лекиграфический индекс блобы хранятся в ячейках чето обемы данных смешные были; толи 40гб толи 50

рендж квери запросы разумеется как в кассандру (чтоб в координатор не тыкаться) - поточечные по иду с рейтом как можно более выскоим

мне кажется что @optician_owl тоже имел не очень положительный фидбек поповоду нее

мы тогда решили что ну вроде как-то работает (через кассандра дривер) но нигде нет упоминания у нас

Google
Daniel
08.08.2018
15:29:13
мне кажется что @optician_owl тоже имел не очень положительный фидбек поповоду нее
У меня на старте крашилась и я забил. Тем более по фичам тогда (чуть больше года назад) говорилось что с трудом аля 1ая кассандра.

Dan
08.08.2018
15:29:44
мы тогда решили что ну вроде как-то работает (через кассандра дривер) но нигде нет упоминания у нас
драйвер один у обеих, но сцилла лично мне напоминает ZFS - ей надо давать прямо работать с железом, без виртуальных машин, докеров и прочих прослоек, и она обежит вперед на бешеных скоростях. Ну а сидя на абстракциях там все конечно требует доработки (типа настройки cpu_manager в kubernetes/openshift)

Grigory
08.08.2018
15:30:44
а я и в докерах и без докеров пробовал; результат один)

вообще бред про докер; не понимаю почему он должен создавать оверхед с мапом сети на хост и полным доступом ко всем ресурсам машины

Dan
08.08.2018
15:34:23
вообще бред про докер; не понимаю почему он должен создавать оверхед с мапом сети на хост и полным доступом ко всем ресурсам машины
есть у него нюансы, особенно с сетевым стеком, да и с обращением к процессорам все не особо гладко. сцилла пинится к ядрам и создает по шарду на ядро, так чтоб ей вообще ничто не мешало, а в докере это не тривиально

Grigory
08.08.2018
15:34:57
кончено ньюансы есть) если хадуп может спокойно жить в контейнерах и сцилка должна хотяб вменяемо работать

ну и контейнер с доступом ко всем ресурсам - где тут пробелма для выделения ресурсов?

Dan
08.08.2018
15:38:07
ну и контейнер с доступом ко всем ресурсам - где тут пробелма для выделения ресурсов?
проблема не с выделением а с четким их распределением, вплоть до того что сцилла имеет свой сетевой стек, с дисками работает напрямую и к процессорам обращается без абстракций

на самом деле, самое простое - обратиться в слак, народ поможет разобраться в чем проблема. Ну не бывает она медленнее кассандры :)

или на саммит приехать, тоже решение :)

Grigory
08.08.2018
15:39:16
не было цели с ней ковыряться)

если бы была - думаю конечно бы заработала

Google
Dan
08.08.2018
15:40:07
да ты читай - она не заработала мы и положили
понятно, ну если то я пока тут на канале, хотя и сам пока еще только разбираюсь кто против кого

Grigory
08.08.2018
15:40:34
а ты сцилла евангелист?

Dan
08.08.2018
15:41:36
я старый линуксоид, которого эти ребята затащили к себе так как мы и раньше работали вместе. осваиваюсь вот :)

Grigory
08.08.2018
15:41:56
это же прекрасно!

думаю ты очень был нужен год назад)

Dan
08.08.2018
15:42:07
я и не жалуюсь

я нужен всегда, вопрос только кому :)

Alexey
08.08.2018
15:43:03
«старый линуксоид» это разработчик ядра со времён 2.2? ;)

Grigory
08.08.2018
15:43:24
Dan
08.08.2018
15:44:21
со времен 2.4, до этого винды и нетварь. и нет, не ядра, для этого в сцилле и так хватает мЭтров

Grigory
08.08.2018
15:45:15
мне кажется на 1.2 все закончилось

там уже не то началось

Sergey
08.08.2018
15:45:21
забрал:)

Grigory
08.08.2018
15:45:39
и обновлять удобно

KrivdaAllStars
08.08.2018
15:46:01
Глупый вопрос, зачем его в образ запихивать
потому что контейнеризация это хорошо

Grigory
08.08.2018
15:46:11
всеравно волюмы и сетки на хосте; а тут процесс апдейта просто сводится к выкатыванию новых контейнеров

Alexey
08.08.2018
15:50:20
контейнеризация это удобно, но вот хорошо или нет — сильно зависит от задачи.

Google
Alexey
08.08.2018
15:52:22
btw, ещё в древние времена, не знаю, помнит ли кто такие, оракл под солярой на сановском железе умел напрямую диски юзать под сторадж. работало в разы быстрее, чем через ось. хотя соляра была вещь куда более продвинутая по сравнению с линухом тех лет

Daniel
08.08.2018
15:53:02
если бы была - думаю конечно бы заработала
Админам счастье прям сопровождать то, что еще запустить надо суметь)

Grigory
08.08.2018
15:54:04
ага

Alexey
08.08.2018
15:57:28
занятно узнать, что сейчас кто-то пилит нечто подобное, близкое к железу.

Grigory
08.08.2018
15:58:00
занятно узнать, что сейчас кто-то пилит нечто подобное, близкое к железу.
она давно ‘срывала покровы’ уже хайп сциллы прошел

раньше то она везде мелькала

как видишь, ею все пользуются вместо медленной кассандры

Alexey
08.08.2018
15:59:58
ну я-то в сабжевой теме только с прошлого года, не слышал. на жабе с 99 года пишу, а в бигдату чёт только на старости лет потянуло. а кассандра — гадость :)

KrivdaAllStars
08.08.2018
16:15:04
Нет
всё равно все к этом идет

нужно смириться и пользоваться

Uncel
08.08.2018
16:17:01
а ты сцилла евангелист?
Будто что-то плохое

Grigory
08.08.2018
16:17:24
Будто что-то плохое
если дальше прочитал бы, наоборот хорошее

Uncel
08.08.2018
16:18:39
А амбари бай дизигн слоу, или я чето не понимаю?

( час на 2x2620v4 и ssd )

Andrey
08.08.2018
16:26:08
вообще обычно ему хватает 2vCPU 4GB RAM и какой нибудь диск с полки сисадмина

Alexander
08.08.2018
16:26:27
А амбари бай дизигн слоу, или я чето не понимаю?
Ну он не быстрее, чем нативные API и Python обертка над ними. Ну и серверный/агентский JVM. Медленно работает сервер или агенты?

Uncel
08.08.2018
16:32:02
Ну он не быстрее, чем нативные API и Python обертка над ними. Ну и серверный/агентский JVM. Медленно работает сервер или агенты?
"деплой" одного инстанса удивительно долгий; 8 ядер у амбари, 16 у контейнера, оперативки 128гб

Google
Uncel
08.08.2018
16:33:30
Попробую пролить солтом

Stanislav
08.08.2018
17:13:31
А амбари бай дизигн слоу, или я чето не понимаю?
Ээээ. А что ты делаешь с помощью амбари?

Так может деплой не на амбари встал?

Artem
08.08.2018
17:40:34
вечно тупящего

и рестартящего кучи сервисов из-за редактирования чего-нибудь))

Stanislav
08.08.2018
18:13:08
и рестартящего кучи сервисов из-за редактирования чего-нибудь))
Советующего рестартить, а это приличный фикс. Нормальный инструмент.

Dan
08.08.2018
18:36:38
занятно узнать, что сейчас кто-то пилит нечто подобное, близкое к железу.
если глянуть кто ее придумал, все удивления пропадут. собственно я с ними еще 10 лет назад в Кумранете и познакомился

Sergioss
08.08.2018
19:26:33
Амбари действительно дерьмо? Чего из образов бесплатное кроме него, Хортон платный?

KrivdaAllStars
08.08.2018
19:32:02
Амбари нормальный, прост нужно помнить что вносит свой оверхед

Daniel
09.08.2018
06:39:23
Это про raw devices?
у оракла есть своя fs

Igor
09.08.2018
06:40:04
Daniel
09.08.2018
06:40:17
asm?
возможно, я забыл название

Ali
09.08.2018
06:41:11
btrfs?

Andrey
09.08.2018
06:41:12
наверное речь про zfs все же :)

Igor
09.08.2018
06:41:28
Ну raw devices (или raw partitiopns) это другое

zfs это фс на уровне солярки. А raw это в обход оси

ТО бишь raw это вообще не фс. asm - фс на уровне самой dbms

Google
Andrey
09.08.2018
06:45:42
а, вы про то как ораклбд сырые диски выдать?

я думал вы тут про солярку трете :)

Andrey
09.08.2018
06:47:49
ясно)

Igor
09.08.2018
06:47:57
Думал может еще чего было ? Так то не такие и древние ?

А солярка да, крутая была ? Жаль, что рипнулась

Andrey
09.08.2018
06:49:34
да есть такое

Daniel
09.08.2018
07:39:51
Я закончил с примитивными экспериментами над slurm. В целом доволен. Пока в рабочей вики записываю мысли и мож позже напишу в паблик впечатления от первого погружения и что он может. Если есть вопросы, то помечу себе и постараюсь ответить.

Sergioss
09.08.2018
07:40:07


Grigory
09.08.2018
07:40:20
плагин для геосервера

Sergioss
09.08.2018
07:40:45
Grigory
09.08.2018
07:41:11
у них отдельная репа есть кстати со всякой геосервер шнягой: https://github.com/geomesa/geomesa-geoserver/

Sergioss
09.08.2018
07:42:30
у них отдельная репа есть кстати со всякой геосервер шнягой: https://github.com/geomesa/geomesa-geoserver/
А у вас случаем не завалялось своих манов по инсталу месы? чет тяжко мне дается и оф дока, хоть и хорошо описанна, за репу отдельное спасибо)

Pavel
09.08.2018
07:42:44
А солярка да, крутая была ? Жаль, что рипнулась
Да zfs и zones - это бомба даже по нынешним меркам.

Grigory
09.08.2018
07:42:46
@Sergio_ss а зачем ее инсталлить?) в плане это просто либа)

Страница 128 из 182