
Александр
14.06.2016
07:24:15
Даже если ты прометеобог

Alex
14.06.2016
07:24:16
На кладбище тоже очень френдли
На хабре тоже, кстати, френдли, если ты хабрачеловек
А если ты обычный человек - тебя местная стая изгонит за сутки

Google

Михаил
14.06.2016
07:25:06

Alexander
14.06.2016
07:25:17

Александр
14.06.2016
07:25:52

Alex
14.06.2016
07:26:08
Ты не хабрачеловек порст

Александр
14.06.2016
07:26:16
Д

Alexander
14.06.2016
07:26:38
он хипервишник хренов

jatelka
14.06.2016
07:26:51
у вас просто рейтинг маленький

Alex
14.06.2016
07:26:58
Это вариант digital divide
Либо ты человек, либо хабрачеловек, третьего нет
Когда наступит золотой век меритократии, мы из хабралюдей топливо делать будем

Александр
14.06.2016
07:26:58
И хипер тоже работает

Alex
14.06.2016
07:27:11

Александр
14.06.2016
07:27:20

Alexander
14.06.2016
07:27:23

Михаил
14.06.2016
07:27:52
Вам не угодишь. Одного в чате нахуй шлют, другой расстроен от Вы в интернете

Google

Александр
14.06.2016
07:27:55
Я его по ннм ещё помню
Миш, ну ты же нас обоих знаешь

Zloy Dobriy
14.06.2016
07:35:41
Ну чо вы, демоны
Опять флеймите

Михаил
14.06.2016
07:38:21

Zloy Dobriy
14.06.2016
07:40:26

Dmitriy
14.06.2016
07:40:48

Alex
14.06.2016
07:47:08
А как она работает?

Dmitriy
14.06.2016
07:51:29
Ну как-то работает на CDH 5.5.1
наш стек - oozie, spark, hdfs, yarn
немного hive и impala
все ок, брат жив

Alex
14.06.2016
07:54:53
А, ну ясно
“Как-то работает”
Окей

Magistr
14.06.2016
08:12:22

Alex
14.06.2016
08:15:43
Я имел в виду - “как она работает внутри?"
Чтобы сломалась? Ну - можно нагрузку дать, например
Но дело же не в том, сломалась она или нет

Google

Alex
14.06.2016
08:17:05
Дело в том, как она внутри устроена (и зачем)
Заббикс вон тоже у людей работает
Хрен оспоришь

jatelka
14.06.2016
08:18:36
и есть не просит, кстати

Alex
14.06.2016
08:18:55
Мы вот у себя клаудеровский HBase заменили на ванильный - расчет на 6 часов быстрее пошел
Причем - мы этого не планировали
Просто заменили их настройки на наши настройки
Вместе с пакетом
Но проблема клаудеры даже не в этом
Это так, приятные мелочи

Magistr
14.06.2016
08:22:42
мда 6 часов это внезапно

Alex
14.06.2016
08:24:58
Главное, что меня теперь пацаны спрашивают: “А что ты сделал?”
А я ничего не сделал
Клаудеровские дефолты сменил на свои

Magistr
14.06.2016
08:26:53
поди там дефолты чтобы работать в минимальном сетапе как обычно во всяких сборках делают

Alex
14.06.2016
08:28:04
Да нет, там вообще из таких настроек только размер памяти под JVM
Ну да - я зафигачил 10 гигабайт
А сколько было - я не помню, думаю что 8 (на 4-х не работает вообще)
Вряд ли разница в 2 гигабайта так сказалась

Daniel
14.06.2016
08:29:54
я думаю - там вшиты разные дефолты

Dmitriy
14.06.2016
08:33:10
ну мы немного по разному наверное хадупы используем

Alex
14.06.2016
08:33:51

Dmitriy
14.06.2016
08:33:52
у нас большой кластер и команда, которая хадупом как платформой занимается

Alex
14.06.2016
08:33:53
И в чем?

Dmitriy
14.06.2016
08:34:02
и дефолты мы не используем

Alex
14.06.2016
08:34:12

Dmitriy
14.06.2016
08:34:34
большой - это кластер мегафона

Alex
14.06.2016
08:34:41
Ну - а у меня кластер ФНС

Google

Dmitriy
14.06.2016
08:34:55
померялись, хорошо
клаудера же не вопросы производительности решает

Alex
14.06.2016
08:35:14
Но у кого больше, не поняли

Dmitriy
14.06.2016
08:35:25
а вопросы совместимости

Alex
14.06.2016
08:35:34
Клаудера решает вопросы “а сейчас мы конфиг ебанистически нарежем и сложим в RDBMS”

Dmitriy
14.06.2016
08:35:36
150нод, 2 пб

Alex
14.06.2016
08:35:44
“И хер вы потом разберетесь, где что”

Dmitriy
14.06.2016
08:36:27
у нас пока вопрос только про использование спарка ванильного встал

Admin
ERROR: S client not available

Dmitriy
14.06.2016
08:36:32
последние изменения там больно вкусные

Alex
14.06.2016
08:36:41
А вопросы совместимости чего с чем решает клаудера?
В 2016-м году нет никаких проблем совместимости

Dmitriy
14.06.2016
08:36:54
версий продуктов между собой

Alex
14.06.2016
08:37:07
А они несовместимы?

Daniel
14.06.2016
08:37:17
клаудера решает вопросы зарабатывания бабла для своих инвесторов

Dmitriy
14.06.2016
08:37:29
поставь все последние версии продуктов с оф сайта хадупа и запусти их

Daniel
14.06.2016
08:37:32
ну и вебморда у нее получш

Dmitriy
14.06.2016
08:37:41
потом расскажи про отсутсвие проблем совместимости

Alex
14.06.2016
08:37:47
Hive 2 имеет другой формат метастора, не такой, как у Hive 1
И никакая клаудера это не решает

Google

Alex
14.06.2016
08:38:50
Кроме того, есть parquet, orcfile, разные кодеки сжатия, и Impala, Spark и Hive читают все это по-разному
И никакая клаудера это не решает

Dmitriy
14.06.2016
08:40:21
я, пожалуй, ссылкой отвечу http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ig_parcels.html
ну и вебмордочка у CM хороша и апи есть
у нас уже куча обвязок над их апи построено
и для создания кластеров и для управления конфигурацией

Alex
14.06.2016
08:42:33
У меня Hive 2 с альфа-версии на стендах
Запустить мейвеном билд под нужную версию - не офигеть какое знание

Dmitriy
14.06.2016
08:43:50
ок, всё так, клаудера тоже говно

Alex
14.06.2016
08:43:53
Но вопрос остается: “как работает клаудера?”
Ответ, я так понял: “мы не знаем, как, но на 150 нод ее раскатали"
Ну - хорошо

Dmitriy
14.06.2016
08:44:26
я не из хадуп команды, я рядом постоял

Alex
14.06.2016
08:44:29
Пока есть вы, у меня работа никогда не закончится
Да хадуп команды везде одинаковые
Я на них насмотрелся
У нас тоже все отличне, чо
Издержки энтерпрайза
В старом кластере петабайт размечен, в новых чуть меньше, потому что диски не SATA, а SAS
Нахер так сделано - я не знаю, но отменить у меня полномочий не было

Dmitriy
14.06.2016
08:47:19