
Роман
27.09.2018
12:47:37


Евгений
27.09.2018
12:52:53
подскажите пожалуйста, уставновил дашборд для кубернетеса по инструкции, завел себе права, но при заходе через браузер вижу только джсоны

Sergey
27.09.2018
12:55:08

Google

Dmitriy
27.09.2018
12:55:10
Привет
Подскажите может у кого на проекте
Спарк и дергают его в КЛИЕНТ деплой моде

Sergey
27.09.2018
12:55:37

Евгений
27.09.2018
12:55:45


Dmitriy
27.09.2018
12:57:09
Привет
Подскажите может у кого на проекте
Спарк и дергают его в КЛИЕНТ деплой моде
Тут довольно скользкий вопрос
HI
Is there Spark archmage
Question is about client side deployment
I'm little bit not clear how executors knew what I'm execute
It is clear that my current node becomes Driver and executors will coordinate with me,
My case
With Spark Client Mode I'm able to query my Parquet data and give a response for client
(Sure that this is a lot about correct architecture and may be this should be done in another way,
now I just want to make it works in cloud what I have working locally with just change master from "local[*]" to "spark://master_host:master_port")
So my method should return data and inside of it I create
- sparkConf
- sparkSession
How does this actually works on executors there is no main method in my packaged jar that I packaged.
-------
Ideally I want to make it works under Kubernetes
on sbt release I build a docker image based from spark and with assembly.jar put inside.
with 2.4.0-palantir-38 build spark don't longer throw exception that client mode not supported,
but unfortuntly I don't make it working now.
So decided not experiment and ask our DevOps to give me Spark under cloud to try.
AWS EMR really kills me, I have to rewrite and couple to them greatly so will no longer have a way with local work.
---
Back to question
May be somebody use Client Deploy Mode in cloud.
Thanks
Может просто так вообще не юзают особо и я не правильно хочу решить стандартную задачу
Спасибо


Alexander
27.09.2018
13:25:50

Mihail
27.09.2018
13:27:58
День добрый. А ктонибудь делал алертинг по логам? Если да то как? Какие то выборки из сырых логов, или аггрегировали? Чет весь в раздумьях как это вооще по человечески делать

Alexander
27.09.2018
13:27:59
и вот еще после обновления

Евгений
27.09.2018
13:37:40
ещё такой вопрос, если сам развернул кубер это считается что я девопс?

Dmitriy
27.09.2018
13:38:50

root@localhost
27.09.2018
13:39:08

Евгений
27.09.2018
13:39:17

Alexander
27.09.2018
13:39:30

Google

root@localhost
27.09.2018
13:39:53

Sergey
27.09.2018
13:41:46
надо больше работать и все получится:)

Александр
27.09.2018
13:43:11

Sergey
27.09.2018
13:43:17
"я девопс, установил кубер" чет смешно

Антон
27.09.2018
13:43:21
Короче Серега тебя на работу не принял)

Sergey
27.09.2018
13:43:36

Антон
27.09.2018
13:43:41

Sergey
27.09.2018
13:43:52
и то всем чатом помогли товарищу:)

Евгений
27.09.2018
13:43:54

Александр
27.09.2018
13:44:04
А. Понятно)

Sergey
27.09.2018
13:44:36
вообще рантайм под таски как бы а не под моду

Nick
27.09.2018
13:49:00

Евгений
27.09.2018
13:51:47
это шутка была

Sergey
27.09.2018
13:52:29
культура!

Tazik
27.09.2018
13:56:13
есть же scrum мастера, значит и devops мастера должны быть
/sarcasm

root@localhost
27.09.2018
13:56:56
А подскажите где почитать-посмотреть, как должен выглядеть правильный цикл разработки с применением devops-практик. Интересует именно сам процесс от написания кода разработчиком на локалхосте до попадания в прод. С детализацией знаний в сторону инструментов нет проблем. Просто разработка в организации есть, а понимания как правильно она должна функционировать-нет

vlad
27.09.2018
13:57:37
Как вариант смотри доклады Дмитрия Столярова
или читай Мартина Фаулера

Google

Sergey
27.09.2018
13:58:43

Tazik
27.09.2018
13:59:04

Sergey
27.09.2018
14:01:36

Антон
27.09.2018
14:01:51

Sergey
27.09.2018
14:02:18
до чего людей sre довел!

Антон
27.09.2018
14:03:06

root@localhost
27.09.2018
14:03:50
Всем спасибо)) Ушел знакомиться

Антон
27.09.2018
14:04:01
там один чел не просто буквы глотает, предложения мать его! вот чето-то глаголит...хуяк и новый абзац! а концовку он вроде сказал. но так невнятно, что я манал...

Sergey
27.09.2018
14:04:25
и поехало
чего только люди не глотают ради денех!

Антон
27.09.2018
14:04:54
так 0.5 ставишь))
на 1 секунду видео 0,5? потом опять нормально и опять 0.5 с перемотками?

Sergey
27.09.2018
14:05:32
в предвкушении

Ivan
27.09.2018
14:14:31
Почему на картнике с SRE Белые чувак и голая темнокожая женщина, а на картинке с DevOPs одна рыжая в очках ?

Антон
27.09.2018
14:14:48

Ivan
27.09.2018
14:15:05
Я прям чет стремаюсь )
Вдруг и там трансгендеры

Антон
27.09.2018
14:15:52

Google

Ivan
27.09.2018
14:16:04
А что нельзя ссылки вставлять ?

Антон
27.09.2018
14:16:15

Ivan
27.09.2018
14:16:28
Ой все

Антон
27.09.2018
14:16:30

Ivan
27.09.2018
14:17:09
Ну ты хоть сам то почитай…реально дичь

Sergey
27.09.2018
14:17:43

Ivan
27.09.2018
14:18:14
?

Sergey
27.09.2018
14:19:04
Ребят кто где доку по коду\ролям пишет

DiJey (Pavel)
27.09.2018
14:20:20
notepad++

Sergey
27.09.2018
14:20:30
тонко

Антон
27.09.2018
14:20:57

Alexey
27.09.2018
14:20:58

Sergey
27.09.2018
14:21:59

Sergey
27.09.2018
14:22:09
а то я в вики начал писать
а потом смотрю там деревья целые))
потом глянул ЕСПД и чет не весело

Ivan
27.09.2018
14:23:56

Mihail
27.09.2018
14:24:07

Alexey
27.09.2018
14:26:07

Антон
27.09.2018
14:28:35
ты задолбаешься по ЕСПД описывать...у нас первый том описаловки по ЕСПД 398 листов

Google

Антон
27.09.2018
14:28:48
таких томов на 4 коробки из под бумаги А4

Yuriy
27.09.2018
15:02:13
Привет всем! Подскажите, здеся influxdb обсуждают?

Gunslinger
27.09.2018
15:12:10
как мы тут спам репортим?

Alexey
27.09.2018
16:17:35

Gunslinger
27.09.2018
16:18:08
ок спс