
Grigory
17.07.2017
17:54:33
ну в целом ты прав но базовое покрытие тестами делать надо)
у нас с тобой разная специфика задач просто

Nick
17.07.2017
17:56:08
да, но как

Google

Grigory
17.07.2017
17:56:17
https://github.com/twitter/finatra/blob/develop/jackson/src/test/scala/com/twitter/finatra/json/tests/internal/ExampleCaseClasses.scala
и вообще мне кажется там можно зарегестрировать обджект маппер было
Resolvers.register или чтото такое @gurinderu
Во https://github.com/xiaodongw/swagger-finatra/blob/master/src/main/scala/com/github/xiaodongw/swagger/finatra/FinatraSwagger.scala

Nick
18.07.2017
07:22:26
Кароч нах, возьму финч

Grigory
18.07.2017
07:40:28

Nick
18.07.2017
07:40:55
Кривду для хайлоада
У нас был хаип девелопер, теперь есть хаилоад девелопер

KrivdaTheTriewe
18.07.2017
08:39:09
говорят спрей надёжней

Grigory
18.07.2017
08:40:26
ну чем старее тем надежнее

Nick
18.07.2017
09:29:13
ты хотел сказать спринг

KrivdaTheTriewe
18.07.2017
09:31:47

Nick
18.07.2017
09:32:00
орали про монады?

Google

Grigory
18.07.2017
09:41:43
орали про спринги

Linus
18.07.2017
12:06:24
Ребята, кто сталкивался со строками в формате (данные, данные, json, данные, json)? Интересует как можно из строки извлечь данные джейсона.

Andrey
18.07.2017
12:08:12
val df = sqlContext.read.json("/user/john/my-home-porno.json")

Linus
18.07.2017
12:08:34
неверно я поставил вопрос
00D02DBB931A 2017-07-04T12:00:00.1670000Z{"DeviceId":"01215DFDFGDF","From":"MKM","NotificationType":"Message"} "00054KDF7454"
вот пример

Grigory
18.07.2017
12:10:53
тут тебе нужен грамотный csv парсер
чтобы он правильно разбил поля через запятую

Linus
18.07.2017
12:12:03
задача извлечь json который начинается с {"DeviceId ...}
а затем подставлять только данные, без ключей, replace частично помогает, но jsonы попадаются с разными наборами ключей/значений

Andrey
18.07.2017
12:30:24
тогда тебе сначала надо читать данные в rdd, потом делать магию rdd.map и потом sqlContext.read.json(rdd)

Linus
18.07.2017
12:34:06
ок, спасибо

Nikolai
18.07.2017
13:20:03

?Ivan
19.07.2017
08:13:48
summon @krivdaallstarts

Andrey
21.07.2017
07:52:18
Коллеги, подскажите плз. Есть a.join(b, условие, "left). Условие - равенство трех колонок и функция над четвертой. Хочется избежать переименования колонок в втором DF с целью исключения дубликатов имен в результате. Можно как нибудь совместить Seq("col_1", "col_2", "col_3") и вторую функцию в условии? Чтобы это не выглядело ужасно в коде?
Ибо сейчас мне приходится переименовывать колонки и три равенства описывать как a("col_1") === b("col_1_") and ...

Jamuel
21.07.2017
16:36:28
Привет, хотелось бы окунуться в данную тему, как я понял "Hadoop: Подробное руководство" переведена на русский только в 3 издании, актуальна ли она для ознакомления сейчас?

KrivdaTheTriewe
21.07.2017
16:59:08
вполне

Grigory
21.07.2017
17:06:57
к сожалению рускоязычную литературу советовать никто не будет) // старая и ее мало

Jamuel
21.07.2017
17:08:17

Google

KrivdaTheTriewe
21.07.2017
17:08:35
ничего суещственно нового не произошло в с hadoop
просто нужно помнить, что хадупом как таковым никто не пользуется, но нужно знать, что есть yarn и hdfs

Grigory
21.07.2017
17:09:42
что хадуп это набор компонэнтов