
Mikhael
27.03.2018
10:52:21
val data = cikdata.select("lat_ik", "lon_ik")
.filter(s"lat_ik >= $wsLat and lat_ik <= $neLat and lon_ik >= $wsLon and lon_ik <= $neLon")
.as[Geo]
.map(g => Vectors.dense(g.lat_ik, g.lon_ik))
.cache()
.rdd

Daniel
27.03.2018
10:52:39

Mikhael
27.03.2018
10:53:56
val spark: SparkSession = SparkSession.builder().config(conf).getOrCreate()
import demo.SparkCommons.spark.implicits._

Google

Mikhael
27.03.2018
10:54:02
вот такое есть

Henadz
27.03.2018
10:54:24

Alex
27.03.2018
10:54:31
дегус вон вообще считает что "тайпклассы" должны определяться законами
что-то в этом есть

Daniel
27.03.2018
10:54:57

Alex
27.03.2018
10:55:00
http://degoes.net/articles/principled-typeclasses
надо как нибудь осилить 1ML

Daniel
27.03.2018
10:57:40

Mikhael
27.03.2018
10:58:05
ну я смотпю вот на это examples/src/main/scala/org/apache/spark/examples/mllib/KMeansExample.scala

Daniel
27.03.2018
10:58:23
https://stackoverflow.com/a/39970304/1031979

Mikhael
27.03.2018
11:08:28
ну вопрос, а почему в примере нет импорта имплисетов?

Daniel
27.03.2018
11:21:29
вообще у меня скомпилилось без проблем
name:="shmark"
version:="1.0.0"
scalaVersion:="2.11.12"
libraryDependencies ++= Seq(
"org.apache.spark" %% "spark-core" % "2.3.0",
"org.apache.spark" %% "spark-mllib" % "2.3.0"
)
и взял тот класс из примера

Google

Mikhail
27.03.2018
11:31:03
привет. может кто реализовывал клиент oauth1.0? (коннекчусь к jira) на akka я так понимаю нет реализации чтобы такие запросы в хедере прописывать? или через GenericHttpCredentials как то можно реализовать через Map-ку?

Grigory
27.03.2018
11:34:32
акка хттп имеется ввиду?

Mikhail
27.03.2018
11:34:55

Grigory
27.03.2018
11:35:23
не верю что не нагуглилось ничего по akka-http-oauth1
а вообще да, GenericHttpCredentials и туда суешь мапу; главное хеддер подписанный сделать правильный

Mikhail
27.03.2018
11:37:28
ну вот понял теперь, что в коробке нет

Diemust
27.03.2018
11:49:00
кто-нибудь из sbt-protoc запускал напрямую protoc со сторонними плагинами? чет вроде тычка в плагине есть "PB.runProtoc", но как заюзать правильно не могу сообразить
почему sbt это так больно ?
есть у кого пример исполнения команды после компиляции в сбт 1.0? прям не могу вкурить как это сделать, ни по докам, ни по гуглу

Nick
27.03.2018
15:12:23
sbt compile?

Diemust
27.03.2018
15:15:24
-_-
типа я сделал sbt module/run
типа модуль скомпилировался, потом выполнилась команда println("privet sobaka"), потом запустился модуль
куда засунуть приветсобаку?

Максим
27.03.2018
15:16:56
сорри, промахнулся чатом)

M
27.03.2018
15:17:35
собаку уже без тебя в понв засунули можешь не сувать
=D
и обезьяну

Nikolay
27.03.2018
15:19:40
lazy val action = taskKey[Unit]("summon sobaka")
compile.in(Compile) := compile.in(Compile).dependsOn(action).value
action := { println("sobaka pavlova") }
попробуй так
тебе это нужно делать на постоянной основе, или это типа процесс релиза, или что-то такое?

Google

Nikolay
27.03.2018
15:22:22
если операция редкая, то можно просто addCommandAlias добавить, где указываешь последовательность команд

Diemust
27.03.2018
15:22:58
там генерится протобаф, если его нет. В целом и при каждой компиляции можно делать

Nikolay
27.03.2018
15:23:31

Diemust
27.03.2018
15:23:35

Vadim
27.03.2018
15:24:23
ты кеш чтоли воткнуть хочешь?

Diemust
27.03.2018
15:24:39
нет, просто генерация протобафа в js

Daniel
27.03.2018
15:27:44

Nick
27.03.2018
15:28:44
главное в нужную папку его положить
делается он перед компиляцией

Diemust
27.03.2018
15:29:09

Nick
27.03.2018
15:29:30
о боже мой

Diemust
27.03.2018
15:29:41
так что я это дело разделил и добавил npm-овский модуль для генерации + фасад написал (потом напишу генератор фасадов или генератор сервисов к js)

Nick
27.03.2018
15:29:48
открой тогда scalapb да скопируй оттуду код

Diemust
27.03.2018
15:30:21
обязательно бы это сделал, если б сходу понял, что там происходит :)

Vadim
27.03.2018
15:30:40
если надо просто для js нагенерить зачем вообще к компайлу привзываться?

Nick
27.03.2018
15:30:45
или законтрибьють туда

Diemust
27.03.2018
15:30:52
немного не в тотм момент сгенерилось конечно и сначала перезатирались сгенеренный файлы, но я немного хакнул и пошло

Nick
27.03.2018
15:31:02
@dos65 потому что может из scala кода вызываться

Google

Nick
27.03.2018
15:31:20
https://scalapb.github.io/scala.js.html
а это что?

Diemust
27.03.2018
15:31:26

Nick
27.03.2018
15:32:02
ты еще и сервисы генерируешь?
а как ты в браузере сервер сайд пускать будешь?
или ты хочешь стабы просто

Admin
ERROR: S client not available

Diemust
27.03.2018
15:32:31
да в браузере уже заработало grpc
как раз взял генерацию отсюда https://github.com/improbable-eng/grpc-web
очень не хотел для браузера оборачивать вебсокетами протобаф

Nick
27.03.2018
15:33:09
т.е тебе просто стабы нужны? чтобы делать call из браузера?
почему вебсокетами? grpc поверх http2 работает

Diemust
27.03.2018
15:33:51
в прошлый раз ты мне как раз посоветовал вебсокеты для браузера
или не ты
ну короч да, всё для стабов

Nick
27.03.2018
15:34:16
я?
я понял, а оно на самом деле прям так надо? у тебя ж могут быть сервера балансеры над эндпоинтами, которые могу и паф поменять и все такое
по сути эт прост обычный запрос с протобафом внутри

Diemust
27.03.2018
15:35:51
я dApp пишу, там ноды на grpc, и клиент нужен какой-нить на браузере

Google

Nick
27.03.2018
15:36:16
и никакого балансера ?
эт печально)

Diemust
27.03.2018
15:36:22
никакого
ну типа есть ли балансеры в сети эфириум там, в чем печаль то?)
grpc как мульиплатформенный протокол, генерация сервисов, чтоб самому не писать

Nick
27.03.2018
15:37:19
я прост не вижу смысла в стабах в браузере
обычно на пути от клиента до конечной ноды может быть еще куча магии)

Diemust
27.03.2018
15:39:39
смотря что под стабом понимается
там короч просто интерфейс с вызовом методов, где будет onMessage, onEnd колбеки и всё

Nick
27.03.2018
15:40:03
onMessage? onEnd ?
у тебя там стримы?

Diemust
27.03.2018
15:40:15
да

Nick
27.03.2018
15:40:20
а
ну ок

Gleb
27.03.2018
16:03:28
https://insights.stackoverflow.com/survey/2018/#top-paying-technologies наверное видели уже
про ocaml/groovy/perl не очень понятно

Diemust
27.03.2018
16:05:38
кароч получилось так, что надо было вызывать генератор после создания npm dependencies, но до компиляции scalajs, чтоб с голого проекта работало получилось так
fastOptJS in Compile := fastOptJS.in(Compile).dependsOn(protobufJSGenerator).value
вдруг кому понадобится :)
это при наличии scalajs-bundler

Vadim
27.03.2018
16:08:57

Vladimir
27.03.2018
16:25:11
Топ вонтед дБ. Монга
Остановите Землю