
Dream
01.06.2017
22:21:20
Альчик лянга

Ҫѐҏӗѫӑ
01.06.2017
22:23:18
фига это че-то импортное

Dream
01.06.2017
22:26:51
ну да неподумал это ж наши местные забавы извиняйте, просвещения для
https://ru.wikipedia.org/wiki/%D0%90%D1%81%D1%8B%D0%BA
https://ru.wikipedia.org/wiki/%D0%9B%D1%8F%D0%BD%D0%B3%D0%B0

Aleksandr
01.06.2017
22:28:11

Google

Ҫѐҏӗѫӑ
01.06.2017
22:28:34
у нас земельки (они же ножички) процветали
о, прикольно. там про безотходное производство
в альчике

Dream
01.06.2017
22:30:32
))

Ҫѐҏӗѫӑ
01.06.2017
22:31:04
норм игра
в vr бы погонял
возвращаясь к языкам
кажется придумал самую тупую игру
симулятор гошника
причем люди думают, что это игра, а ты потом микросервисы запускаешь

Dream
01.06.2017
22:35:43
напиши ии которая заменит гошников, как тебе цель жизни?)

Ҫѐҏӗѫӑ
01.06.2017
22:35:54
это типа как нанять людей, только наоборот
они за подписку платят

Google

Dream
01.06.2017
22:36:50
план очь хитрый, держи в курсе)

Ҫѐҏӗѫӑ
01.06.2017
22:44:00
а лучше не подписку, а шлемы всякие
фри-ту-плэй
и как в доте какой-нибудь

Никита
02.06.2017
02:04:30
Кто-нибудь 4.x ещё пользуется тут?

Глеб
02.06.2017
04:55:54
Поставил ентот ваш npm@5.
Yarn: 44s, NPM@5: 19s.
Пойду ка я обновлять остальные проекты)
C Node 8 в Travis всё норм собирается.
Народ, маленький опрос:
Вы пользуетесь загрузкой переменных среды из файлов или используете только переданные параметры (process.env и всё)?

Ruslan
02.06.2017
05:20:19

Lulz
02.06.2017
05:40:35

A
02.06.2017
05:43:20
товарищи подскажите
как хранить повторяющие события
приложуха типа календаря
может есть пример?
как потом поиск делать?

Konstantin
02.06.2017
06:22:33
Я храню правило текстом в колонке БД, но, если нужен поиск, то можно разобрать правило на поля и хранить их отдельно (например, время начала, интервал повтора и т.д.)

Safort
02.06.2017
06:33:38

I
02.06.2017
06:35:02

arts
02.06.2017
06:37:07
Похапе же

Safort
02.06.2017
06:41:58

Ilya
02.06.2017
06:50:38
У меня стаж похапе был 15 лет. От этого не умирают
Но возврата не хочу

Vladimir
02.06.2017
06:51:25
звучит как стаж курения

Google


Карт
02.06.2017
07:13:49
всем привет ребята
вообщем делаю сбор с сайта и у меня такие траблы со сбором
То есть она отправляет запросы сразу 10 страницам и потом по очереди собирает базу с страниц. Так вот, ставлю 10 страниц и все нормально, как только ставлю 100 сайт падает и приходиться вручную редактировать конфиг ставить 10 затем 20 затем 30 затем 40 затем 50, чтобы по очереди по 10 страниц собирал базу
Вот на скрине например одновременно отправил 10 запросов, затем уже начал сбор.
По 10 руками вводит и по очереди не вариант, так как мне нужно собрать базу с несколько десятков тысяч страниц.
Как сделать так, чтобы поставил сбор с 100к базы, а он сам по себе отправлял запросы сначала на 10 страниц и сделал сбор затем на следующую десятку и сбор и так по очереди 10 20 30 40 50 60 70 80 90 100 и так далее.
{
"types": 2,
"dopage": 10,
"PHPSESSID": "osaqxghgsp2s6sto19hs4fmp64034200",
"delay": 2000
}
мой config
написано на node, по этому хочу спросить у знающих как решить эту проблему
Заранее спасибо


Denis
02.06.2017
07:20:51
Чую не благородными делами занимаетесь

Карт
02.06.2017
07:21:39
нет, собираю свою клиентскую базу с других ресурсов для дальнейшего таргетирования

Глеб
02.06.2017
07:25:51
Я не совсем понял задачу, но ответ кажись у вас есть: "отправлял запросы сначала на 10 страниц и сделал сбор затем на следующую десятку и сбор и так по очереди 10 20 30 40 50 60 70 80 90 100 и так далее.". Решение в лоб - бегите bash скриптом.

Konstantin
02.06.2017
07:26:33
Вообщем тебе нужен job раннер

Карт
02.06.2017
07:32:19
я просто думал, можно в свои config что то дописать чтобы
сканировал по очереди 10 20 30 40 50 страниц
но чтобы делал автоматом а не так чтобы я каждый раз вручную менял до какой страницы парсить

Vsevolod
02.06.2017
07:33:51
парсишь за раз по 10 элементов, на каждом элементе делаешь page+=1
ставишь какой-то барьер типа if page ===1000 break
или в чем проблема?

Карт
02.06.2017
07:38:35
{
"types": 2,
"dopage": 580,
"PHPSESSID": "sadsvtwer23423s200",
"delay": 1000
}
dopage - это парсить до какой страницы
ставлю 10 отсканировал 10, в page сохранилось до какой страницы отсканировал, затем меняю dopage на 20 затем до 30
чтобы отправлялось по 10 запросов и сайт не зависал
а если ставлю по 1000 то одновременно отсылаются 1000 запросов и сайт лежит
мне нужно 10000 страниц отсканировалось и чтобы запросы отправлялись по очереди по 10
отправлю символическую 100 рублей если кто нибудь поможет, просто уж замучился

Ilya
02.06.2017
07:39:26
парси в 1 поток

Карт
02.06.2017
07:39:37

Google

Карт
02.06.2017
07:40:16
тут видимо по 10 потоков идет, если 10 запросов одновременно отправляются
парси в 1 поток

Ilya
02.06.2017
07:40:35
1000 запросов одновременно. мы тутвсем офисом ржем

Глеб
02.06.2017
07:40:59
Ещё раз, что такое 'dopage'? Это до какой страницы он "допарсил"?

Карт
02.06.2017
07:41:18
Нет, до какой страницы парусить

Admin
ERROR: S client not available

Карт
02.06.2017
07:41:24
Парсить, dopage

Глеб
02.06.2017
07:42:03

Карт
02.06.2017
07:42:25

Глеб
02.06.2017
07:42:30
Воот
Просто запускайте этот скрипт последовательно N раз, где N = всего пользователей / dopage.

Карт
02.06.2017
07:44:15
Я и так делаю, сначала в dopage пишу 10, отсканировал, затем редактирую в config.json, dopage на 20, затем на 30 и так все нормально идёт

Глеб
02.06.2017
07:44:41
Кто-нибудь, напишите человеку bash for https://habrahabr.ru/post/52871/

Карт
02.06.2017
07:44:47
Но мне нужно отсканировать сотни тысяч станиц, и руками по очереди вводит 10 20 30 40 не вариант.

Глеб
02.06.2017
07:45:18
Или вы там виндой балуетесь?

Карт
02.06.2017
07:45:32
Не понял?
Видимо этот парсер написан был на node
Редактирую конфиг dopage жму start.bat и он сканирует
Мне нужно просто чтобы по 1 сканировал сьраницы а не одновременно по 100 запросов отправлял.

Глеб
02.06.2017
07:47:48
Пфуф

Google

Карт
02.06.2017
07:48:33
Хелп, хотябы за вас 100 рублей за такси оплачу
Для программиста это не деньги, но хотябы желание было помочь)

Глеб
02.06.2017
07:50:01
Ну так тебе надо увеличивать не dopage (это сколько параррельно парсить), а номер страницы в твоём этом page.txt

Ilya
02.06.2017
07:50:07
а он 1000
ха

Карт
02.06.2017
07:51:19

Ilya
02.06.2017
07:51:33
Но мне нужно отсканировать сотни тысяч станиц, и руками по очереди вводит 10 20 30 40 не вариант.
Хелп, хотябы за вас 100 рублей за такси оплачу
давай еще жги

Глеб
02.06.2017
07:51:52
Эй, не обижай джуна =)

Ilya
02.06.2017
07:52:27
я тут парсер одного агрегатора 30+ часов уже пишу
особый кайф названия городов и гостиниц
и ахулион опечаток в турагенствах
100 рублей