@nodejs_ru

Страница 824 из 2748
Dream
01.06.2017
22:21:20
Альчик лянга

Ҫѐҏӗѫӑ
01.06.2017
22:23:18
фига это че-то импортное

Dream
01.06.2017
22:26:51
ну да неподумал это ж наши местные забавы извиняйте, просвещения для https://ru.wikipedia.org/wiki/%D0%90%D1%81%D1%8B%D0%BA https://ru.wikipedia.org/wiki/%D0%9B%D1%8F%D0%BD%D0%B3%D0%B0

Google
Ҫѐҏӗѫӑ
01.06.2017
22:28:34
у нас земельки (они же ножички) процветали

о, прикольно. там про безотходное производство

в альчике

Dream
01.06.2017
22:30:32
))

Ҫѐҏӗѫӑ
01.06.2017
22:31:04
норм игра

в vr бы погонял

возвращаясь к языкам

кажется придумал самую тупую игру

симулятор гошника

причем люди думают, что это игра, а ты потом микросервисы запускаешь

Dream
01.06.2017
22:35:43
напиши ии которая заменит гошников, как тебе цель жизни?)

Ҫѐҏӗѫӑ
01.06.2017
22:35:54
это типа как нанять людей, только наоборот

они за подписку платят

Google
Dream
01.06.2017
22:36:50
план очь хитрый, держи в курсе)

Ҫѐҏӗѫӑ
01.06.2017
22:44:00
а лучше не подписку, а шлемы всякие

фри-ту-плэй

и как в доте какой-нибудь

Никита
02.06.2017
02:04:30
Кто-нибудь 4.x ещё пользуется тут?

Глеб
02.06.2017
04:55:54
Поставил ентот ваш npm@5. Yarn: 44s, NPM@5: 19s. Пойду ка я обновлять остальные проекты)

C Node 8 в Travis всё норм собирается.

Народ, маленький опрос: Вы пользуетесь загрузкой переменных среды из файлов или используете только переданные параметры (process.env и всё)?

Ruslan
02.06.2017
05:20:19
Народ, маленький опрос: Вы пользуетесь загрузкой переменных среды из файлов или используете только переданные параметры (process.env и всё)?
Привет. Зависит от того как у вас среды разворачиваются и с какой периодичностью, какое количество сред. Автомат, часто, много - из файлов.

A
02.06.2017
05:43:20
товарищи подскажите как хранить повторяющие события приложуха типа календаря может есть пример? как потом поиск делать?

Konstantin
02.06.2017
06:22:33
Я храню правило текстом в колонке БД, но, если нужен поиск, то можно разобрать правило на поля и хранить их отдельно (например, время начала, интервал повтора и т.д.)

Safort
02.06.2017
06:33:38
кажется придумал самую тупую игру
Чувствую какую-то ненависть к го. Теперь даже не знаю, что ты больше ненавидишь: js, python или go)

arts
02.06.2017
06:37:07
Похапе же

Safort
02.06.2017
06:41:58
ruby еще забыл
Я просто не видел, как Сергей рубистов хейтил)

Ilya
02.06.2017
06:50:38
У меня стаж похапе был 15 лет. От этого не умирают

Но возврата не хочу

Vladimir
02.06.2017
06:51:25
звучит как стаж курения

Google
Карт
02.06.2017
07:13:49
всем привет ребята

вообщем делаю сбор с сайта и у меня такие траблы со сбором

То есть она отправляет запросы сразу 10 страницам и потом по очереди собирает базу с страниц. Так вот, ставлю 10 страниц и все нормально, как только ставлю 100 сайт падает и приходиться вручную редактировать конфиг ставить 10 затем 20 затем 30 затем 40 затем 50, чтобы по очереди по 10 страниц собирал базу



Вот на скрине например одновременно отправил 10 запросов, затем уже начал сбор. По 10 руками вводит и по очереди не вариант, так как мне нужно собрать базу с несколько десятков тысяч страниц. Как сделать так, чтобы поставил сбор с 100к базы, а он сам по себе отправлял запросы сначала на 10 страниц и сделал сбор затем на следующую десятку и сбор и так по очереди 10 20 30 40 50 60 70 80 90 100 и так далее.

{ "types": 2, "dopage": 10, "PHPSESSID": "osaqxghgsp2s6sto19hs4fmp64034200", "delay": 2000 } мой config

написано на node, по этому хочу спросить у знающих как решить эту проблему Заранее спасибо

Denis
02.06.2017
07:20:51
Чую не благородными делами занимаетесь

Карт
02.06.2017
07:21:39
нет, собираю свою клиентскую базу с других ресурсов для дальнейшего таргетирования

Глеб
02.06.2017
07:25:51
Я не совсем понял задачу, но ответ кажись у вас есть: "отправлял запросы сначала на 10 страниц и сделал сбор затем на следующую десятку и сбор и так по очереди 10 20 30 40 50 60 70 80 90 100 и так далее.". Решение в лоб - бегите bash скриптом.

Карт
02.06.2017
07:32:19
я просто думал, можно в свои config что то дописать чтобы сканировал по очереди 10 20 30 40 50 страниц но чтобы делал автоматом а не так чтобы я каждый раз вручную менял до какой страницы парсить

Vsevolod
02.06.2017
07:33:51
парсишь за раз по 10 элементов, на каждом элементе делаешь page+=1

ставишь какой-то барьер типа if page ===1000 break

или в чем проблема?

Карт
02.06.2017
07:38:35
{ "types": 2, "dopage": 580, "PHPSESSID": "sadsvtwer23423s200", "delay": 1000 } dopage - это парсить до какой страницы ставлю 10 отсканировал 10, в page сохранилось до какой страницы отсканировал, затем меняю dopage на 20 затем до 30 чтобы отправлялось по 10 запросов и сайт не зависал а если ставлю по 1000 то одновременно отсылаются 1000 запросов и сайт лежит мне нужно 10000 страниц отсканировалось и чтобы запросы отправлялись по очереди по 10

отправлю символическую 100 рублей если кто нибудь поможет, просто уж замучился

Ilya
02.06.2017
07:39:26
парси в 1 поток

Карт
02.06.2017
07:39:37


Google
Карт
02.06.2017
07:40:16
тут видимо по 10 потоков идет, если 10 запросов одновременно отправляются

парси в 1 поток

Ilya
02.06.2017
07:40:35
1000 запросов одновременно. мы тутвсем офисом ржем

Глеб
02.06.2017
07:40:59
Ещё раз, что такое 'dopage'? Это до какой страницы он "допарсил"?

Карт
02.06.2017
07:41:18
Нет, до какой страницы парусить

Admin
ERROR: S client not available

Карт
02.06.2017
07:41:24
Парсить, dopage

Глеб
02.06.2017
07:42:03
1000 запросов одновременно. мы тутвсем офисом ржем
Да ладно, может у чуваков там похапэ на 486 живёт

Карт
02.06.2017
07:42:25
Ещё раз, что такое 'dopage'? Это до какой страницы он "допарсил"?
А в page.txt сохраняется число страниц до какого он допарсил

Глеб
02.06.2017
07:42:30
Воот

Просто запускайте этот скрипт последовательно N раз, где N = всего пользователей / dopage.

Карт
02.06.2017
07:44:15
Я и так делаю, сначала в dopage пишу 10, отсканировал, затем редактирую в config.json, dopage на 20, затем на 30 и так все нормально идёт

Глеб
02.06.2017
07:44:41
Кто-нибудь, напишите человеку bash for https://habrahabr.ru/post/52871/

Карт
02.06.2017
07:44:47
Но мне нужно отсканировать сотни тысяч станиц, и руками по очереди вводит 10 20 30 40 не вариант.

Глеб
02.06.2017
07:45:18
Или вы там виндой балуетесь?

Карт
02.06.2017
07:45:32
Не понял?

Видимо этот парсер написан был на node Редактирую конфиг dopage жму start.bat и он сканирует Мне нужно просто чтобы по 1 сканировал сьраницы а не одновременно по 100 запросов отправлял.



Глеб
02.06.2017
07:47:48
Пфуф

Google
Карт
02.06.2017
07:48:33
Хелп, хотябы за вас 100 рублей за такси оплачу

Для программиста это не деньги, но хотябы желание было помочь)

Глеб
02.06.2017
07:50:01
Ну так тебе надо увеличивать не dopage (это сколько параррельно парсить), а номер страницы в твоём этом page.txt

Ilya
02.06.2017
07:50:07
Да ладно, может у чуваков там похапэ на 486 живёт
я когда одминил ставил ограничения 8-10 потоков на клиента.... иначе писецмана

а он 1000

ха

Карт
02.06.2017
07:51:19
Ну так тебе надо увеличивать не dopage (это сколько параррельно парсить), а номер страницы в твоём этом page.txt
Не не, например поставил в dopage 10, отсканировал 10 и в page.txt автоматом пишется 10, чтобы потом когда я поставил в dopage 20, он начал просить с 11 страницы

Ilya
02.06.2017
07:51:33
Но мне нужно отсканировать сотни тысяч станиц, и руками по очереди вводит 10 20 30 40 не вариант.

Хелп, хотябы за вас 100 рублей за такси оплачу

давай еще жги

Глеб
02.06.2017
07:51:52
Эй, не обижай джуна =)

Ilya
02.06.2017
07:52:27
я тут парсер одного агрегатора 30+ часов уже пишу

особый кайф названия городов и гостиниц

и ахулион опечаток в турагенствах

100 рублей

Страница 824 из 2748