Anonymous
в vr бы погонял
Anonymous
возвращаясь к языкам
Anonymous
кажется придумал самую тупую игру
Anonymous
симулятор гошника
Anonymous
причем люди думают, что это игра, а ты потом микросервисы запускаешь
Dream
напиши ии которая заменит гошников, как тебе цель жизни?)
Anonymous
это типа как нанять людей, только наоборот
Anonymous
они за подписку платят
Dream
план очь хитрый, держи в курсе)
Anonymous
а лучше не подписку, а шлемы всякие
Anonymous
фри-ту-плэй
Anonymous
и как в доте какой-нибудь
Anonymous
Поставил ентот ваш npm@5. Yarn: 44s, NPM@5: 19s. Пойду ка я обновлять остальные проекты)
Anonymous
C Node 8 в Travis всё норм собирается.
Anonymous
Народ, маленький опрос: Вы пользуетесь загрузкой переменных среды из файлов или используете только переданные параметры (process.env и всё)?
Ruslan
Народ, маленький опрос: Вы пользуетесь загрузкой переменных среды из файлов или используете только переданные параметры (process.env и всё)?
Привет. Зависит от того как у вас среды разворачиваются и с какой периодичностью, какое количество сред. Автомат, часто, много - из файлов.
A
товарищи подскажите как хранить повторяющие события приложуха типа календаря может есть пример? как потом поиск делать?
Kons
Я храню правило текстом в колонке БД, но, если нужен поиск, то можно разобрать правило на поля и хранить их отдельно (например, время начала, интервал повтора и т.д.)
Safort
кажется придумал самую тупую игру
Чувствую какую-то ненависть к го. Теперь даже не знаю, что ты больше ненавидишь: js, python или go)
arts
Похапе же
Safort
ruby еще забыл
Я просто не видел, как Сергей рубистов хейтил)
Vladimir
звучит как стаж курения
Anonymous
всем привет ребята
Anonymous
вообщем делаю сбор с сайта и у меня такие траблы со сбором
Anonymous
То есть она отправляет запросы сразу 10 страницам и потом по очереди собирает базу с страниц. Так вот, ставлю 10 страниц и все нормально, как только ставлю 100 сайт падает и приходиться вручную редактировать конфиг ставить 10 затем 20 затем 30 затем 40 затем 50, чтобы по очереди по 10 страниц собирал базу
Anonymous
Anonymous
Вот на скрине например одновременно отправил 10 запросов, затем уже начал сбор. По 10 руками вводит и по очереди не вариант, так как мне нужно собрать базу с несколько десятков тысяч страниц. Как сделать так, чтобы поставил сбор с 100к базы, а он сам по себе отправлял запросы сначала на 10 страниц и сделал сбор затем на следующую десятку и сбор и так по очереди 10 20 30 40 50 60 70 80 90 100 и так далее.
Anonymous
{ "types": 2, "dopage": 10, "PHPSESSID": "osaqxghgsp2s6sto19hs4fmp64034200", "delay": 2000 } мой config
Anonymous
написано на node, по этому хочу спросить у знающих как решить эту проблему Заранее спасибо
Denis
Чую не благородными делами занимаетесь
Anonymous
нет, собираю свою клиентскую базу с других ресурсов для дальнейшего таргетирования
Anonymous
Я не совсем понял задачу, но ответ кажись у вас есть: "отправлял запросы сначала на 10 страниц и сделал сбор затем на следующую десятку и сбор и так по очереди 10 20 30 40 50 60 70 80 90 100 и так далее.". Решение в лоб - бегите bash скриптом.
Konstantin
Вообщем тебе нужен job раннер
Anonymous
я просто думал, можно в свои config что то дописать чтобы сканировал по очереди 10 20 30 40 50 страниц но чтобы делал автоматом а не так чтобы я каждый раз вручную менял до какой страницы парсить
V
парсишь за раз по 10 элементов, на каждом элементе делаешь page+=1
V
ставишь какой-то барьер типа if page ===1000 break
V
или в чем проблема?
Anonymous
{ "types": 2, "dopage": 580, "PHPSESSID": "sadsvtwer23423s200", "delay": 1000 } dopage - это парсить до какой страницы ставлю 10 отсканировал 10, в page сохранилось до какой страницы отсканировал, затем меняю dopage на 20 затем до 30 чтобы отправлялось по 10 запросов и сайт не зависал а если ставлю по 1000 то одновременно отсылаются 1000 запросов и сайт лежит мне нужно 10000 страниц отсканировалось и чтобы запросы отправлялись по очереди по 10
Anonymous
отправлю символическую 100 рублей если кто нибудь поможет, просто уж замучился
Anonymous
Anonymous
тут видимо по 10 потоков идет, если 10 запросов одновременно отправляются
Anonymous
парси в 1 поток
Anonymous
Ещё раз, что такое 'dopage'? Это до какой страницы он "допарсил"?
Anonymous
Нет, до какой страницы парусить
Anonymous
Парсить, dopage
Anonymous
Вы понимаете над чем?
Anonymous
Да ладно, может у чуваков там похапэ на 486 живёт
Anonymous
Ещё раз, что такое 'dopage'? Это до какой страницы он "допарсил"?
А в page.txt сохраняется число страниц до какого он допарсил
Anonymous
Воот
Anonymous
Просто запускайте этот скрипт последовательно N раз, где N = всего пользователей / dopage.
Anonymous
Я и так делаю, сначала в dopage пишу 10, отсканировал, затем редактирую в config.json, dopage на 20, затем на 30 и так все нормально идёт
Anonymous
Кто-нибудь, напишите человеку bash for https://habrahabr.ru/post/52871/
Anonymous
Но мне нужно отсканировать сотни тысяч станиц, и руками по очереди вводит 10 20 30 40 не вариант.
Anonymous
Или вы там виндой балуетесь?
Anonymous
Не понял?
Anonymous
Видимо этот парсер написан был на node Редактирую конфиг dopage жму start.bat и он сканирует Мне нужно просто чтобы по 1 сканировал сьраницы а не одновременно по 100 запросов отправлял.
Anonymous
Anonymous
Пфуф
Anonymous
Хелп, хотябы за вас 100 рублей за такси оплачу
Anonymous
Для программиста это не деньги, но хотябы желание было помочь)
Anonymous
Ну так тебе надо увеличивать не dopage (это сколько параррельно парсить), а номер страницы в твоём этом page.txt
Anonymous
Ну так тебе надо увеличивать не dopage (это сколько параррельно парсить), а номер страницы в твоём этом page.txt
Не не, например поставил в dopage 10, отсканировал 10 и в page.txt автоматом пишется 10, чтобы потом когда я поставил в dopage 20, он начал просить с 11 страницы
Anonymous
Эй, не обижай джуна =)
Anonymous
Блин что за троллинг, я вообще не Але в вашей сложной работе Но нужно чуть чуть этот софт переделывать, чтобы по очереди парсил страницы, чтобы запросы отправлялись по очереди
Anonymous
Я попросил просто помощи
Anonymous
Если вам это в лом, пожалуйста не реагируйте И не острите, это не к чему
Anonymous
Руками у меня все нормально работает Когда я руками редактирую DOPAGE 10/20/30
Anonymous
Так, эй, извинись перед Ильёй, а то помогать не буду
Anonymous
Никого никуда посылать не надо
Anonymous
Так, эй, извинись перед Ильёй, а то помогать не буду
похоже он специально провоцирует и тролить
Anonymous
Просто ты должен понимать, что таких как ты, приходящих с... эм... несколько простенькими вопросами очень много и это некоторых людей начинает бесить.
А ВОТ ТЕПЕРЬ ПАБЛИК
лол блять
А ВОТ ТЕПЕРЬ ПАБЛИК
весело тут вас
Anonymous
#!/bin/bash currentItem=0 while [ $currentItem -lt 100 ] do тут впиши запуск своего этого start.sh currentItem=$[$currentItem+10] done