Pathologic
на это 5 минут тратится, а если и это много, то пишешь скрипт, который поставит твои типовые пакеты
Aliaksandr
Зачем эти все лишние телодвижения?
Pathologic
чтобы тебе удобнее было ((:
Aliaksandr
С точки зрения бизнеса никто лишних танцев не оплачивает, сам же сегодня днем писал )
Камиль
Зачем эти все лишние телодвижения?
Чтобы только прошаренные знали как быстро сайты делать
Aliaksandr
Мне удобнее, чтоб база была в комплекте и я сразу стартовал ))
Pathologic
С точки зрения бизнеса никто лишних танцев не оплачивает, сам же сегодня днем писал )
так я тебе говорю - пишешь скрипт, который тебе развернет все сам
Aliaksandr
Так что если тот же кастомтемплейт затянут в ядро и мне не надо будет отплясывать в командной строке вокруг http_host, мне станет еще удобнее ))
Pathologic
не затянут
Aliaksandr
@Dmi3yy вроде писал, что уже затянули )
Pathologic
ну хз
Pathologic
в ево часто затягивается всякая хрень, а потом мучительно выпиливается ((:
Andrey
...блейд.
Andrey
)
Pathologic
Я тут вспомнил, что кложур уже делал когда-то Женя, но тогдв наверное не было проблемы меню построить
Pathologic
Вейфиндер справлялся 🙃
Dmytro
так я не понял, будет из коробки готовый getResources со всеми фильтрами или где? ))
Dmytro
или надо будет тянуть доклистер/дитто ?
EVO bot Лёшка
Aliaksandr
Самому писать надо будет
Aliaksandr
Вейфиндер справлялся 🙃
Ну когда-то и лукашенко выборы выигрывал. Дела давно минувших дней ))
Dmytro
впилили а теперь мучительно выпиливаете? ))
Aliaksandr
А как понять, что скрипт по крону, который например может качать что-то пару суток, до сих пор что-то качает, а не повалился?)
Dmytro
если хостинг нормальный, то он сам порубает такой крон)
Dmytro
если впс, то хоть както можно глянуть по процесам
Dmytro
а проще всего в кроне создавать файл типа stop.txt а в конце его удалять)
Dmytro
и в него писать читабельную дату начала)
Dmytro
ну а так - смотреть в лог крона
Aliaksandr
Так если я создам старт и скрипт отвалится, он и не удалится, т.е. будет казаться, что процесс идет ))
Dmytro
не, оно отвалится. а ты будешь думать, что он идет)
Aliaksandr
Я тоже самое и написал )
Aliaksandr
Т.е. то, что он отвалился я таким методом не пойму
Dmytro
ну там можно командами проверить в
Dmytro
типа service cron status
Dmytro
но эт надо гуглить, ибо линухи, убунты, дебияны, центосы и прочая лабюудень - все по разному)
Dmytro
но почти наверняка у тебя вся инфа по крону будет в var/log/syslog
Dmytro
вот в винде как ни крути - прикольно. журнал открыл кнопу тыкнул - и все сразу видно))
Dmytro
а почему сомнения есть такие? что ты там запускаешь? биткоин майнер чтоль))
Aliaksandr
Да не, как обычно парсинг сайта миллиона на 2 картинок )
Dmytro
тю, так пиши в текстовый файл результаты)
Dmytro
время и типа содрал 5 картинок)
Dmytro
сразу будет видно, работает или нет
Dmytro
в 8 утра пришел. а там запись стоит в 3 ночи скачал 100500 картинок. сразу будет видно что фсе...
Aliaksandr
Это на крайний случай ))
Dmytro
ну скажу сразу, что сайт донор тебя забанит полюбасу))
Dmytro
если не будешь ставить паузу между парсингами
Сергей
ну скажу сразу, что сайт донор тебя забанит полюбасу))
Можно же не на сервер сохранять, а к себе на комп. Под Винду есть wget, запускаешь с ключами, чтобы брал только картинки и в путь
Dmytro
где вы такие сайты находите.... уже года 2 парсю долбаные картинки из скриптов а не с хтмлы)))
Pathologic
надо как-то начинать писать импорты не на пхп
Pathologic
из-за картинок очень много времени просто проебывается
Aliaksandr
Ну там вопрос не только в картинках, просто от того, что их дофига, процесс может сильно затянуться и не заметишь, как скрипт отвалился ))
Pathologic
можно еще картинки не скачивать сразу, а просто в базу сохранять путь и все такое
Aliaksandr
Ставить паузу в 0.3 сек - это уже дополнительно 166 часов паузы на 2 млн картинок ))
Pathologic
и потом натравить отдельный крон раз в минуту
Aliaksandr
Пути уже есть, теперь надо качать))
Pathologic
wget может качать по списку
Aliaksandr
Пути предыдущий парсер на питоне написал уже ))
Pathologic
но тут еще проблема что картинки могут битыми быть
Dmytro
но тут еще проблема что картинки могут битыми быть
пхп-ой проверить размеры и отсеять битые в отдельный список
Aliaksandr
Сеошники какие-то эмуляции браузеров питонят, чтоб никто не догадался. Прогресс не стоит на месте )
Dmytro
сеошники питонят? ))
Pathologic
пиздить их палкой
Evgeny
Сеошники какие-то эмуляции браузеров питонят, чтоб никто не догадался. Прогресс не стоит на месте )
силениумом можно такие вещи делать)))) у меня даж неболшой парсер есть )
Pathologic
на 2 млн каждая секунда важна, какая уж тут эмуляция браузера ((:
Pathologic
да и риск большой что забанят типа ддос
Aliaksandr
Так они напитонили инфы в csv-файлы, в том числе адреса картинок. Теперь надо всю эту беду в сайт превратить на эво )
Dmytro
блять.... парсеры пишут а резалты в цсв кидают.....
Pathologic
ну вот напиши скрипт который запустит кучу вгетов по твоим файлам
Aliaksandr
Нормально, у яндекса по 400 тыс товаров с отзывами сливают, он не в курсах, не банит )
Pathologic
откуда вообще в этом всем взялся крон
Pathologic
или ты каждый день будешь по два миллиона сливать
Aliaksandr
Крон раньше делал, но тогда инфы было за раз по 500-1000 товаров. А тут отжалели сразу 450 тыс, вот и думаю, то ли этот подправить, то ли новый делать)
Aliaksandr
Т.е. файлики киданули, он их раз в час при наличии обработал и дальше спит
Anonymous
Сейчас Макс должен начать втирать за InnoDB и транзакции
Dmytro
==А тут отжалели сразу 450 тыс== я поначалу подумал что рублей)))
Aliaksandr
Нет, пока товаров))
Aliaksandr
Ну и там хз сколько к ним отзывов