@rudepython

Страница 504 из 1719
Vladislav
21.07.2017
16:15:49
Конкретно, идёшь на след страницу)

Igor
21.07.2017
16:16:31
ну так для того, чтобы твой скрипт делал что-то нужное, надо сначала ручками, самостоятельно, разобраться, как это можно автоматизировать. если ты хочешь магическую хуйню, которой ты сказал "ДАЙ МНЕ ВСЕХ ПИТОНИСТОВ С ЛИНКЕДИНА И НАСРИ ИМ В ПОЧТУ" и хуяк все готово заказчик дал бабло, то у меня для тебя плохие новости.

Google
Igor
21.07.2017
16:17:13
роль индуса тут выполняет владислав как раз

Igor
21.07.2017
16:18:41
Конкретно, идёшь на след страницу)
ну давай сами зайдем и жмакнем на вторую страницу. вот я жмакнул. какой урл был открыт? https://www.linkedin.com/search/results/people/?keywords=python&origin=SWITCH_SEARCH_VERTICAL какой теперь, когда я на второй странице? https://www.linkedin.com/search/results/people/?keywords=python&origin=SWITCH_SEARCH_VERTICAL&page=2

Vladislav
21.07.2017
16:18:48
роль индуса тут выполняет владислав как раз
Даже не буду пытаться оспаривать данный факт, я ещё совсем начинающий в питоне и в программировании в целом)

Igor
21.07.2017
16:18:51
о, чудо! в конце ссылки появился параметр page с цифиркой 2!

Igor
21.07.2017
16:19:24
значит, наверное, можно заебенить в скрипт да хоть тупой for page in range(100): requests.get('...', params={'page': page})

dmks
21.07.2017
16:19:55
Vladislav
21.07.2017
16:20:17
Это я тоже понимаю, но допустим как узнать, кроме как ручками сколько страниц вообще существует по данному запросу?

Igor
21.07.2017
16:20:18
прокси, впн и прочие способы обхода этого говна спасут отца русской демократии

dmks
21.07.2017
16:20:32
ну да, это лвл 2

Vladislav
21.07.2017
16:21:13
Вот я и интересуюсь для того, чтобы перейти на лвл 2)

Igor
21.07.2017
16:21:50
Это я тоже понимаю, но допустим как узнать, кроме как ручками сколько страниц вообще существует по данному запросу?
так, ну давай посмотрим. когда я на первой странице, мне отображаются следующие данные: вверху - Showing 1,945,699 results внизу - список страниц, от 1 до 10. больше - увы. значит, есть два способа - первый - поделить 1945699 на кол-во пидоров, отобраюающихся на одной странице - получим кол-во страниц. проблема может быть в том, что линкедин хоть и похвастается этими двумя миллионами питонистов, но все их тебе вряд ли отдаст.

Google
Igor
21.07.2017
16:22:49
второй способ - а зачем тебе знать, сколько страниц вообще существует, когда можно просто идти по новым? вот ты на первой странице находишься, внизу еще девять ссылок, на страницы от 2 до 10. прошелся по ним по всем, оказался на десятой, а там - хуяк - уже отображаются страницы с 6 по 15. значит, качаешь с 11 по 15.

и так, пока страницы справа от текущей не перестанут отображатся. когда перестали - значит ой, кончилось.

Vladislav
21.07.2017
16:23:50
Первый способ для меня понятнее)

Igor
21.07.2017
16:23:57


вот про второй. по class="active" можно понять, какая страница текущая. выдираем все <li> из этого блока, находим там текущую, и берем все справа от нее. это если утрированно и на пальцах.

если понятнее первый способ - ну попробуй его реализовать. только сделай проверку, как только на странице перестали отображаться нужные данные - остановиться, нахуй, чтоб вхолостую не работать и не увеличивать шанс бана.

Vladislav
21.07.2017
16:26:33
Да я вот и думаю, может какой-нибудь тайм-аут между итерациями сделать, чтобы не забанили

Или не поможет?

Александр
21.07.2017
16:27:08
А какой таймаут ставить будешь? Пока не забанят, не узнаешь)

Igor
21.07.2017
16:28:23
таймаут, юзерагент. увидел rate limit exceeded или типа того - остановись, подожди. не хочется ждать - ищи бесплатные прокси. не хочется пользоваться говном - покупай прокси.

Vladislav
21.07.2017
16:29:31
Есть знакомые люди, которые каким-то ботом парсят и рассылают сообщения по типу вышеупомянутого селениума, то говорят что больше 300 человек в день лучше не проходить

Igor
21.07.2017
16:30:23
зависит от дохуищи всякой херни.

Igor
21.07.2017
16:31:03
это я просто по бегиннерсам соскучился но не настолько, чтобы туда возвращаться

Vladislav
21.07.2017
16:31:14
Буду стараться не задавать глупых вопросов)

А чем сейчас вообще в основном занимаются на питоне? Какие заказы в основном?

Igor
21.07.2017
16:32:58
яннп

А чем сейчас вообще в основном занимаются на питоне? Какие заказы в основном?
да все формошлёпы и мамкины скраперы, как выше правильно написали, в этом никто признаваться не будет

dmks
21.07.2017
16:34:02
датасаентистов забыл

Google
Zart
21.07.2017
16:34:02
ну она нанесла удар ногой по верхней точке, продемонстрировав ему богатый внутренний мир

Igor
21.07.2017
16:34:54
датасаентистов забыл
ну графикошлёпы

Vladislav
21.07.2017
16:35:37
А чет посерьёзнее есть смысл писать на питоне? Слышал даже браузерные игры на нем есть

Igor
21.07.2017
16:36:01
браузерные игры - бекенд, разве что. а это вполне попадает под категорию формошлёпства

ну вон десктопный софт на питоне пишут, для линухов в основном. gajim, terminator, че там еще было.

всякие не очень нуждающиеся в производительности сетевые сервисы или очень нуждающиеся, тогда с какиим-нибудь говнообертками над С++шным кодом

Vladislav
21.07.2017
16:42:14
хм, спасибо за обширный ответ)

Dmitry
21.07.2017
17:25:45
Zart
21.07.2017
17:27:09
а еще котиков рисовать можно

bellicose
21.07.2017
17:27:55
А чем сейчас вообще в основном занимаются на питоне? Какие заказы в основном?
Но в последнее время , что бы не писали на питоне, в итоге получается бот

Dmitry
21.07.2017
17:28:53


Zart
21.07.2017
17:29:25


Roman
21.07.2017
17:51:40
детям на заметку: http://pythonbooks.org

dmks
21.07.2017
17:55:50
Зрт т упрлс?

Zart
21.07.2017
17:56:16
а ты проебал недавнее?

dmks
21.07.2017
17:58:28
Збс!

Alex
21.07.2017
17:59:25
Zart
21.07.2017
18:03:25
Google
Zart
21.07.2017
18:03:51
вы как камеди клаб, метите самое несмешное

Magma
21.07.2017
19:09:03
ДЖАНГА ХУИТА

Оооо блять

аж лехче стала

morda
21.07.2017
19:10:07
Джанга это лучшее что случилось с питончиком)

Ну торнада еще окей

morda
21.07.2017
19:13:28
Не осилил вот и злобствуешь)

(Знаю)

Magma
21.07.2017
19:14:13
Типичный день рубиста

morda
21.07.2017
19:14:29
Молодеж?

Зарт?

Magma
21.07.2017
19:16:26
Типичный день рубиста
Под рубиста это лучше подходит

Alex
21.07.2017
19:17:13
ДЖАНГА ХУИТА
После чего психанул?

Stanislav
21.07.2017
19:17:22
Ретард ебанный

Magma
21.07.2017
19:17:31
Ретард ебанный
Ретарды на двача

я там не обитаю

как видишь

Stanislav
21.07.2017
19:17:43
Ретарды на двача
Дайте банца господину

dmks
21.07.2017
19:17:44
ДЖАНГА ХУИТА
Там админка и батарейки

Google
dmks
21.07.2017
19:17:51
И орм

Alex
21.07.2017
19:17:58
morda
21.07.2017
19:18:07
Стапэ

Magma
21.07.2017
19:18:30
Дайте банца господину
Я бы от хуйча не отказался

morda
21.07.2017
19:18:40
Давайте послушаем начальника транспортного цэха

ultranoise ?
21.07.2017
19:18:57
Там админка и батарейки
Админка????????? Ебался шоль

dmks
21.07.2017
19:19:11
ultranoise ?
21.07.2017
19:19:20
Она не оч

Особенно модель ролей

morda
21.07.2017
19:19:39
Заебали

Вы ноду ставили?)

ultranoise ?
21.07.2017
19:19:54
Я 5 месяцев Ее кастомил

Magma
21.07.2017
19:19:57
Там админка и батарейки
>джанга ЗАТО У НАСС ЕЕЕЕЕ ОДМИНКА ДА ОДМИНКА!!!!!!!111!!11!!!!

morda
21.07.2017
19:19:58
Админка им не так

ultranoise ?
21.07.2017
19:20:02
Админка

Так как там написана админка, можно написать самому такое же приложение

Magma
21.07.2017
19:20:49
У этой пары явно рвет Очко от моего появления

Страница 504 из 1719