
Vladislav
21.07.2017
16:15:49
Конкретно, идёшь на след страницу)

Igor
21.07.2017
16:16:31
ну так для того, чтобы твой скрипт делал что-то нужное, надо сначала ручками, самостоятельно, разобраться, как это можно автоматизировать.
если ты хочешь магическую хуйню, которой ты сказал "ДАЙ МНЕ ВСЕХ ПИТОНИСТОВ С ЛИНКЕДИНА И НАСРИ ИМ В ПОЧТУ" и хуяк все готово заказчик дал бабло, то у меня для тебя плохие новости.

dmks
21.07.2017
16:16:43
на апворке, магическая хуйня называется индус

Google

Igor
21.07.2017
16:17:13
роль индуса тут выполняет владислав как раз

Vladislav
21.07.2017
16:18:01

Igor
21.07.2017
16:18:41
Конкретно, идёшь на след страницу)
ну давай сами зайдем и жмакнем на вторую страницу. вот я жмакнул. какой урл был открыт?
https://www.linkedin.com/search/results/people/?keywords=python&origin=SWITCH_SEARCH_VERTICAL
какой теперь, когда я на второй странице?
https://www.linkedin.com/search/results/people/?keywords=python&origin=SWITCH_SEARCH_VERTICAL&page=2

Vladislav
21.07.2017
16:18:48

Igor
21.07.2017
16:18:51
о, чудо! в конце ссылки появился параметр page с цифиркой 2!

dmks
21.07.2017
16:19:24

Igor
21.07.2017
16:19:24
значит, наверное, можно заебенить в скрипт да хоть тупой for page in range(100): requests.get('...', params={'page': page})

dmks
21.07.2017
16:19:55

Vladislav
21.07.2017
16:20:17
Это я тоже понимаю, но допустим как узнать, кроме как ручками сколько страниц вообще существует по данному запросу?

Igor
21.07.2017
16:20:18
прокси, впн и прочие способы обхода этого говна спасут отца русской демократии

dmks
21.07.2017
16:20:32
ну да, это лвл 2

Vladislav
21.07.2017
16:21:13
Вот я и интересуюсь для того, чтобы перейти на лвл 2)

Igor
21.07.2017
16:21:50
Это я тоже понимаю, но допустим как узнать, кроме как ручками сколько страниц вообще существует по данному запросу?
так, ну давай посмотрим. когда я на первой странице, мне отображаются следующие данные:
вверху - Showing 1,945,699 results
внизу - список страниц, от 1 до 10. больше - увы.
значит, есть два способа - первый - поделить 1945699 на кол-во пидоров, отобраюающихся на одной странице - получим кол-во страниц.
проблема может быть в том, что линкедин хоть и похвастается этими двумя миллионами питонистов, но все их тебе вряд ли отдаст.

Google

Igor
21.07.2017
16:22:49
второй способ - а зачем тебе знать, сколько страниц вообще существует, когда можно просто идти по новым?
вот ты на первой странице находишься, внизу еще девять ссылок, на страницы от 2 до 10.
прошелся по ним по всем, оказался на десятой, а там - хуяк - уже отображаются страницы с 6 по 15.
значит, качаешь с 11 по 15.
и так, пока страницы справа от текущей не перестанут отображатся. когда перестали - значит ой, кончилось.

Vladislav
21.07.2017
16:23:50
Первый способ для меня понятнее)

Igor
21.07.2017
16:23:57
вот про второй. по class="active" можно понять, какая страница текущая. выдираем все <li> из этого блока, находим там текущую, и берем все справа от нее. это если утрированно и на пальцах.
если понятнее первый способ - ну попробуй его реализовать. только сделай проверку, как только на странице перестали отображаться нужные данные - остановиться, нахуй, чтоб вхолостую не работать и не увеличивать шанс бана.

Vladislav
21.07.2017
16:26:33
Да я вот и думаю, может какой-нибудь тайм-аут между итерациями сделать, чтобы не забанили
Или не поможет?

Александр
21.07.2017
16:27:08
А какой таймаут ставить будешь? Пока не забанят, не узнаешь)

Igor
21.07.2017
16:28:23
таймаут, юзерагент. увидел rate limit exceeded или типа того - остановись, подожди. не хочется ждать - ищи бесплатные прокси. не хочется пользоваться говном - покупай прокси.

Vladislav
21.07.2017
16:29:31
Есть знакомые люди, которые каким-то ботом парсят и рассылают сообщения по типу вышеупомянутого селениума, то говорят что больше 300 человек в день лучше не проходить

Igor
21.07.2017
16:30:23
зависит от дохуищи всякой херни.

Vladislav
21.07.2017
16:30:36
Нубу*

Igor
21.07.2017
16:31:03
это я просто по бегиннерсам соскучился
но не настолько, чтобы туда возвращаться

Vladislav
21.07.2017
16:31:14
Буду стараться не задавать глупых вопросов)
А чем сейчас вообще в основном занимаются на питоне? Какие заказы в основном?

Igor
21.07.2017
16:32:58
яннп

dmks
21.07.2017
16:34:02
датасаентистов забыл

Google

Zart
21.07.2017
16:34:02
ну она нанесла удар ногой по верхней точке, продемонстрировав ему богатый внутренний мир

Igor
21.07.2017
16:34:54

Vladislav
21.07.2017
16:35:37
А чет посерьёзнее есть смысл писать на питоне? Слышал даже браузерные игры на нем есть

Igor
21.07.2017
16:36:01
браузерные игры - бекенд, разве что. а это вполне попадает под категорию формошлёпства
ну вон десктопный софт на питоне пишут, для линухов в основном. gajim, terminator, че там еще было.
всякие не очень нуждающиеся в производительности сетевые сервисы
или очень нуждающиеся, тогда с какиим-нибудь говнообертками над С++шным кодом

Vladislav
21.07.2017
16:42:14
хм, спасибо за обширный ответ)

b0g3r
21.07.2017
17:20:32

Dmitry
21.07.2017
17:25:45

Zart
21.07.2017
17:27:09
а еще котиков рисовать можно

bellicose
21.07.2017
17:27:55

Dmitry
21.07.2017
17:28:53

Zart
21.07.2017
17:29:25

Roman
21.07.2017
17:51:40
детям на заметку: http://pythonbooks.org

dmks
21.07.2017
17:55:50
Зрт т упрлс?

Zart
21.07.2017
17:56:16
а ты проебал недавнее?

dmks
21.07.2017
17:58:28
Збс!

Alex
21.07.2017
17:59:25

Zart
21.07.2017
18:03:25

Google

Zart
21.07.2017
18:03:51
вы как камеди клаб, метите самое несмешное

Magma
21.07.2017
19:09:03
ДЖАНГА ХУИТА
Оооо блять
аж лехче стала

morda
21.07.2017
19:10:07
Джанга это лучшее что случилось с питончиком)
Ну торнада еще окей

Magma
21.07.2017
19:12:45

morda
21.07.2017
19:13:28
Не осилил вот и злобствуешь)
(Знаю)

Magma
21.07.2017
19:14:13
Типичный день рубиста

morda
21.07.2017
19:14:29
Молодеж?
Зарт?

Magma
21.07.2017
19:16:26

Alex
21.07.2017
19:17:13

Stanislav
21.07.2017
19:17:22
Ретард ебанный

Magma
21.07.2017
19:17:31
я там не обитаю
как видишь

Stanislav
21.07.2017
19:17:43

dmks
21.07.2017
19:17:44

Google

dmks
21.07.2017
19:17:51
И орм

Alex
21.07.2017
19:17:58

morda
21.07.2017
19:18:07
Стапэ

Magma
21.07.2017
19:18:30

morda
21.07.2017
19:18:40
Давайте послушаем начальника транспортного цэха

ultranoise ?
21.07.2017
19:18:57

dmks
21.07.2017
19:19:11

ultranoise ?
21.07.2017
19:19:20
Она не оч
Особенно модель ролей

morda
21.07.2017
19:19:39
Заебали
Вы ноду ставили?)

ultranoise ?
21.07.2017
19:19:54
Я 5 месяцев Ее кастомил

Magma
21.07.2017
19:19:57

morda
21.07.2017
19:19:58
Админка им не так

ultranoise ?
21.07.2017
19:20:02
Админка
Так как там написана админка, можно написать самому такое же приложение

Magma
21.07.2017
19:20:49
У этой пары явно рвет Очко от моего появления