Верет
а блять
Верет
ахах
Верет
сори
🅰️nimeCoder
ну видно что есть await и нету ; в конце
🅰️nimeCoder
плюсы бы не оценили отсутствие точик с запятой
Верет
та я завтыкал
🅰️nimeCoder
но новерное можно и на плюсах
🅰️nimeCoder
если порт есть
Верет
интересно посмотреть как будет выглядеть
🅰️nimeCoder
садомазно
Vladislav
добрый день, подскажите, пожалуйста, через puppeteer запускаю браузер dolphin, не могу получить iframe , возвращает null если запускаю через Chromium c аргументами ('--no-sandbox’, '--disable-setuid-sandbox’, '--disable-web-security’, ) то все работает
Vladislav
dolphin это антик, там вроде тоже можно хром юзать
Vladislav
ну он как бы и запускает хром
Vladislav
разобрался, спасибо
DELTA
Привет всем, помргите, пожалуйста. Пытаюсь авторизоваться в VK, без --disable-web-security возникает ошибка CORS, а с --disable-web-security вот:
DELTA
DELTA
Можно ли как-то юзать https proxy в puppeteer?
Alex*
Можно ли как-то юзать https proxy в puppeteer?
Если не получится, попробуйте вариант с прокси на самом сервере. Например Tinyproxy.
DELTA
Если не получится, попробуйте вариант с прокси на самом сервере. Например Tinyproxy.
Проблема в том, что я эти прокси закупил на сервисе и прямого доступа к серверам не имею)))). А имеет ли смысл рассматривать вариант просто купить VPN браузерный и прописать, чтобы при каждом запуске браузер к впну подключался перед выполнением действий основного скрипта?)
Anonymous
Можно ли как-то юзать https proxy в puppeteer?
Полно примеров видел. Задаешь прокси в настройках браузера без логина и пароля. И делаешь basic-авторизацию: типа: await page.authenticate(proxy);
DELTA
У меня есть много прокси такого формата: http://user:pass@ip:port Однако когда указываю один из прокси в —proxy-server, то в итоге получаю http подключение к сайту, а нужно, чтобы было защищенным
Anonymous
Да
http://2ip.ru не открывается, как у многих уважающих себя сайтов установлен редирект с http на https. Пришлите скрин, бразурной адресной строки, что у вас открывается http://2ip.ru
Anonymous
параллельно, у вас 2ip показывает адрес прокси?
Виталий
Странно, но если я покупал http прокси, там по дефолту https подключение работало 🧐
Виталий
Если у вас не расшаренные прокси конечно 🌚
Anonymous
Если у вас не расшаренные прокси конечно 🌚
как расшаренность прокси влияет на http(s)?
Виталий
Ну, имею в виду то, что расшаренные 70/30%, что в свободном доступе лежат и насчёт поднятия https на них не заморачиваются)
Виталий
Часто просто http
Виталий
Есть такие продавцы официальные, что вот такие расшаренные продают)))
Anonymous
Есть такие продавцы официальные, что вот такие расшаренные продают)))
а чем отличаются официальные от неофициальных продавцов?
Виталий
Вопрос без смысла по-моему немного)) Официальные имел в виду магазины, где прокси продают)
DELTA
Как можно взаимодействовать с расширением из puppeteer?
Anonymous
Как можно взаимодействовать с расширением из puppeteer?
А что ты пробовал? Ответ очевиден - надо знать принцип работы расширений и тогда станет ясно как лучше взаимодействовать исходя из вашей бизнес-логики
🅰️nimeCoder
Как можно взаимодействовать с расширением из puppeteer?
от расширений в основном проще отказатся, чем взаимодействовать но по большей мере это не больше чем очередное окон и доп апи и изолированное
Sasha
Проблема в том, что я эти прокси закупил на сервисе и прямого доступа к серверам не имею)))). А имеет ли смысл рассматривать вариант просто купить VPN браузерный и прописать, чтобы при каждом запуске браузер к впну подключался перед выполнением действий основного скрипта?)
Вам дельный совет сказали. Есть плагины которые открывают локально делается легко а там хоть в сокс5 пихайте. У вас получится прослойка котоая будет открывать на локал хосте порт до вашего прокси
Sasha
А что там будет http https не имеет значения разницы нет
DELTA
Вам дельный совет сказали. Есть плагины которые открывают локально делается легко а там хоть в сокс5 пихайте. У вас получится прослойка котоая будет открывать на локал хосте порт до вашего прокси
Да, нашел такой, спасибо, делаю «подсеть» (это же так называется?:))) ) с помощью pproxy на python, перенаправляя весь трафик из прокси на socks5://127.0.0.1:1337, а puppeteer в прокси-сервер указываю socks5://127.0.0.1:1337
DELTA
Насчет «подсети», такую картинку нашел, как будто бы то же самое
NexNerd
Hai guys hot to bypass cloudfire using puppeteer i have use stealth mode but is not help any solution? 😢
NexNerd
Use goood proxy
Ah ok thanks
Alex*
Hai guys hot to bypass cloudfire using puppeteer i have use stealth mode but is not help any solution? 😢
Sometimes working in headless = false mode helps. To work on a VPS without a GUI in this mode, you can use xvfb
Михаил
Здравствуйте. Подскажите, можно ли каким-то образом использовать мобильную версию браузера chrome с помощью puppeteer? или подменять в puppeteer значения параметров, например window.performance.memory. Или запустить puppeteer на мобильном телефоне, чтобы использовать браузер chrome на android? С заголовками понятно, что можно подменять, а вот параметры, которые JS собирает, шифрует и отправляет зашифрованными, отличаются в мобильной версии браузера и десктоп версии.
🅰️nimeCoder
но с чего ты взял что твое управление мобильной версией не детектится
Yauheni
Народ
Yauheni
Кто может помочь с запуском пупитер кластера )) запускаю простой проект с гет страрта: Node.js v21.6.2 PS C:\Users\Admin\Downloads\pup\pup_clus> node .\index.js ERROR: The process "8952" not found. C:\Users\Admin\Downloads\pup\pup_clus\node_modules\puppeteer-cluster\dist\Worker.js:41 throw new Error('Unable to get browser page'); ^ Error: Unable to get browser page at Worker.<anonymous> (C:\Users\Admin\Downloads\pup\pup_clus\node_modules\puppeteer-cluster\dist\Worker.js:41:31) at Generator.next (<anonymous>) at fulfilled (C:\Users\Admin\Downloads\pup\pup_clus\node_modules\puppeteer-cluster\dist\Worker.js:5:58) at process.processTicksAndRejections (node:internal/process/task_queues:95:5) Node.js v21.6.2
Михаил
но с чего ты взял что твое управление мобильной версией не детектится
Да пока только начал тестировать puppeteer, до этого другие программы и эмуляторы использовал. Применил отпечаток браузера, с помощью puppeteer-with-fingerprints. Смотрю, что сайт получает от меня и чем это отличается от реального android. Например мой браузер десктоп под управлением puppeteer сайт пропускает хорошо, да и автоматизацию через расширение в браузере пропускает, но интересует мобильная версия браузера.
Alex*
Кто может помочь с запуском пупитер кластера )) запускаю простой проект с гет страрта: Node.js v21.6.2 PS C:\Users\Admin\Downloads\pup\pup_clus> node .\index.js ERROR: The process "8952" not found. C:\Users\Admin\Downloads\pup\pup_clus\node_modules\puppeteer-cluster\dist\Worker.js:41 throw new Error('Unable to get browser page'); ^ Error: Unable to get browser page at Worker.<anonymous> (C:\Users\Admin\Downloads\pup\pup_clus\node_modules\puppeteer-cluster\dist\Worker.js:41:31) at Generator.next (<anonymous>) at fulfilled (C:\Users\Admin\Downloads\pup\pup_clus\node_modules\puppeteer-cluster\dist\Worker.js:5:58) at process.processTicksAndRejections (node:internal/process/task_queues:95:5) Node.js v21.6.2
А не проще ли самому, при массовых запросах контролировать каждую открытую ссылку и затем через Promise.all собирать результаты. Ведь там можно и ошибки увидеть для каждой запроса и отреагировать по своему. А еще смотреть открытие процессы puppeteer и их убивать. Может быть я велосипед изобретаю, и cluster все это может, но как-то спокойнее все контролировать самому. )
🅰️nimeCoder
вопрос еще в том на кой черт ему cluster, если никто не мешает открыть несколько браузеров с одного процесса, а они по большому счету с нодой не связаны и эвентлуп не убивают оно же просто процессы спавнит и по WS коннектится к remote dev tools
🅰️nimeCoder
это ведь не числодробилка
Anonymous
У меня есть опыт запуска pupperteer используя воркеров node.js, чтобы прям многопоточность была. Все работает без проблем
Yauheni
Я бы с радостью выпилил это гребанный кластер так как он памяти жрет много да еще и не подчищает за собой сессии. за пару часов работы остается мертвых 200-300 процессов
Yauheni
и постоянно растет память которую кушает nodejs
Eugene
Есть какие-то особенности запуска пуппитера на лямбде aws?
Alex*
taskkill /F /IM chrome.exe /T В кроне задайте или по определённому времени, будет полная чистка)
Через API pm2 можно в самом проекте контролировать, искать свои процессы и убивать.
Alex*
https://pm2.keymetrics.io/docs/usage/pm2-api/
Виталий
Taskkill сделает это разом и сразу же разгрузит систему)))
Alex*
Taskkill сделает это разом и сразу же разгрузит систему)))
Тоже вариант, но иногда надо оставить нужные и убить мертвые.
gud3
Привет, всем! Нам нужен разработчик, который поможет автоматизировать прохождение funCaptcha для нашего проекта. У нас уже есть автоматизацизия браузера(включа прокси и подмену фингерпринтов), с прохождением и заполнением все полей. Необходимо имплеменировать решение любое решение для прохождения капчи такие как: https://2captcha.com , https://anti-captcha.com , https://www.capsolver.com , etc. Примечение, использование плаигнов бразуера, виджетом не применимо(они протекают и хостер узнает об автоматизации). Мы готовы обсудить разные формы оплаты – почасовую, за проект или предложите свой вариант. Пишите в ЛС.
Виталий
Всем привет. Кто-нибудь делал авторизацию на сайте https://visa.vfsglobal.com/rus/en/aut/login ? Прохождение капчи проходит нормально, данные в поля ввожу, но при нажатии на Sign In все равно пишет что поля не заполнены. А какие поля непонятно
精神に強い
Приветвствую собираю puppeteer в докер и есть установка браузера такой строкой RUN apt-get update \ && apt-get install -y wget gnupg \ && wget -q -O - https://dl-ssl.google.com/linux/linux_signing_key.pub | gpg --dearmor -o /usr/share/keyrings/googlechrome-linux-keyring.gpg \ && sh -c 'echo "deb [arch=amd64 signed-by=/usr/share/keyrings/googlechrome-linux-keyring.gpg] http://dl.google.com/linux/chrome/deb/ stable main" >> /etc/apt/sources.list.d/google.list' \ && apt-get update \ && apt-get install -y google-chrome-stable fonts-ipafont-gothic fonts-wqy-zenhei fonts-thai-tlwg fonts-khmeros fonts-kacst fonts-freefont-ttf libxss1 \ --no-install-recommends работало, сегодня обнаружил ошибку и увидел что сайт откуда тянется репозиторий выдает 404 (http://dl.google.com/linux/chrome/deb/) Как решить эту проблему? Спасибо