Anonymous
Ну вот тут уже хз. Я в эту сферу настолько не углублялся
Думаю, в чатике есть чуваки из Ростелекома или магистралов. Если прочтут, отпишутся, нужна ли аккредитация
elessar
да точно в js)))
Сережа
https://github.com/niklasb/dryscrape
Сережа
Там какой-то spynner предлагают
Сережа
Чот мутная тема, селениум ван лав
Kop
Чот мутная тема, селениум ван лав
Да он жирный блин, целый браузер с его приблудами
Kop
Чот мутная тема, селениум ван лав
А там обрезок неполноценный был
Сережа
Да он жирный блин, целый браузер с его приблудами
Так это, безголовый режим и вперед, сильно много вродь не жрет
Kop
Так это, безголовый режим и вперед, сильно много вродь не жрет
Замеры делал ? Я бы посмотрел на расход ресурсов
Сережа
Вообще если там что-то оч динамичное, шо трындец, я напрямую из сокета читаю, если можно
Сережа
Замеры делал ? Я бы посмотрел на расход ресурсов
Нуу на vps с 1024 оперативки, 6 инстансов спокойно смотрели твич и фармили кейсы в кс
Сережа
Хз реальных цифр под рукой нет
Kop
Нуу на vps с 1024 оперативки, 6 инстансов спокойно смотрели твич и фармили кейсы в кс
Кейсы в кс?)) я думал их только покупать можно было. Ну раз на такой впс держалось, то ладно
Сережа
Ну там, твич с привязанным аком смотришь и тебе коллекционные дают, которые без ключей открываются
Сережа
когда мажор какой-нить идет
Damir
Ребят, почему в селениуме для движка Хрома не ставится прокси?
Прокси ставится. Не ставится прокси с аутентификацией. Привяжи прокси к своему ip и будет тебе счастье.
Проксимов
Не надо меня никуда привязывать (
Максим
Люди, нужна помощь в придумывании архитектуры. Надо забирать потоковые данные из другого процесса.
Дмитрий
что за процесс?
Tishka17
забирай
Tishka17
где тут архитектура?
Дмитрий
совсем другой или форк твоего?
Дмитрий
обычно когда я делал многопроцессный код в питоне, я приходил к тому, что не надо делать многопроцессный код в питоне
Tishka17
хз что вы делаете
Tishka17
у меня пока не было проблем
Tishka17
ни с каким кодом кроме криво написанного
Aragaer
когда я последний раз делал многопроцессный код в питоне, у меня получилось две маленькие либы, которые я выложил на pypi
Aragaer
правда у меня нет винды, поэтому я не запилил там одну мелкую хрень, которая для винды нужна. Поэтому мои либы на винде не работают
Aragaer
а запилить никто не хочет
Tishka17
Когда я последний раз делал многлпроцессный код, у меня получились микросервисы
Дмитрий
единственный кейс, это странная программа, исходников которой не было, и которая умела общаться только через stdin
Aragaer
ну у меня связь была через стдин или юникс сокеты
Anonymous
у меня логгируется запрос в базу данных в несколько строк, а мне надо в одну для компактности
Anonymous
как сделать?
Andrey
Pdns умел отдавать данные через пайп.
Дмитрий
.replace()?
Anonymous
.replace()?
где само сообщение хранится?
Дмитрий
Tishka17
?
ну """ cnhjrf строка строка """
Tishka17
я не понял проблему
Egor
у меня новый видос по пайтону вышел - задачи с собеседований + декораторы Можно сюда ссылку дать?
Anonymous
сейчас так, а я хочу чтобы в одну строку записало
Egor
https://www.youtube.com/watch?v=3q1V2QcanXQ
Anonymous
Tishka17
эта строка все равно на экран не влезет
Anonymous
а зачем, если не секрет?
не знаю, просто мне так больше нравится
Tishka17
а, ну если просто - рекомендую забить
Alex
ты такой умный
ну ты можешь определить свой фильтр \ handler и там делать replace
Alex
но да не страдай херней, тишка дело говорит
Tishka17
ты все равно скоро выключишь логирование запросов
Дмитрий
ты такой умный
ну, нагуглить как достать запрос из алхимии несложно)
Alex
ну, нагуглить как достать запрос из алхимии несложно)
эм... что ты несешь? логирует запросы непосредственно логгер алхимии
Дмитрий
хм? оке, не обращал внимания.
Andrey
Кстати ищу хорошую книгу/справочник по дизайну баз данных, никто не сталкивался с таким?
Tishka17
Ребята, мне по запросу клиента надо логировать во всех сроках лога его ID (фиксированную строку для данного запроса). Лог при том может вызываться в куче классов. Как это лучше сделать?
Tishka17
угу
Дмитрий
django?
Tishka17
ну вообще, обработка сообщений от SQS
Tishka17
запилить thread local переменные что ли
Tishka17
и в форматтере заюзать
Дмитрий
в общем суть в том что надо написать мидлваре где в request будет закладываться некий flow_id которы ты можешь на любом этапе вытащить и положить в лог
Tishka17
нет никакого request
Tishka17
в один класс передается одна перемеенна, в другой - другая
Tishka17
можно конечно через все протащить common_log_data какой-то но выглядит чет стремно
Tishka17
ну грубо def parse(json_data): logging.debug("parse %s", json_data) def do(text): logging.debug("do") db.execute(...) def handler(): msg = queue.pop() data = parse(msg) do(data["text"]) вот я хочу чтобы parse и do логировали с неким id запроса
Tishka17
и таких методов много в разных кейсах
Artyem
звучит как область применения contextvars
Tishka17
пойду почитаю куда их