а зачем нужен торнадо?

ну, когда-то давно было модно на нем делать всякое с вебсокетами, типа event driving

а сейчас на чем модно?

а сейчас на чем модно?

asyncio жи

а если питон 2? =)

http://img.walls321.com/images1/huonwfmxdrv.jpg

а если питон 2? =)

тогда зачем тебе думать о моде? )

?

ну а вдруг

а если питон 2? =)

gevent/eventlet

ну или trollius

@lig11 о дебаге. Можно зайти на сервера и посмотреть на каком есть Джанго воркер. 100% cpu

Чёто я наверное вне контекста что-то сказал чувствую )))

а если питон 2? =)

а это не модно, но есть gevent

@lig11 о дебаге. Можно зайти на сервера и посмотреть на каком есть Джанго воркер. 100% cpu

не, там нет 100% cpu, и я уже сделал один воркер, но там gevent, что тоже не проблема, я уже в один процесс перезапустил и pdb внедрил

и тут ошибка пропала...;)

вернул как было на gevent и все равно ошибки нет, мистика

ээ запрос.. в джанго.. https://github.com/django-debug-toolbar/django-debug-toolbar ?

или pdb в каком-нибудь виде, да.

ээ запрос.. в джанго.. https://github.com/django-debug-toolbar/django-debug-toolbar ?

во-первых debug на проде я не буду включать, во вторых тулбар не поможет, когда запрос по таймауту отваливается

да, втыкал pdb, но ошибка прошла;)

я всякие бэкдоры использую для дебага

а у gevent вроде был бэкдорчик какой-то...

ага.

вот у меня был факап, когда я ждал POLLIN из сокета, где удалённая сторона уже закрыла.

а вот скажите мне, а может установка в venv проекта pdb вылечить некий неуловимый лок в gevent?

ну просто проблемы нет, все хорошо стало на проде, я только pdb поставил

ну удали его и посмотри

:)

но лучше не удаляй пока сразу. пусть повисит, поймёшь, реально ли проблема ушла. А потом да, удали и снова проверь

ну, по ходу не ушла, но там непонятно

?

тут еще мне коллеги подсказали что можно в логах посмотреть

ну, проблема вернулась, но теперь уже не понятно на всех серверах или только не на тех где pdb:) в общем странно все это

а вот коллеги, есть вопрос про celery допустм у меня бежит долгая таска и я бы хотел в определенные моменты дать побегать параллельным таскам в том же воркере, чтобы очередь не застаивалась. как бы так сделать?

Может лучше иметь пару очередей с разными приоритетами?

Интересно сравнить селери и RQ. В RQ воркер - это два процесса: 1) родительский 2) рабочая лошадка - форк от родительского на каждую таску. В селери так же?

в селери много как, но в основном, насколько я понимаю, пул различных тредов, в заивисмости от выбранного бэкенда, которому основной процесс воркера напихивает задачи

воркеров сколько хочешь

и beat, он же cron, который порождает задачи по расписанию или через интервал

воркеры забирают задачи из брокера сами

так, sleep не помог

Может лучше иметь пару очередей с разными приоритетами?

у меня уже этих очередей... ради одной длинной редкой таски не хочется отдельную очередь творить

Ну тогда надо больше воркеров)

это ж еще и воркера под нее надо... а это минимум две тачки в aws еще

Пока одна редка таска работает второй воркер будет мелки делать

воркеров тоже до фига, но мне жалко целый воркер ради этой задачи тормозить

ну вот смотри, в воркере gevent и concurrency 200

и все 200 потоков ждут одну эту гадину

ладно 40, не 200;) 200 у uwsgi :)

А. Т.е твой воркер расчитан на io задачи, не на cpu bound?

ну типа

Может её куда-то в бэкграунд на расчёт поставить .. Не знаю какими средствами )

и вот у меня там в задаче три вложенных цикла, причем внутренний по результатам запроса в базку

и я бы с удовольствием иногда давал другим задачам поработать

gevent.sleep(0) ?

нагуглил что свитчит контексты. мб поможет если втавить вглубь цикла в итеарацию?

ну в тредах sleep не помог

именнто gevent.sleep, не time.sleep. да?)

gevent патчит sleep на свой

но я запускал локально в тредах

так вот запустил в gevent

помогло

прикольно

только я теперь его по ctrl+C остановить не могу:)

worker: Cold shutdown (MainProcess) ^C worker: Cold shutdown (MainProcess) ^C^C^C^C^C^C^C^C worker: Cold shutdown (MainProcess) ^C worker: Cold shutdown (MainProcess) ^C worker: Cold shutdown (MainProcess) ^C worker: Cold shutdown (MainProcess) ^C worker: Cold shutdown (MainProcess) ^C worker: Cold shutdown (MainProcess)

бгг

ERROR: S client not available

на SIGINT кто-то подписался?

там был flower

но я его выключил уже

так в смысле? оно и подписалось

и оно его получает, и пытается сделать Cold shutdown:)

но не может

sigkill помог:)

всё, можно садится Flash-а досматривать:)

я тут, кстати, Sentry на стероиды посадил;)

на ITGM расскажу, наверное

это ты им 8M фандинга дал?)

сентри тут же недавно получили кучу бабла

ага

да ты чо?

может сделают нормальное что-то

идея отправлять логи в одно место, где слушает джанга, потом класть в редис, а потом обрабатывать в селери и складывать в постгрес - это полный ппц

я сделал из него сборщик в обратную сторону, который ходит за логами, а на ждет когда пришлют

а хосты пишут в файлики

ну я рассказывал

а теперь вот разделил еще морду и вокеров по двум автоскалинг группам в AWS

оно на одном хосте отстало на два дня!! с обработкой

пришла ASG выросла до 6 хостов и пережевала два дня отставания за 40 минут:)

ну и сспокойно уменьшилась до 2 хостов с нагрузкой в 20%

ляпота

кул

надо будет aws-ный докер хостинг попробовать. если там все также мимишно, как в большом EC2 - это просто няшка будет

кул, да, 7 ASG уже в проекте, такой зоопарк...

Language files blank comment code YAML 188 72 35 2320

кинь сюда зазипованые исходники плиз

кинь сюда зазипованые исходники плиз

лол. может еще ключи от ssh?

?

ну и наш маленький проектик Language files blank comment code Python 1019 11058 2460 51039