Roman
а то я и десятку одним процессом на python утилизировал :)
Daniel
проксирует http/https
Roman
не знаю, о какой нагрузке речь :) у меня сервер утилизирует гигабит и на вход, и на выход
а, ну так гигабит это норм, я говорю о нескольких гигабайтах в секунду, т.е. 10-20 раз выше
Daniel
10-20 гигабит - это, вообще-то, не рядовая нагрузка вообще. у меня вот тупо нет ни одного сервера с соответствующей сетью. так что я думаю тут какое-то гонево
Daniel
результаты профайлинка в студию
Roman
так или иначе готовлю выпуск wwr 2.0 с net/http + gorilla и fasthttp/websocket бэкэндами, там будут все бенчмарки
Roman
хотелось бы ещё написать TCP транспорт, если успею
Daniel
да вот я чет не видал пока бенчмарков, которым можно доверять
Мерль
у меня сейчас под рукой нет компьютера, но мне тоже надо сделать
Daniel
а то "у меня net/http C1K не держит", а потом выясняется, что на этом C1K десяточку утилизировать хотят
Roman
а ещё гугловский quic выглядит очень интересно, они его насколько я понимаю уже юзают в своей сети вместо TCP
Daniel
А ты не мог бы прогнать тест несколько раз и посмотреть на стандартное отклонение среднего?
вот так - подойдет? $wrk -t 1 -c 1 -d 25s http://localhost:8080/ Running 25s test @ http://localhost:8080/ 1 threads and 1 connections Thread Stats Avg Stdev Max +/- Stdev Latency 104.25us 678.43us 29.37ms 99.46% Req/Sec 13.66k 2.26k 16.79k 72.80% 339742 requests in 25.00s, 42.12MB read Requests/sec: 13589.04 Transfer/sec: 1.68MB
Daniel
ab - тормоз известный. я его попробовал только потому, что о нем в том тестовом написано
Мерль
wrk тоже подойдёт
Daniel
ок, ща раз 5 погоняю, суну сюда результаты
Daniel
тебе Req/Sec Avg?
Мерль
ага
Мерль
и stdev
Roman
хотелось бы ещё написать TCP транспорт, если успею
нуу... если ты правда хочешь быстро, то придется пострадать
Roman
я-ж не коммуникацию на TCP пишу, а транспортный уровень для wwr
Roman
почему страдать?)
тут много вопросов и боли. есть ли у тебя там tls? или чистый tcp?
Roman
@Romshark основная сложность у тебя будет в выборе правильных абстракций: как сделать так, чтобы за ними можно было спрятать эффективные платформозависимые вещи и при этом всегда иметь фолбэк на generic вариант.
Roman
вторая боль - это скорость памяти и её латентность(увы, она огромна)
Daniel
и stdev
Thread Stats Avg Stdev Max +/- Stdev Req/Sec 13.62k 2.51k 17.19k 73.00% Req/Sec 13.66k 2.26k 16.79k 72.80% Req/Sec 14.72k 1.88k 17.26k 80.00% Req/Sec 13.71k 2.37k 17.18k 59.76% Req/Sec 14.42k 2.51k 17.61k 77.60%
Daniel
wrk
Daniel
wrk -t 1 -c 1 -d 25s http://localhost:8080/
Roman
1 threads and 100 connections Thread Stats Avg Stdev Max +/- Stdev Latency 1.53ms 3.22ms 70.50ms 97.76% Req/Sec 81.00k 5.06k 88.97k 85.00% Latency Distribution 50% 1.07ms 75% 1.70ms 90% 2.41ms 99% 12.33ms 806568 requests in 10.01s, 100.00MB read Requests/sec: 80548.67 Transfer/sec: 9.99MB
Daniel
так я на собственном ноуте гоняю.
Daniel
тут и ядер, и гигагерц не очень много
Roman
так я на собственном ноуте гоняю.
нууу... у тебя там mac os x, она медленная =(
🎉
мое порно лучше!
А это, на стареньком ноуте? wrk -t1 -c100000 -d30s http://127.0.0.1:8080 Running 30s test @ http://127.0.0.1:8080 1 threads and 100000 connections Thread Stats Avg Stdev Max +/- Stdev Latency 20.08ms 7.96ms 89.68ms 64.99% Req/Sec 39.20k 3.59k 44.46k 78.09% 1142813 requests in 30.10s, 199.45MB read Socket errors: connect 98980, read 0, write 0, timeout 0 Requests/sec: 37970.53 Transfer/sec: 6.63MB
Daniel
в смысле $wrk -t 1 -c 100 -d 25s http://localhost:8080/ Running 25s test @ http://localhost:8080/ 1 threads and 100 connections Thread Stats Avg Stdev Max +/- Stdev Latency 1.44ms 1.08ms 20.53ms 90.94% Req/Sec 50.09k 11.28k 65.66k 70.80% 1248456 requests in 25.07s, 154.78MB read Requests/sec: 49803.35 Transfer/sec: 6.17MB
Evgeniy
Подскажите пожалуйста. По инструкции сделал сервер и решил протестировать его производительность. В примере у них было ~17000 запросов/сек. У меня-же всего 33 запроса/сек. Что я делаю не так?
Evgeniy
Вот инструкция:
Evgeniy
https://medium.com/@noomerzx/the-easiest-way-to-benchmarking-your-server-with-bombardier-87cc9c6b8d6f
Daniel
нууу... у тебя там mac os x, она медленная =(
мне тут коллеги рассказывали, что у них меньше тысячи rps получается. я слегка напрягся.
Daniel
а вот тесты с fasthttp $wrk -t 1 -c 1 -d 25s http://localhost:8080/ Running 25s test @ http://localhost:8080/ 1 threads and 1 connections Thread Stats Avg Stdev Max +/- Stdev Latency 50.86us 79.57us 4.02ms 96.91% Req/Sec 20.68k 3.32k 26.93k 64.54% 516259 requests in 25.10s, 72.87MB read Requests/sec: 20568.38 Transfer/sec: 2.90MB $wrk -t 1 -c 100 -d 25s http://localhost:8080/ Running 25s test @ http://localhost:8080/ 1 threads and 100 connections Thread Stats Avg Stdev Max +/- Stdev Latency 0.90ms 492.80us 11.88ms 92.19% Req/Sec 62.53k 10.46k 77.80k 66.40% 1557594 requests in 25.03s, 219.84MB read Requests/sec: 62219.75 Transfer/sec: 8.78MB что мы видим? что fasthttp быстрее, но весьма умеренно, в районе 20%
Daniel
У вас такой код? package main import ( "fmt" "github.com/valyala/fasthttp" ) func main() { fasthttp.ListenAndServe(":8080", fastHTTPHandler) } var bytesHelloWorld = []byte("Hello World!\n") func fastHTTPHandler(ctx *fasthttp.RequestCtx) { fmt.Fprintf(ctx, "%v", bytesHelloWorld) }
package main import ( "flag" "github.com/valyala/fasthttp" ) var ( listenAddr = flag.String("listen", ":8080", "address to listen") ) func main() { fasthttp.ListenAndServe(*listenAddr, helloWorld) } var bytesHelloWorld = []byte("Hello World!\n") func helloWorld(ctx *fasthttp.RequestCtx) { ctx.Write(bytesHelloWorld) }
Daniel
выше сообщением :)
Daniel
а, да, net/http выедает на 0.5 ядра больше при том.
Zloy-Dobry
s будет значением по умолчанию (false) если внутри не тип bool. А !false = true
кажется, я не понял тогда тайпассерты, так как в этой переменно таки true...
Roman
Running 10s test @ http://127.0.0.1:8080/ 1 threads and 100 connections Thread Stats Avg Stdev Max +/- Stdev Latency 1.53ms 2.82ms 55.81ms 97.33% Req/Sec 78.34k 5.23k 85.85k 81.00% Latency Distribution 50% 1.10ms 75% 1.72ms 90% 2.48ms 99% 11.05ms 779400 requests in 10.00s, 96.63MB read Requests/sec: 77902.43 Transfer/sec: 9.66MB
Zloy-Dobry
Roman
Running 10s test @ http://127.0.0.1:8080/ 1 threads and 100 connections Thread Stats Avg Stdev Max +/- Stdev Latency 749.28us 1.07ms 20.13ms 92.61% Req/Sec 181.64k 12.17k 196.19k 89.00% Latency Distribution 50% 499.00us 75% 768.00us 90% 1.23ms 99% 5.72ms 1804904 requests in 10.00s, 254.75MB read Requests/sec: 180420.04 Transfer/sec: 25.47MB
Roman
fasthttp найти тут легко
Artem
как ж быть тогда?
Поменяй местами сравнения
Zloy-Dobry
эммм
Daniel
говорю же, mac os x медленная.
да и пофиг. отношения-то те же
Daniel
Roman
да и пофиг. отношения-то те же
зависит от. добавь в wrk -H "Connection: Close" и удивись
Мерль
ага, спасибо большое
Roman
ну т.е. разница 146443.38 vs 26115.35
Roman
нет/хттп много мусора создаёт насколько я помню
.
Я правильно понимаю, что единственный адекватный способ строить архитектуру микросервисов – это в принципе избегать любых транзакций и придерживаться модели конечной согласованности?
Anonymous
Я правильно понимаю, что единственный адекватный способ строить архитектуру микросервисов – это в принципе избегать любых транзакций и придерживаться модели конечной согласованности?
транзакция между микросервисами - ошибка проектирования микросервисов. не должно быть задач, которые требуют действий в нескольких микросервисах и должны выполняться транзакционно. если так, значит эта задача должна быть в одном микросервисе
Anonymous
я бы предпочел не касаться этого даже 11-метровой палкой