ToB企服应用市场:ToB评测及商务社交产业平台

标题: [python]利用gunicorn摆设fastapi服务 [打印本页]
作者: 飞不高    时间: 2024-8-5 21:33
标题: [python]利用gunicorn摆设fastapi服务
前言

Gunicorn是一种流行的WSGI HTTP服务器，常用于摆设Django和Flask等Python Web框架程序。Gunicorn具有轻量级、高稳固性和高性能等特性，可以轻易提高Python WSGI App运行时的性能。
基本原理

Gunicorn采用了pre-fork模子，也就是一个工作进程和多个worker进程的工作模式。在这个模子中，master进程负责接收并处理外部的连接请求，并将这些请求分配给多个worker进程来处理。
当一个gunicorn服务启动时，master进程会首先创建多个worker工作进程，并将它们初始化为一个无穷循环的状态，确保worker进程可以不断地等候接收新请求。当一个请求进来，master会将该请求分发给其中一个worker进程。不同的请求分发到不同的worker进程，可以有效提高请求的相应速度和并发处理能力。当某个worker进程崩溃或异常终止时，master进程会自动重新启动一个新的worker工作进程。
安装
  1. pip install gunicorn
复制代码
示例

首先编写一个简单的服务，请求相应一个字符串"ok"，代码文件名为demo1.py
  1. from fastapi import FastAPI
  2. import uvicorn
  3. from fastapi.responses import PlainTextResponse
  5. app = FastAPI()
  7. @app.get("/")
  8. async def root():
  9.     return PlainTextResponse("ok")
  11. if __name__ == "__main__":
  12.     uvicorn.run(app=app, host="0.0.0.0", port=8000, access_log=False)
复制代码
正常启动，然后利用wrk测试。利用uvicorn的qps为11733.60
  1. $ ps -ef | grep demo1
  2. atlas       2449    1162 44 22:06 pts/0    00:01:11 python demo1.py
  3. atlas       2478    2462  0 22:08 pts/6    00:00:00 grep demo1
  5. $ wrk -t2 -c 100 -d 60s http://127.0.0.1:8000
  6. Running 1m test @ http://127.0.0.1:8000
  7.   2 threads and 100 connections
  8.   Thread Stats   Avg      Stdev     Max   +/- Stdev
  9.     Latency     8.59ms    4.36ms 276.86ms   91.44%
  10.     Req/Sec     5.90k   520.55     7.84k    68.54%
  11.   704720 requests in 1.00m, 90.73MB read
  12. Requests/sec:  11733.60
  13. Transfer/sec:      1.51MB
复制代码
利用gunicorn启动。wrk的测试效果：QPS为25859.47，性能直接提升120%
  1. $ gunicorn demo1:app -b 127.0.0.1:8000 -w 4 -k uvicorn.workers.UvicornWorker
  3. $ ps -ef | grep demo1
  4. atlas       2640    1162  0 22:12 pts/0    00:00:00 /home/atlas/workspace/fastapi-study/bin/python3 /home/atlas/workspace/fastapi-study/bin/gunicorn demo1:app -b 127.0.0.1:8000 -w 4 -k uvicorn.workers.UvicornWorker
  5. atlas       2641    2640  8 22:12 pts/0    00:00:40 /home/atlas/workspace/fastapi-study/bin/python3 /home/atlas/workspace/fastapi-study/bin/gunicorn demo1:app -b 127.0.0.1:8000 -w 4 -k uvicorn.workers.UvicornWorker
  6. atlas       2642    2640  8 22:12 pts/0    00:00:40 /home/atlas/workspace/fastapi-study/bin/python3 /home/atlas/workspace/fastapi-study/bin/gunicorn demo1:app -b 127.0.0.1:8000 -w 4 -k uvicorn.workers.UvicornWorker
  7. atlas       2645    2640 10 22:12 pts/0    00:00:47 /home/atlas/workspace/fastapi-study/bin/python3 /home/atlas/workspace/fastapi-study/bin/gunicorn demo1:app -b 127.0.0.1:8000 -w 4 -k uvicorn.workers.UvicornWorker
  8. atlas       2646    2640 11 22:12 pts/0    00:00:52 /home/atlas/workspace/fastapi-study/bin/python3 /home/atlas/workspace/fastapi-study/bin/gunicorn demo1:app -b 127.0.0.1:8000 -w 4 -k uvicorn.workers.UvicornWorker
  9. atlas       2665    2462  0 22:20 pts/6    00:00:00 grep demo1
  11. $ wrk -t2 -c 100 -d 60s http://127.0.0.1:8000
  12. Running 1m test @ http://127.0.0.1:8000
  13.   2 threads and 100 connections
  14.   Thread Stats   Avg      Stdev     Max   +/- Stdev
  15.     Latency     4.13ms    3.38ms 112.09ms   88.85%
  16.     Req/Sec    13.00k     1.44k   19.86k    71.58%
  17.   1554274 requests in 1.00m, 200.11MB read
  18. Requests/sec:  25859.47
  19. Transfer/sec:      3.33MB
复制代码
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。



欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/) Powered by Discuz! X3.4