| 1234567891011121314151617181920 |
- # ========== Agent OCR 服务配置文件 ==========
- # 修改此文件中的参数后,重新运行 start.py 即可生效
- # ---------- 推理服务配置 ----------
- inference:
- # 推理服务请求地址
- url: "http://10.69.29.202:31277/inference-api/exp-api/inf-1480928240416935936/v1/chat/completions"
- # 鉴权 Token(格式:Bearer <token>)
- auth_token: "Bearer QDiS42vR9EqP-j73zeeyWB8zSJ4juheflm6yDKUDz5c"
- # 使用的模型名称
- model: "Qwen3-VL-32B-Instruct"
- # ---------- API 服务配置 ----------
- server:
- # 监听地址,0.0.0.0 表示允许外部访问
- host: "0.0.0.0"
- # 监听端口
- port: 6006
- # 最大并发请求数
- max_concurrent: 5
|