V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member Sign In
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
This topic created in 472 days ago, the information mentioned may be changed or developed.
其实未来，单个 Azure OpenAI 的接口并发量不够，
是否可以有什么反向代理，类似 Nginx ，
可以后端可以指向多个 Azure OpenAI 的 endpoint ？ 然后对前端供统一的 AK/SK
 |
1
wind1986 Jan 13, 2025
这请求不是无状态的么, 要么通过代码随机选一个
要么 nginx 配也可以, 直接修改 http 头 |
 |
2
Tink PRO 自建一个呗，几分钟 的事
|
 |
3
ysicing Jan 13, 2025
oneapi 不就可以么
|
 |
4
ydirel Jan 14, 2025
ohmygpt 了解一下
|
Select Language