V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
爱意满满的作品展示区。
pokon548

兼容 OpenAI api 格式,成本可控的 AI Gateway 反向代理项目。运行于 Cloudflare Worker

  •  
  •   pokon548 ·
    pokon548 · Mar 22, 2024 · 2591 views
    This topic created in 769 days ago, the information mentioned may be changed or developed.

    项目特点

    • 暴露 OpenAI 兼容的 API 格式。你可以在(几乎?)任何可以自定义 API 端点地址的客户端里使用;
    • 防呆设计。反代的 API 端点只接受虚拟 API 密钥。这个密钥不能和真实的 OpenAI API 密钥相同,可避免信息外泄,并在一定程度上防止你误访问官方端点地址;
    • 成本可控。通过 Observe and control 来实时监控 API 用量,控制成本。

    项目地址

    使用方法也在里面:

    https://github.com/pokon548/ai-gateway-openai-wrapper

    欢迎大家使用 :)

    No Comments Yet
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5734 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 40ms · UTC 06:20 · PVG 14:20 · LAX 23:20 · JFK 02:20
    ♥ Do have faith in what you're doing.