这是我自己闲来无事写的一个小项目,故在小众软件发表。
modelroute
一个基于Flask的API路由转发服务,用于将OpenAI协议的请求根据配置转发到不同的模型提供商,并自动处理每日使用上限。 这是您的AI请求调度员,身兼数职:流量警察、资源管家和外交官,确保您的请求总能找到最合适的模型提供商!
特性
- 自动处理每日使用上限
- 支持多模型提供商
- 支持多API密钥管理
使用方法
克隆这个项目,编写你的data.json,然后python modelroute.py就行了。
最后附上开源地址:
github:https://github.com/mazixuan69/modelroute
cnb:https://cnb.cool/mazixuan69/modelroute