[开发者自荐]modelroute-一个基于Flask的AI路由转发服务

这是我自己闲来无事写的一个小项目,故在小众软件发表。

modelroute

一个基于Flask的API路由转发服务,用于将OpenAI协议的请求根据配置转发到不同的模型提供商,并自动处理每日使用上限。 这是您的AI请求调度员,身兼数职:流量警察、资源管家和外交官,确保您的请求总能找到最合适的模型提供商!

特性

  • 自动处理每日使用上限
  • 支持多模型提供商
  • 支持多API密钥管理

使用方法

克隆这个项目,编写你的data.json,然后python modelroute.py就行了。

最后附上开源地址:

github:https://github.com/mazixuan69/modelroute
cnb:https://cnb.cool/mazixuan69/modelroute