openai-style-api
一个开源工具,将多种大模型API(如OpenAI、Claude、Azure OpenAI等)的调用统一转换为OpenAI API标准格式,简化调用流程并支持API密钥的二次分发管理。
https://github.com/tian-minghui/openai-style-api屏蔽不同大模型API的差异,统一用openai api标准格式使用大模型, 也可以用来做api-key的二次分发管理; 配置化管理不同大模型调用参数,让你在使用大模型的时候只需关注 api-key 和 messages- [x] 支持多种大模型,当前已支持 - [x] openai - [x] azure open ai - [x] claude-api 【api申请在等待列表,暂未测试】 - [x] claude-web (将web端功能封装成openai api) - [x] 智谱ai - [ ] bingchat - [ ] 百度文心一言 - [x] 讯飞星火 - [x] gemini - [ ] ...- [x] 支持stream方式调用- [x] 支持open ai的第三方代理服务,比如openai-sb等- [x] 支持负载均衡,一个key可轮训/随机/并行等访问多个模型- [x] 支持按照model_name进行路由,可以方便的结合ChatGPT-Next-Web- [ ] 错误和异常处理优化,对齐openai errorcode