。
系统概述
这是一套功能完整的AI中转计费平台系统源码，主要用于对多种大语言模型接口进行二次分发和管理。系统已打包好Docker镜像，仅需单个可执行文件即可一键部署，极大降低了运维门槛。它支持Azure OpenAI、Anthropic Claude、Google PaLM 2 & Gemini、智谱ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360智脑以及腾讯混元等国内外主流大模型，还可通过配置镜像或第三方代理服务进一步扩展对接范围，适合作为企业或个人的AI接口中转与计费管理平台。
支持的大模型列表
系统全面兼容以下模型系列（持续更新中）：
-
OpenAI ChatGPT 全系列（含Azure OpenAI）
-
Anthropic Claude 系列（支持AWS Claude）
-
Google PaLM2 / Gemini
-
Mistral
-
字节跳动豆包
-
百度文心一言
-
阿里通义千问
-
讯飞星火认知
-
智谱ChatGLM
-
360智脑
-
腾讯混元
-
Moonshot AI
-
百川大模型
-
MINIMAX
-
Groq
-
Ollama
-
零一万物
-
阶跃星辰
-
Coze
-
Cohere
-
DeepSeek
-
Cloudflare Workers AI
-
DeepL
-
novita.ai
此外，系统支持配置镜像及众多第三方代理服务，满足不同网络环境的需求。
核心功能特性
-
负载均衡：支持通过多渠道负载均衡访问，提升稳定性。
-
流式传输：完全支持stream模式，可实现打字机效果。
-
多机部署：支持分布式部署，可水平扩展。
-
令牌管理：可设置令牌的过期时间、额度、允许的IP范围及可访问的模型，精细控制用户权限。
-
兑换码管理：支持批量生成和导出兑换码，用户可通过兑换码为账户充值。
-
渠道管理：支持批量创建渠道，并为渠道设置模型列表。
-
用户与渠道分组：支持用户分组和渠道分组，可为不同分组设置不同的倍率（计费系数）。
-
额度明细：用户可查看详细的额度使用记录。
-
邀请奖励：支持用户邀请机制，提供邀请奖励功能。
-
美元计费：系统以美元为单位显示和计算额度。
-
公告与充值：可发布系统公告，设置充值链接及新用户初始额度。
-
模型映射：支持模型重定向（需谨慎使用，可能影响未支持字段的传递）。
-
失败重试：请求失败时自动重试，提升成功率。
-
绘图接口：支持绘图类模型的调用。
-
Cloudflare AI Gateway：可直接配置Cloudflare AI Gateway作为代理渠道。
丰富的自定义与管理能力
系统提供高度可定制的前端与后端设置：
-
可自定义系统名称、Logo、页脚。
-
支持自定义首页和关于页面，可使用HTML/Markdown代码或通过iframe嵌入独立网页。
-
提供系统访问令牌调用管理API，便于二次开发与自动化运维。
-
支持Cloudflare Turnstile进行用户校验，增强安全性。
-
用户管理模块支持多种登录注册方式：邮箱注册（含白名单）、飞书授权登录、GitHub开放授权、微信公众号授权（需额外部署WeChat Server）。
-
主题切换功能：通过环境变量THEME可切换界面主题（默认为default），欢迎社区贡献更多主题。
-
配合Message Pusher，可将系统报警信息推送至多种App，实现实时监控。
评论(0)