AI聚合API网关系统源码全开源｜一键接入GPT/Claude/Gemini/DeepSeek等多模型+Token计费+渠道管理+负载均衡完整代码

项目概述

这是一套面向开发者和创业者的 AI 聚合 API 网关系统全开源源码，能将 GPT、Claude、Gemini、DeepSeek、通义千问、文心一言等主流大模型 API 统一聚合到一个网关入口。系统基于 OpenAI 兼容协议设计，前端应用只需对接一次接口，即可无缝调度 N 个大模型，无需关心各家厂商背后复杂的调用差异和密钥管理。

无论你是想搭建一个 AI API 中转站做商业化运营，还是企业内部需要一个统一的大模型接入层来降低多模型管理成本，这套源码都能直接上手使用或二次开发。

为什么需要 AI 聚合 API 网关

在 AI 应用开发中，直接对接多家大模型厂商会面临几个典型痛点：

  • 供应商锁定与单点故障：应用深度绑定单一服务商，一旦 API 出现故障或限流，整个应用直接瘫痪
  • 密钥管理混乱：多个模型的 API Key 散落在各个服务和团队中，安全风险高、运维成本大
  • 成本难以监控：不同厂商计费方式不统一，Token 消耗无法集中追踪，月底账单经常超预期
  • 接口格式不兼容：OpenAI、Anthropic、Google、国内厂商各有各的接口规范，前端需要为每个模型写不同的对接代码
  • 无法灵活切换模型：想从 GPT-4 切换到 DeepSeek 做成本优化，需要改代码、重新部署

AI 聚合 API 网关正是为了解决这些问题而生。它扮演应用和大模型之间的"智能中间层"角色，将复杂性封装在后端，为前端提供简洁、稳定、高可用的统一接口。

核心功能模块

多渠道智能路由与负载均衡

系统支持配置多个模型渠道（如 OpenAI 官方 API、Azure OpenAI、各种中转服务等），并内置智能路由策略：

  • 权重分配：按自定义比例将请求分发到不同渠道
  • 自动故障转移：某渠道返回错误或超时，系统自动切换到备用渠道，对前端完全透明
  • 优先级调度：设置渠道优先级，优先使用性价比最高的渠道
  • 模型映射：通过别名机制将模型名称映射到不同服务商，底层模型版本迭代时前端代码无需修改

Token 精细化计费与限流

成本控制是 AI API 网关的核心价值之一，系统提供了多维度的管控能力：

  • 按用户计费：每个用户/应用有独立的额度，支持预充值和按量扣费
  • 按模型计费：不同模型设置不同的 Token 单价，精确到输入/输出分别计价
  • 按应用计费：为不同应用设置独立的计费规则和额度上限
  • 速率限流：支持 RPM（每分钟请求数）、TPM（每分钟 Token 数）等多维度限流
  • 用量统计：实时查看每个用户、每个模型、每个应用的调用量和费用消耗

可视化运营后台

开箱即用的管理后台，覆盖日常运营所需的全部功能：

  • 仪表盘：总调用量、总费用、活跃用户数、模型健康状态等核心指标一目了然
  • 渠道管理：添加/编辑/启停模型渠道，测试渠道连通性，查看渠道级别的调用统计
  • 用户管理：用户列表、额度调整、分组管理、封禁/解封
  • 密钥管理：统一查看所有 API Key，支持密钥轮换和批量导入导出
  • 日志追踪：每一次 API 调用都有完整的请求/响应日志，支持按时间、用户、模型、状态码等多条件筛选
  • 数据统计：调用量趋势图、费用分布图、模型使用排行等可视化报表

多租户与分组权限管理

支持灵活的多级权限体系，适用于从个人到企业级的不同场景：

  • 管理员：拥有全部权限，可管理渠道、用户、系统配置
  • 代理商：可管理自己名下的用户和额度，独立运营
  • 普通用户：使用分配的额度调用 API，查看自己的用量和费用
  • 应用级隔离：同一用户下可创建多个应用，每个应用有独立的密钥和额度

在线充值与商业化变现

系统内置完整的支付能力，开箱即用：

  • 支付宝对接：支持支付宝当面付、手机网站支付
  • 微信支付对接：支持微信扫码支付、JSAPI 支付
  • 卡密系统：支持生成和管理充值卡密，方便线下销售
  • 邀请返利：用户邀请新用户注册可获得额度奖励

OpenAI 兼容协议

对外暴露标准的 OpenAI 格式 API 端点，包括：

  • /v1/chat/completions — 对话补全接口
  • /v1/completions — 文本补全接口
  • /v1/embeddings — 文本向量接口
  • /v1/models — 模型列表接口
  • /v1/images/generations — 图片生成接口

任何支持 OpenAI SDK 的客户端（Python、Node.js、Java 等），只需将 base_url 指向你的网关地址，即可无缝接入，无需修改任何业务代码。

支持的大模型列表

系统已适配并测试通过的主流大模型包括：

厂商 支持模型
OpenAI GPT-4o、GPT-4o-mini、GPT-4-Turbo、GPT-3.5-Turbo、o1、o1-mini
Anthropic Claude 3.5 Sonnet、Claude 3 Opus、Claude 3 Haiku
Google Gemini 1.5 Pro、Gemini 1.5 Flash、Gemini Ultra
DeepSeek DeepSeek-V3、DeepSeek-Coder、DeepSeek-Chat
阿里 通义千问 Max、通义千问 Plus、通义千问 Turbo
百度 文心一言 4.0、文心一言 3.5
智谱 GLM-4、GLM-4-Flash、ChatGLM-3
Meta Llama 3.1 405B、Llama 3.1 70B
Mistral Mistral Large、Mixtral 8x22B

以上为已内置适配的模型，系统同时支持接入任何 OpenAI 兼容格式的第三方模型服务。

技术架构

模块 技术选型
后端语言 Go（Gin 框架）
前端 React + Ant Design Pro
数据库 MySQL 5.7+ / PostgreSQL 13+ / SQLite
缓存 Redis 6.0+（集群部署必需）
部署方式 Docker / Docker Compose / 裸机部署
反向代理 Nginx / Caddy

系统架构特点

  • 微服务解耦：各功能模块独立运行，可单独扩展
  • 高并发支持：基于 Go 语言协程模型，单机可承载数千并发连接
  • 集群部署：支持多节点集群部署，共享数据库与 Redis 实现状态同步
  • 插件化设计：计费、限流、日志等功能以插件形式存在，可灵活开关

部署教程

环境要求

  • 服务器配置：2 核 4G 及以上
  • 操作系统：CentOS 7+ / Ubuntu 20.04+ / Debian 11+
  • Docker 20.10+ 及 Docker Compose v2
  • 域名一个（用于配置 HTTPS）

方式一：Docker Compose 一键部署（推荐）

# 1. 克隆源码
git clone https://github.com/your-repo/ai-api-gateway.git
cd ai-api-gateway

# 2. 修改配置文件
cp .env.example .env
vim .env  # 按需修改数据库、Redis 等配置

# 3. 一键启动
docker compose up -d

# 4. 查看运行状态
docker compose ps

启动后访问 http://你的域名:3000 即可进入管理后台。

方式二：宝塔面板部署

  1. 在宝塔面板中安装 Docker 管理器
  2. 上传源码压缩包并解压
  3. 通过宝塔终端执行 docker compose up -d
  4. 在宝塔中配置 Nginx 反向代理，将域名指向容器端口

首次配置步骤

  1. 访问管理后台，使用默认管理员账号登录（root/123456，首次登录后请立即修改密码）
  2. 进入「渠道管理」→「添加渠道」，填入你的大模型 API Key 和 Base URL
  3. 进入「用户管理」→「创建用户」，生成 API Key 分发给使用者
  4. 使用者只需将 OpenAI SDK 的 base_url 指向你的网关地址即可开始调用

与同类开源项目对比

特性 本项目 One API New API
开源协议 MIT MIT AGPLv3
后端语言 Go Go Go
多渠道路由 支持 支持 支持
自动故障转移 支持 基础支持 支持
Token 计费 多维度精细计费 基础计费 多维度
在线支付 支付宝+微信+卡密 无 支付宝+微信
多租户 管理员/代理商/用户 管理员/用户 管理员/代理商/用户
可视化后台 完整运营看板 基础看板 完整看板
集群部署 支持 支持 支持
二次开发友好度 高（MIT 协议） 中 低（AGPL 传染性）

本项目采用 MIT 开源协议，对商业使用和二次开发最友好，无传染性风险。

二次开发指南

源码完全开源，开发者可以基于此进行灵活的二次开发：

  • 品牌定制：替换 Logo、名称、主题色，打造自有品牌的 AI API 平台
  • 功能扩展：添加 API 市场、模型评测、Prompt 管理、知识库等增值功能
  • 运营增强：接入更多支付渠道、添加会员等级体系、开发分销系统
  • 企业适配：对接企业内部 SSO 单点登录、审批流程、合规审计等需求
  • 多端开发：基于现有 API 接口开发 H5 网页版、桌面客户端、移动端 App

适用场景

  • AI 应用开发者：统一管理多个模型的 API Key，自动故障转移，降低开发维护成本
  • AI 中转站运营者：搭建 API 聚合中转平台，通过差价和增值服务实现商业变现
  • 企业内部 AI 平台：为公司各业务线提供统一的大模型接入入口，集中管控成本和安全
  • AI 教育培训机构：为学员提供统一的大模型练习环境，按人头分配额度
  • 开源爱好者：学习 AI 网关架构设计，参与社区贡献

常见问题

Q：源码是否完全免费？

A：是的，AI 聚合 API 网关系统源码 100% 开源，采用 MIT 协议，可免费下载使用，支持商业部署和二次开发。

Q：需要什么服务器配置？

A：个人使用建议 2 核 4G 服务器即可；商业化运营建议 4 核 8G 及以上，搭配 Redis 和 MySQL 独立部署。

Q：支持集群部署吗？

A：支持。多节点共享数据库和 Redis，实现负载均衡和高可用，适合大流量生产环境。

Q：和 One API / New API 有什么区别？

A：本项目在功能上覆盖了 One API 和 New API 的核心能力，并在支付对接、多租户体系、运营后台等方面做了增强。更重要的是采用 MIT 协议，没有 AGPL 的传染性风险，对商业使用更友好。

Q：可以对接国内大模型吗？

A：可以。系统已内置适配通义千问、文心一言、智谱 GLM 等国内主流模型，同时支持任何 OpenAI 兼容格式的第三方服务接入。

Q：数据安全有保障吗？

A：源码完全部署在你自己的服务器上，所有数据（API Key、调用日志、用户信息）都在你的控制范围内，不经过任何第三方服务器。

关键词：AI聚合API网关源码、AI API网关系统源码、大模型API聚合网关、LLM API网关开源、AI中转站源码、OpenAI兼容网关源码、One API替代方案、New API替代方案、多模型API聚合系统、Token计费系统源码、AI API渠道管理、大模型接口聚合分发、GPT API网关、Claude API聚合、DeepSeek API接入、AI网关全开源、Docker部署AI网关、AI API商业化平台源码