MODELHUB AI · SYSTEM ARCHITECTURE

全球大模型 Token 代理平台 · 总体架构图

用户端 / 中台 / 后端 分离部署 · 共用一套主库 · 版本 2.0（含支付与多版本模型体系）· 2026-08

推理调用链路 资金支付链路 管理审计链路
code
个人开发者注册即用 · 个人账户 · 按量付费
domain
企业客户主账号 + 二级账号 · 共享余额 · 模型权限隔离
badge
平台管理员运营 / 财务管理权限 · 独立手机号短信验证
▼
▼
▼
前端应用层 · 两个独立应用
公网 · console.modelhub.com

web用户端 Console

面向个人开发者与企业客户的自助服务平台，独立仓库、独立部署、独立域名

产品概览模型市场API Keys用量统计开发文档账户充值消费账单发票退款
独立入口 · admin.modelhub.com

admin_panel_settings中台 Admin Console

面向平台管理员的平台管理后台，使用独立管理员手机号和短信验证码登录，敏感操作全程留痕

用户管理模型与定价权限管理充值套餐对公入账发票/退款审核供应商与路由接入测试平台财务销售线索
▼OPEN API（用户域）
▼ADMIN API（管理域）
接入与网关层
api.modelhub.com/v1

swap_calls统一推理网关

OpenAI 兼容协议，业务代码直接调用

API Key 鉴权限流配额模型/版本解析流式转发计量采集

apiOpen API · BFF

用户端控制台接口层：JWT 会话鉴权，所有查询强制租户隔离（行级过滤），仅返回本租户数据

shield_personAdmin API · BFF

中台接口层：独立管理员手机号短信验证 + RBAC 页面/按钮权限 + 敏感操作二次确认

▼
▼
▼
后端业务服务层 · 按域拆分

alt_route模型路由调度

  • 主备供应商线路
  • 健康检查 / 熔断 / 自动切换
  • 模型别名 → 版本解析
  • 接入测试与灰度上架

monitoring计量计费服务

  • Token / 图片 / 页数 / 次数 / 积分等多计费项
  • 不可变价格版本
  • 余额预占与实际结算
  • 用量聚合与排行

account_balance_wallet账户与钱包

  • 现金 / 赠送 / 优惠 / 补偿分账
  • 抵扣顺序：最早到期权益→现金
  • 余额预警通知
  • 企业共享余额池

payments支付服务

  • 下单 / 查单 / 关单状态机
  • 渠道回调验签 + 幂等入账
  • 超时主动补单
  • 对账单解析与差异处理

group用户与企业服务

  • 个人 / 企业开户审核
  • 主账号 + 二级账号体系
  • API Key 生命周期
  • 模型可用状态与 Key 绑定

request_quote财务发票服务

  • 充值套餐与赠送规则
  • 开票 / 作废 / 审核流
  • 退款核验（资金·发票·用量·赠送）
  • 供应商对账结算

shield_person权限与审计

  • 客户账号页面/按钮权限
  • 员工 RBAC 角色
  • 敏感操作审计日志
  • 登录与访问控制

notifications通知与任务

  • 短信 / 邮件 / 站内信
  • 余额预警 · 审核结果
  • 版本下线公告（提前 60 天）
  • 定时任务：对账 / 关单 / 巡检

smart_toyAgent 接入预留

  • 统一创建 / 查询 / 取消任务接口
  • 第三方 Agent 适配器可插拔
  • 回传 Token 与其他用量明细
  • 复用账户预占、结算、限额和账单
▼
▼
▼
数据层 · 一套事实 · 两种负载
database

PostgreSQL 主库（+ 只读副本）

用户/企业/Key/订单/账单/发票/退款/模型版本/定价/路由配置 —— 平台唯一事实源，仅后端服务可访问

query_stats

PostgreSQL 分区表

调用明细日志 / 上游链路 / 用量预聚合（按天·小时）—— 首期使用分区表承载计量查询，后续按容量独立扩展

bolt

Redis

Key 限流计数 · 余额扣减预占 · 会话缓存 · 路由健康状态 · 分布式锁

folder

对象存储 OSS

发票 PDF · 支付渠道对账文件 · 审计日志归档 · 企业开户资料

▼
▼
外部依赖

cloud上游模型供应商 · 国内线路（主）

DeepSeek阿里云 Qwen月之暗面 Kimi字节豆包智谱 GLM百度文心腾讯混元MiniMax讯飞星火

public上游模型供应商 · 海外线路（主+备）

OpenAIAnthropicGooglexAIMeta LlamaMistral

payments支付渠道

微信支付 Native支付宝电脑网站支付对公转账（银行流水认领）

send基础服务

短信站内信邮件

三条核心链路

图中关键节点已在上方各层标出，这里按业务流串联完整时序。

① 推理调用链路 —— 业务代码 → 上游模型

业务调用OpenAI 兼容协议 POST /v1/chat/completions，Header 携带 API Key
→
推理网关Key 鉴权 + 限流 + 余额校验 + 模型/版本解析（别名→推荐版本）
→
路由调度选择主线路供应商；失败自动熔断切换备用线路
→
上游调用转发至 DeepSeek / OpenAI 等供应商，流式回传
→
计量计费按版本定价扣减余额，调用明细与资金流水分别写入 PostgreSQL 分区表和账务表

② 充值支付链路 —— 入账只信回调，不信前端

用户端下单选择金额与支付方式，后端创建待支付订单（15 分钟有效）
→
渠道支付微信 Native / 支付宝生成二维码或跳转收银台，用户付款
→
异步回调验签 + 金额一致性校验 + 渠道交易号幂等去重
→
入账订单状态机流转已支付 → 计费服务加余额 → 触发赠送套餐
→
对账每日渠道对账单三方核对，差异单进中台人工处理；超时订单主动补单

③ 管理审计链路 —— 中台所有操作可追溯

管理员登录独立手机号 + 短信验证码，RBAC 决定可见页面与按钮
→
业务操作模型定价 / 退款审核 / 路由切换 / 权限配置（高危操作二次确认）
→
服务调用Admin API → 对应业务服务，不直接写库，余额变动必经计费服务
→
审计留痕操作人 / 时间 / 前后值 / 结果全量写审计日志，OSS 归档

四个关键设计原则

PRINCIPLE 01

前后中台分离部署

用户端公网、中台内网，两个独立应用；中台代码与接口不进入用户端产物，缩小攻击面。

PRINCIPLE 02

一套主库做唯一事实

余额、账单、Key、定价只有一份数据；前端不直连库，资金变动统一经计费服务，杜绝多端不一致。

PRINCIPLE 03

入账只信支付回调

验签 + 金额校验 + 交易号幂等 + 主动补单，保证"付了钱一定到账、绝不重复到账"。

PRINCIPLE 04

交易与计量逻辑隔离

交易数据由 PostgreSQL 强一致保障；调用明细使用独立分区表和只读查询；Redis 承载限流与余额预占等热路径。

Token Chain · 总体架构图 v2.0 · 与 22 页交互原型同步维护 ← 返回开发文档