新一代大模型网关与AI资产管理系统New API

发表于 更新于 分类于 Waline： 阅读次数： 本文字数： 2.4k 阅读时长 ≈ 2 分钟
New API 是新一代大模型网关与 AI 资产管理系统。

本文软件由网友 P家单推人 推荐；

简介

什么是 New API ?

New API 是一个基于 One API 二次开发的开源项目，支持将多种大模型转为 OpenAI 格式调用、支持 Midjourney Proxy、Suno、Rerank，兼容易支付协议，可供个人或者企业内部管理与分发渠道使用。

主要特性

  1. 多模型支持：支持将多种大模型转换为 OpenAI 格式调用，方便集成。
  2. Midjourney Proxy：提供对 Midjourney 的接口支持。
  3. Suno 和 Rerank 集成：允许使用 Suno 和 Rerank 模型。
  4. 在线支付功能：支持易支付协议，方便用户进行在线充值。
  5. 多语言支持：系统设计为支持多种语言，适应不同用户需求。
  6. 数据看板：提供控制台数据看板，便于监控和管理。
  7. 模型收费设置：支持按使用次数收费的模型管理。
  8. Telegram 登录：允许用户通过 Telegram 进行授权登录。
  9. 强大的配置选项：提供多种配置选项以适应不同的使用场景。
  10. 兼容 One API 数据库：可以直接使用原版 One API 的数据库。

应用场合

  • AI 模型管理：适用于需要管理和调用多种 AI 模型的个人或企业，提供集中化的管理平台。
  • 企业内部工具：可以作为企业内部的 AI 资产管理系统，帮助企业在不同项目中高效利用 AI 模型。
  • 开发与测试环境：为开发者提供一个便捷的环境，用于测试和验证 AI 模型的功能和性能。
  • 集成 AI 服务：适合需要将 AI 功能集成到现有应用或服务中的场景，例如聊天机器人、推荐系统等。
  • 教育与研究：可以用于教育机构和研究人员进行 AI 模型的实验和研究，支持多种模型的调用和比较。

安装

在群晖上以 Docker 方式安装。

在注册表中搜索 new-api ，选择第一个 calciumion/new-api，版本选择 latest。

本文写作时， latest 版本对应为 v0.4.8.2.2；

卷

在 docker 文件夹中，创建一个新文件夹 new-api，并在其中建一个子文件夹 data

文件夹 装载路径 说明
docker/new-api/data /data 存放数据库和日志文件等

端口

本地端口不冲突就行，不确定的话可以用命令查一下

1
2
# 查看端口占用
netstat -tunlp | grep 端口号
本地端口 容器端口
3022 3000

命令行安装

如果你熟悉命令行，可能用 docker cli 更快捷

1
2
3
4
5
6
7
8
9
10
11
12
13
# 新建文件夹 new-api 和 子目录
mkdir -p /volume1/docker/new-api/data

# 进入 new-api 目录
cd /volume1/docker/new-api

# 运行容器
docker run -d \
   --restart always \
   --name new-api \
   -p 3022:3000 \
   -v $(pwd)/data:/data \
   calciumion/new-api:latest

也可以用 docker-compose 安装，将下面的内容保存为 docker-compose.yml 文件

1
2
3
4
5
6
7
8
9
10
11
version: '3'

services:
  new-api:
    image: calciumion/new-api:latest
    container_name: new-api
    ports:
      - "3022:3000"
    volumes:
      - ./data:/data
    restart: always

然后执行下面的命令

1
2
3
4
5
6
7
8
9
10
# 新建文件夹 new-api 和 子目录
mkdir -p /volume1/docker/new-api/data

# 进入 new-api 目录
cd /volume1/docker/new-api

# 将 docker-compose.yml 放入当前目录

# 一键启动
docker-compose up -d

运行

在浏览器中输入 http://群晖IP:3022 就能看到主界面

点 登录 按钮

默认账号： root ，密码： 123456

登录成功后的主界面

新建渠道

渠道 –> 添加渠道

SiliconCloud

硅基流动现在新用户注册会获得 14 元免费额度，相当于 2000 万 Tokens，虽然不是免费，但也够用一阵子的

注册地址

https://cloud.siliconflow.cn/i/NkUiXVhQ

注册之后， API 密钥 –> 新建 API 密钥

  • 类型： 选择 SiliconCloud；
  • 密钥： 填入在上一步创建的 API 密钥；
  • 模型： 没必要太多，填几个常用的即可，比如： deepseek-ai/DeepSeek-R1、deepseek-ai/DeepSeek-V3、BAAI/bge-m3，一个推理模型、一个大语言模型，再加上一个文本嵌入模型；

名称可以在 模型广场 里找到，只要不带 Pro/ 开头的，都是可以使用赠送额度的

填完之后

提交之后

可以测试一下，验证是否设置正确

创建令牌

要二次分发使用，还需要有令牌

老苏是自用，为了省得麻烦，设置了

  • 永不过期
  • 设为无限额度

创建成功

移动到 查看 上，会显示访问 New API 的令牌

Playground

模型中下拉，选择要使用的模型

输入问题就可以开始聊天了

第三方调用

因为 New API是基于 One API 二次开发的，所以第三方的调用方法和 One API 是一样的，类似二开或者魔改的系统还有很多，就不一一列举了

文章传送门： 大模型接口管理和分发系统One API

参考文档

Calcium-Ion/new-api: AI模型接口管理与分发系统，支持将多种大模型转为OpenAI格式调用、支持Midjourney Proxy、Suno、Rerank，兼容易支付协议，可供个人或者企业内部管理与分发渠道使用，本项目基于One API二次开发。🍥 The next-generation LLM gateway and AI asset management system supports multiple languages.
地址：https://github.com/Calcium-Ion/new-api