介绍

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排，从而实现复杂的问答场景！

官网地址 https://doc.fastai.site/docs/intro/

手动部署

FastGPT提供了多种部署方式，我本次采用docker部署。、

1. 安装docker 和 docker-compose，这个没有安装的可以自行百度；

2. 创建目录并下载 docker-compose.yml

mkdir fastgpt
cd fastgpt
#非Linux系统环境可以手动下载这两个文件
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/files/deploy/fastgpt/docker-compose.yml
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json

可手动下载这两个文件 docker-compose.yml, config.json

3. 启动容器
   修改docker-compose.yml中的OPENAI_BASE_URL和CHAT_API_KEY即可，对应为 API 的地址(别忘记加/v1)和 key。

#在 docker-compose.yml 同级目录下执行
docker-compose pull
docker-compose up -d

4. 访问FastGPT
   目前可以通过 ip:3000 直接访问(注意防火墙)。登录用户名为 root，密码为docker-compose.yml环境变量里设置的 DEFAULT_ROOT_PSW。

1Panel部署

1. 将docker-compose.yml中的内容复制以创建编排​，务必修改对应的API地址、API秘钥、调整合适的知识库参数等

2. 常见问题

   1. 创建编排失败：config.json创建失败

      原因：1Panel错误地将config.json创建为文件夹，需要先将config.json放入目标文件夹，再重新创建编排。

OneAPI部署与配置

介绍

OpenAI 接口管理 & 分发系统，支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元，可用于二次分发管理 key，仅单可执行文件，已打包好 Docker 镜像，一键部署，开箱即用.

FastGPT 与 One API 关系

可以把 One API 当做一个网关。

部署

docker部署

mkdir oneapi
cd oneapi

1. 创建文件docker-compose.yml并粘贴如下内容

version: '3.8'
services:
oneapi:
  container_name: oneapi
  image: justsong/one-api:latest
  restart: unless-stopped
  network_mode: bridge
  ports:
    - 3001:3000
  volumes:
      - /share/Container/oneapi/data:/data
  environment:
      - TZ=Asia/Shanghai

2. 切换到oneapi文件下，执行 docker-compose up -d 启动应用

3. 访问应用：输入IP+端口3001

使用docker ps 命令可以看oneapi服务是否已经启动

直接下载exe

下载地址 https://github.com/songquanpeng/one-api/releases
下载后运行exe文件后弹出窗口显示one-api已启动，即可访问应用(默认是3000端口)：http://localhost:3000/

修改FastGPT的配置

有了 One API 令牌后，FastGPT 可以通过修改 baseurl 和 key 去请求到 One API，再由 One API 去请求不同的模型。修改下面两个环境变量：
其中CHAT_API_KET的值为OneAPI的令牌值，OPENAI_BASE_URL为部署的oneAPI的地址，记得加上/v1​

　　修改 FastGPT 配置文件config.json

{
      "model": "qwen-plus",
      "name": "lingmouAI",
      "maxContext": 8000,
      "maxResponse": 4000,
      "quoteMaxToken": 2000,
      "maxTemperature": 1,
      "vision": false,
      "defaultSystemChatPrompt": "" 
}

重新启动FastGPT

docker-compose up -d

我配置的是宿主机上的9091端口映射到容器内的3000端口，所以访问 http://localhost:9091/ 即可，用户名root，密码1234
这样就完成私有化部署啦，可以创建本地知识库并对话了。

问题总结

1. 由于我的fastGPT使用的是docker部署的，而OneAPI直接下载的exe在本地部署的。当在OneAPI配置好令牌和渠道后，并且在fastGPT对应的docker-compose.yml配置好CHAT_API_KET和OPENAI_BASE_URL。我的配置如下：

- OPENAI_BASE_URL=http://localhost:3000/v1
- CHAT_API_KEY=*************************

发现对话功能报错，提示“Connection error.”→检查是否需要加上/v1