使用Docker搭建基于LLM大模型的知识库系统FastGPT

FastGPT 是一个基于 LLM 大语言模型的开源知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排，从而实现复杂的问答场景！
基于FastGPT可以实现像AI客服、聊天、知识库、自动数据预处理、自动数据预处理等场景，还能对外提供API，目前该项目已支持基于Docker的私有化部署方案，下面简单减少下如何进行部署。

前提条件

有一台支持Docker的服务器或NAS
有ChatGPT、文心一言、讯飞星火、阿里通义等帐号或API使用权限

部署方法

由于这个项目涉及到3个Docker镜像，所以推荐使用Docker-Dompose部署。如果你使用的是服务器则需要先安装Docker-Compose:

pip3 install docker-compose

如果你用的群辉或威联通，则不需要再安装了，因为NAS系统已经自带了。

开始正式部署前，先找一个合适的位置创建一个目录，本文以 /share/docker 目录为例，在此目录下创建名字为fastgpt的目录（你也可以改成自己喜欢的名字），目录如下

/share/docker/fastgpt

接着再在fastgpt目录下创建3个目录，分别为pg、mongo和fastgpt，并且在这3个目录下下都创建一个目录，名为data，完整目录如下

/share/docker/fastgpt/pg/data
/share/docker/fastgpt/mongo/data
/share/docker/fastgpt/fastgpt/data

然后复制下面的内容，并将其中映射的目录和端口改成你自己合适的

version: '3.8'
services:
  pg:
    image: ankane/pgvector:v0.4.2
    container_name: pg
    restart: unless-stopped
    ports: 
      - 5432:5432
    network_mode: bridge
    environment:
      - POSTGRES_USER=username
      - POSTGRES_PASSWORD=password
      - POSTGRES_DB=postgres
    volumes:
      - /share/Container/fastgpt/pg/data:/var/lib/postgresql/data
  mongo:
    image: mongo:5.0.18
    container_name: mongo
    restart: unless-stopped
    ports: 
      - 27017:27017
    network_mode: bridge
    environment:
      - MONGO_INITDB_ROOT_USERNAME=username
      - MONGO_INITDB_ROOT_PASSWORD=password
    volumes:
      - /share/Container/fastgpt/mongo/data:/data/db
  oneapi:
    container_name: oneapi
    image: justsong/one-api:latest
    ports:
      - 3001:3000
    network_mode: bridge
    volumes:
      - /share/Container/fastgpt/oneapi/data:/data
    depends_on:
      - mongo
      - pg
    restart: unless-stopped
    environment:
      - TZ=Asia/Shanghai
  fastgpt:
    container_name: fastgpt
    image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:latest
    ports:
      - 3000:3000
    network_mode: bridge
    volumes:
      - /share/Container/fastgpt/fastgpt/data:/app/data/
    depends_on:
      - mongo
      - pg
      - oneapi
    restart: unless-stopped
    environment:
      - DEFAULT_ROOT_PSW=123456
      - OPENAI_BASE_URL=https://api.openai.com/v1
      - CHAT_API_KEY=openai的api key
      - DB_MAX_LINK=5
      - TOKEN_KEY=any
      - ROOT_KEY=root_key
      - MONGODB_URI=mongodb://username:[email protected]:27017/?authSource=admin
      - MONGODB_NAME=fastgpt
      - PG_HOST=192.168.31.91
      - PG_PORT=5432
      - PG_USER=username
      - PG_PASSWORD=password
      - PG_DB_NAME=postgres

注意