基于LLM大模型的RAG构建平台-FastGPT

基础知识

  • 基于 LLM 大模型的开源 AI 知识库构建平台。提供了开箱即用的数据处理、模型调用、RAG 检索、可视化 AI 工作流编排等能力，帮助您轻松构建复杂的 AI 应用

  • 登录之后会跳转到他的工作台，在这个工作台中可以创建应用来实现RAG的工作流程

创建应用、添加知识库、定义提示词后，一个基于RAG的大模型应用就做好了

安装及配置FastGPT

  • 配置文件

config.json
docker-componse.yml

  • 启动docker(在新建项目的文件夹下)

  • 添加渠道

  • 配置模型

  • 测试渠道

  • 测试成功后，需要在config.json文件中添加相应配置，然后重启docker

使用FastGPT

  • 登录地址：http://localhost:3000
  • 登录用户名为 root，密码为docker-compose.yml环境变量里设置的 DEFAULT_ROOT_PSW
  • 首次运行，会自动初始化 root 用户，密码为 1234（与环境变量中的DEFAULT_ROOT_PSW一致），日志可能会提示一次MongoServerError: Unable to read from a snapshot due to pending collection catalog changes;可忽略