做客服的朋友抱怨过一件事:每天回答的问题有八成是重复的,答案就写在产品手册第三十七页,可用户不会去翻,还是得一句一句打出来。

FastGPT 要解决的就是这个。把那本手册、FAQ、工单记录丢进知识库,它会自动切段、建索引,之后用户问什么,它先答,答不上再转人工。

这是 labring 团队做的开源项目,三万多颗星,中文文档写得比很多商业产品细。整个平台跑在 Docker 里,也提供在线版,先试再决定要不要自建。

FastGPT 调试预览界面:左边是知识库搜索参数,右边对话区里回答了“FastGPT 是什么”,答案下方列出可点击的引用来源与相似度

最见功力的是解析。PDF 里的表格、扫描件、带层级的 Word,直接扔进去往往切得七零八落;它的分段和向量化做得比较讲究,切完还能在数据集里逐条看命中效果。

调试页是我最常用的地方。左边调搜索模式、引用上限、最低相关度,右边边问边看回答,答案下面挂着引用来源,点开就是原文那一段,相似度也标着。

有了这个,才敢把它放到客户面前。模型胡说八道的时候,至少能翻出它到底看了哪句话。

再往上是流程编排。先在知识库检索,检索不到就查数据库,还不行就走人工,这一串用画布连起来,不用写代码。复杂一点的还能接 HTTP 请求、判断分支、调外部接口。

FastGPT 数据集搜索测试界面:输入一个问题后返回命中的文档片段,右侧显示搜索模式、引用上限、最低相关度和测试耗时

接口是开放的。前端嵌一个聊天窗,或者直接接进企业微信、飞书,都行;回答的格式、欢迎语、推荐问题都能改。

部署门槛不算低:要 Docker,要一台像样的机器,接本地模型还得有显卡。它的定位本来也不是给个人玩的,是给一个团队用的。

上线前有件事得提前想清楚——知识库里的文档谁都能问。人事制度、报价单、内部邮件,别一股脑倒进去,权限要分开配。

模型这头也不绑死一家。OpenAI、通义、智谱、DeepSeek,或者自己用 Ollama 跑的本地模型,配好地址和 Key 就能切换;换模型不用重建知识库,重新向量化一次就成。这一点对预算紧的团队很实际——先拿便宜的模型把流程跑通,再换贵的。

比起从零写一套 RAG,它省下的是那些琐碎又必须做的事:切段、重排、引用、兜底。这些东西不难,但很磨人。