思维导图备注

FastGPT v4.8 中文文档
首页 白天 夜间 BookChat 小程序 小程序 阅读
  • 书签 我的书签
  • 添加书签 添加书签 移除书签 移除书签

本地模型使用

 FastGPT服务  来源:FastGPT 浏览 706 扫码 分享 2024-05-26 22:11:02
  • 使用 Xinference 接入本地模型
  • 接入 bge-rerank 重排模型
  • 接入 ChatGLM2-6B
  • 接入 M3E 向量模型
  • 接入 ChatGLM2-m3e 模型
当前内容版权归 FastGPT 或其关联方所有，如需对内容或内容相关联开源项目进行关注与资助，请访问 FastGPT .
上一篇:
下一篇:
  • 书签
  • 添加书签 移除书签
  • FastGPT v4.8 中文文档
  • 目录
  • 快速了解 FastGPT
  • 基础教程
    • 快速上手
    • AI 相关参数配置说明
    • Web 站点同步
    • 知识库搜索方案和参数
    • 外部文件知识库
    • 打造高质量 AI 知识库(过期)
    • 对话问题引导
  • 高级编排
    • 高级编排介绍
    • 模块介绍
      • AI 对话
      • 内容提取
      • 自定义反馈
      • HTTP 模块
      • Laf 函数调用
      • 对话入口
      • 工具调用
      • 知识库搜索
      • 问题分类
      • 指定回复
      • 判断器
      • 文本加工
      • 问题优化（已合并到知识库搜索）
    • 编排示例
      • 固定开头和结尾内容
      • 接入谷歌搜索
      • 实验室预约
      • Dalle3 绘图
      • 发送飞书webhook通知
  • 使用案例
    • 使用 Gapier 快速导入Agent工具
    • 接入飞书(社区文章)
    • 对接 chatgpt-on-wechat
    • 对接第三方 GPT 应用
    • 接入微信和企业微信
  • 开发与部署指南
    • 快速开始本地开发
    • Sealos 一键部署
    • Docker Compose 快速部署
    • 配置文件介绍
    • 使用 One API 接入 Azure、ChatGLM 和本地模型
    • 私有部署常见问题
    • 版本更新/升级操作
      • 升级说明
      • V4.8.1(需要初始化)
      • V4.8
      • V4.7.1(需要初始化)
      • V4.7（需要初始化）
      • V4.6.9(需要初始化)
      • V4.6.8（需要初始化）
      • V4.6.7（需要初始化）
      • V4.6.6（需要改配置文件）
      • V4.6.5（需要改配置文件）
      • V4.6.4(需要初始化)
      • V4.6.3(需要初始化)
      • V4.6.2(需要初始化)
      • V4.6.1
      • V4.6(需要初始化)
      • V4.5.2
      • V4.5.1(需进行初始化)
      • V4.5(需进行较为复杂更新)
      • V4.4.7（需执行升级脚本）
      • V4.4.6
      • V4.4.5(需要初始化)
      • 升级到 V4.4.2(需要初始化)
      • 升级到 V4.4.1(需要初始化)
      • 升级到 V4.4(需要初始化)
      • 升级到 V4.3(需要初始化)
      • 升级到 V4.2.1
      • 升级到 V4.2
      • 升级到 V4.1
      • 升级到 V4.0
    • OpenAPI 接口文档
      • Api Key 使用与鉴权
      • 对话接口
      • 知识库接口
      • 分享链接身份鉴权
    • 本地模型使用
      • 使用 Xinference 接入本地模型
      • 接入 bge-rerank 重排模型
      • 接入 ChatGLM2-6B
      • 接入 M3E 向量模型
      • 接入 ChatGLM2-m3e 模型
    • 代理方案
      • Nginx 中转
      • HTTP 代理中转
      • Cloudflare Worker 中转
    • 迁移&备份
      • Docker Mongo迁移(dump模式)
      • Docker 数据库迁移(无脑操作)
    • 设计方案
      • 数据集
  • 商业版介绍
    • 商业版
  • 协议
    • 开源协议
    • 服务协议
    • 隐私政策
  • 加入社区
暂无相关搜索结果！

    本文档使用 BookStack 构建

    展开/收起文章目录

    分享，让知识传承更久远

    文章二维码

    手机扫一扫，轻松掌上读

    文档下载

    • 普通下载
    • 下载码下载(免登录无限下载)
    你与大神的距离，只差一个APP
    APP下载
    请下载您需要的格式的文档，随时随地，享受汲取知识的乐趣！
    PDF文档 EPUB文档 MOBI文档
    温馨提示 每天每在网站阅读学习一分钟时长可下载一本电子书，每天连续签到可增加阅读时长
    下载码方式下载：免费、免登录、无限制。 免费获取下载码

    微信小程序阅读

    BookChat 微信小程序阅读
    您与他人的薪资差距，只差一个随时随地学习的小程序

    书签列表

      阅读记录

      阅读进度: 0.00% ( 0/0 ) 重置阅读进度