AI 检索增强生成

功能说明

基于 AI 检索增强生成（RAG）插件，可以通过对接阿里云向量检索服务实现 LLM-RAG 应用的开发，流程如图所示：

AI 检索增强生成 - 图1

配置说明

名称数据类型填写要求默认值描述
dashscope.apiKeystring必填-用于在访问通义千问服务时进行认证的令牌。
dashscope.serviceNamestring必填-通义千问服务名
dashscope.servicePortint必填-通义千问服务端口
dashscope.domainstring必填-访问通义千问服务时域名
dashvector.apiKeystring必填-用于在访问阿里云向量检索服务时进行认证的令牌。
dashvector.serviceNamestring必填-阿里云向量检索服务名
dashvector.servicePortint必填-阿里云向量检索服务端口
dashvector.domainstring必填-访问阿里云向量检索服务时域名

示例

  1. dashscope:
        apiKey: xxxxxxxxxxxxxxx
        serviceName: dashscope
        servicePort: 443
        domain: dashscope.aliyuncs.com
    dashvector:
        apiKey: xxxxxxxxxxxxxxxxxxxx
        serviceName: dashvector
        servicePort: 443
        domain: vrs-cn-xxxxxxxxxxxxxxx.dashvector.cn-hangzhou.aliyuncs.com
        collection: xxxxxxxxxxxxxxx

CEC-Corpus 数据集包含 332 篇突发事件的新闻报道的语料和标注数据，提取其原始的新闻稿文本，将其向量化后添加到阿里云向量检索服务。文本向量化的教程可以参考《基于向量检索服务与灵积实现语义搜索》。

以下为使用 RAG 进行增强的例子，原始请求为：

  1. 海南追尾事故，发生在哪里？原因是什么？人员伤亡情况如何？

未经过 RAG 插件处理 LLM 返回的结果为：

  1. 抱歉，作为AI模型，我无法实时获取和更新新闻事件的具体信息，包括地点、原因、人员伤亡等细节。对于此类具体事件，建议您查阅最新的新闻报道或官方通报以获取准确信息。您可以访问主流媒体网站、使用新闻应用或者关注相关政府部门的公告来获取这类动态资讯。

经过 RAG 插件处理后 LLM 返回的结果为：

  1. 海南追尾事故发生在海文高速公路文昌至海口方向37公里处。关于事故的具体原因，交警部门当时仍在进一步调查中，所以根据提供的信息无法确定事故的确切原因。人员伤亡情况是1人死亡（司机当场死亡），另有 8 人受伤（包括 2 名儿童和 6 名成人），所有受伤人员都被解救并送往医院进行治疗。