0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

RAGFlow中配置MaaS API使用指导

jf_81200783 来源:jf_81200783 作者:jf_81200783 2025-04-19 13:40 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

11 RAGFlow 中配置 MaaS 模型服务使用全流程:

1.1 RAGFlow 平台部署

方式 1-直接访问 RAGFlow 官方 SaaS 服务(需翻墙):RAGFlow

方式 2-Docker Compose 方式部署:见官方 Github 仓库:https://github.com/infiniflow/ragflow

1.2 MaaS 模型 API 接入 RAGFlow

1)MaaS 控制台创建 API Key:

-访问 MaaS 控制台:点此访问

-在 MaaS 左侧导航栏中,选择“鉴权管理”。

-在“鉴权管理”页面,单击“创建 API Key”,填写描述信息后,单击“确认”会返回“您的密钥”,请复制保存密钥,单击“关闭”后将无法再次查看密钥。(注:最多支持创建 5 个密钥,密钥只会在新建后显示一次,请妥善保存。当密钥丢失将无法找回,请新建 API Key 获取新的访问密钥。)

wKgZPGfMA1uACcV_AACXFALOxto218.png

2)选择要接入的模型服务

预置服务接入:

-点击控制台左侧“模型部署”,找到想要使用的模型服务后点击“领取”

wKgZO2fMA1yAB-U7AADilikNwro022.png

-领取后找到已领取额度的模型服务,然后点击 “调用”;

wKgZPGfMA1yASXKUAAD1WfI_C80182.png

-在右侧弹出界面中,可以查看到调用该服务需要的基础 API 地址和模型名称信息

wKgZO2fMA12AKLo0AACrUF1tYcE210.png

自部署“我的服务”接入:

在“模型部署-我的服务”页签,状态为运行中的模型服务操作一栏点击“更多”中的“调用”;在右侧弹出界面中,可以查看到调用该服务需要的基础 API 地址和模型名称信息

wKgZO2fMA12AKLo0AACrUF1tYcE210.png

3)RAGFlow 新增模型供应商

进入 RAGFLow 平台界面,点击右上角头像后点击左侧导航栏中的“模型提供商页签”,找到“OpenAI-API-Compatible”供应商点击“添加模型”

wKgZPGfMA12Adb_JAAFhzutLLM0678.png

4)MaaS 模型服务配置

在弹出的添加 LLM 弹窗中填入如下信息:

-模型类型:chat

-模型名称:MaaS 服务调用界面显示的模型名称

-基础 Url:之前步骤中 MaaS 服务的基础 API 地址,需要去掉地址尾部的“/chat/completions” 后填入

-API Key:之前步骤中创建的 API Key

-最大 token 数:各预置服务支持的最大 token 数见下表

wKgZO2fMA16AbcBLAABuYfQRGvQ990.png

wKgZPGfMA16APdjcAAD4mNVGstI635.png

5)修改系统模型设置

在模型供应商界面点击“系统模型设置”,将聊天模型设置为刚配置好的 MaaS 模型。嵌入和 Rerank 模型可使用系统预置的。

wKgZO2fMA1-ADhEyAADZHRsiAZ0477.png

1.3 RAGFlow 中使用接入的 MaaS API 进行知识库问答

1)知识库创建

顶部切换到“知识库”页签,点击“创建知识库”,在知识库的详情页面配置页签可进行文档解析、文档切分等规则的配置

wKgZPGfMA1-ALIIEAAF1tpCWM4Y662.png

2)上传文档

-在知识库的“数据集”页签中,点击“新增文件”-“本地文件”

-弹窗中上传需要进行问答的知识文档

-上传完成后点击动作中的“运行”按钮,当解析状态为已完成时,则知识库已可以用于进行问答

wKgZO2fMA2CABb3XAAFG8MMtK1k777.png

3)创建助理

在“聊天”页签点击“新建助理”,自定义姓名后选择之前步骤中创建好的知识库

wKgZPGfMA2GAEExBAAC81z8XYfY249.png

4)与助理进行文档问答

选择创建好的 AI 助理,点击旁边的蓝色加号即可开始进行文档问答,模型会基于外挂的知识库中的内容进行问题答复;回答效果示例如下:

wKgZO2fMA2GAfcAPAAHFAoit0-c383.png


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • API
    API
    +关注

    关注

    2

    文章

    2147

    浏览量

    66235
  • 模型
    +关注

    关注

    1

    文章

    3648

    浏览量

    51712
  • GitHub
    +关注

    关注

    3

    文章

    484

    浏览量

    18424
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    MaaS,云厂商在打一场“翻身仗”

    MaaS之于云厂商,并不是一个进退两难的选择困境,而是没有后路的背水一战
    的头像 发表于 10-20 09:18 1857次阅读
    <b class='flag-5'>MaaS</b>,云厂商在打一场“翻身仗”

    大厂加码,小厂离席:DeepSeek驱动的MaaS之变

    MaaS,一场理想主义者的持久战
    的头像 发表于 03-12 09:15 2145次阅读
    大厂加码,小厂离席:DeepSeek驱动的<b class='flag-5'>MaaS</b>之变

    使用 Canonical MAAS 部署 openEuler 测试

    Canonical 的 MAAS [https://maas.io/](Metal as a Service)是一款用于服务器自动发现、配置的远程操作系统安装、部署工具,可以将物理服务器转换为类似于
    发表于 08-24 11:43

    有线数字电视频道配置指导性意见

    有线数字电视频道配置指导性意见 范围:本指导性意见规定了在有线电视分配网实现整体数字化过程的频道配置,在特殊情况下模拟与数字电视广播共存
    发表于 03-26 17:41 21次下载

    使用英特尔QuickAssist技术API

    概述使用英特尔®QuickAssist技术包含的API
    的头像 发表于 10-30 06:36 3756次阅读

    FreeRTOS的API函数和配置选项参考手册资料免费下载

    在本文档API函数分为五组:任务和调度程序相关函数、队列相关函数、信号量相关函数、软件计时器相关函数和事件组相关函数。每个组都记录在自己的章节,在每个章节
    发表于 03-08 08:00 68次下载
    FreeRTOS的<b class='flag-5'>API</b>函数和<b class='flag-5'>配置</b>选项参考手册资料免费下载

    高级配置和电源接口规范

    高级配置和电源接口(ACPI)规范的制定旨在建立行业通用接口,从而支持健壮的操作系统(OS)指导的主板设备配置,以及设备和整个系统的电源管理。ACPI是操作系统定向配置和电源管理(OS
    发表于 12-10 08:00 5次下载
    高级<b class='flag-5'>配置</b>和电源接口规范

    Compose的动画API概览及使用方法

    我们将通过本文介绍 Compose 的一些动画 API,并探讨如何有效地使用它们。Compose 的动画 API 是我们构想的全新 API
    的头像 发表于 06-06 17:48 3129次阅读

    什么是API,不同场景API

    当公司构建他们的应用时,他们把它们设计成一组交互的API。最容易理解的例子是Lyft(或者Uber)。你可能想在Lyft应用做一些事情,它们在幕后都会触发不同的API
    的头像 发表于 08-10 11:20 3329次阅读

    什么是API标准化?

    API 标准化还可以改善团队协作,提供提升准确性和降低延迟的指导原则,有助于降低总开发成本。标准对于 API 策略的成功如此重要,以至于许多科技公司(如微软、谷歌和 IBM)以及行业组织(如
    的头像 发表于 11-02 13:51 3466次阅读

    阿里提及的MaaS,会如何改变云平台?

    包括基础大模型/通义大模型、企业专属大模型、魔搭社区、API服务等。阿勇表示,阿里所有产品未来将接入大模型全面升级,包括天猫、钉钉、高德地图、淘宝、优酷、盒马等。        这段话,张勇提及的MaaS,引起了笔者的注意。深
    的头像 发表于 04-14 09:22 1732次阅读
    阿里提及的<b class='flag-5'>MaaS</b>,会如何改变云平台?

    为什么需要 API 网关?

    API 网关是 API 全生命周期管理的关键基础组件,负责生产环境 API配置、发布、版本回滚、安全、负载均衡等。
    的头像 发表于 05-04 17:47 1354次阅读
    为什么需要 <b class='flag-5'>API</b> 网关?

    云计算迎来中场战役,MaaS或将成为弯道超车“新赛点”

    MaaS重塑云计算服务范式
    的头像 发表于 07-27 10:08 647次阅读

    多相芯片TPS53689的配置与使用指导

    电子发烧友网站提供《多相芯片TPS53689的配置与使用指导.pdf》资料免费下载
    发表于 08-29 11:12 1次下载
    多相芯片TPS53689的<b class='flag-5'>配置</b>与使用<b class='flag-5'>指导</b>

    Chatbox配置MaaS模型服务使用全流程

    -在“鉴权管理”页面,单击“创建 API Key”,填写描述信息后,单击“确认”会返回“您的密钥”,请复制保存密钥,单击“关闭”后将无法再次查看密钥。(注:最多支持创建 5 个密钥,密钥只会在新建后显示一次,请妥善保存。当密钥丢失将无法找回,请新建 API Key 获取新
    的头像 发表于 04-19 13:41 2692次阅读
    Chatbox<b class='flag-5'>中</b><b class='flag-5'>配置</b><b class='flag-5'>MaaS</b>模型服务使用全流程