0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

DeepSeek4J开源:高效解决DeepSeek R1集成挑战

OSC开源社区 来源:OSC开源社区 2025-02-12 11:33 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

随着 DeepSeek R1 模型的发布,其强大的思维链能力让开发者为之兴奋。然而,Spring AI 等主流框架对其支持不足,导致很多开发者无法充分发挥模型潜力。本文将为您带来一个完美的解决方案 - deepseek4j。

一、为什么需要 deepseek4j?

1.1 现有框架的局限性

思维链内容丢失:R1 最核心的推理过程完全被忽略

响应模式不兼容:无法处理"思考在前、结论在后"的输出模式

参数限制temperature、top_p 等关键参数设置失效

流式处理不完善:用户体验欠佳

虽然笔者上篇博客介绍了如何使用 WebFlux 直接调用 DeepSeek API,但这种方式存在一些问题:开发成本高:直接调用 API 或改造现有框架需要处理大量细节,包括请求构建、响应解析、错误处理等。

一不做二不休,为了彻底解决这些问题,笔者基于 OpenAI4J[1] 项目的优秀架构,打造了一个专门面向 DeepSeek 的开箱即用方案 DeepSeek4J[2]

增强支持 DeepSeek 独有的思维链和账单特性

增加 Project Reactor 的全面响应式支持

提供集成 Spring Boot Starter,提供自动配置

二、核心特性

完整保留思维链能力、账单

响应式流式处理

简单优雅的 API 设计

开箱即用的 Spring Boot 集成,同时支持2.x / 3.x

内置调试页面

详细的请求响应日志

灵活的代理配置

响应式编程支持

三、快速开始

3.1 添加依赖


io.github.pig-mesh.ai
deepseek-spring-boot-starter
1.1.0

3.2 配置参数

deepseek:
api-key:your-api-key-here
base-url:https://api.deepseek.com/v1#可选,默认为官方API地址,支持火山、gitee、硅基流动

3.3 基础使用

@Autowired
privateDeepSeekClientdeepSeekClient;

//sse流式返回
@GetMapping(value="/chat",produces=MediaType.TEXT_EVENT_STREAM_VALUE)
publicFluxchat(Stringprompt){
returndeepSeekClient.chatFluxCompletion(prompt);
}

3.4 进阶配置

publicFluxchat(Stringprompt){
ChatCompletionRequestrequest=ChatCompletionRequest.builder()
//模型选择,支持DEEPSEEK_CHAT、DEEPSEEK_REASONER等
.model(ChatCompletionModel.DEEPSEEK_CHAT)
//添加用户消息
.addUserMessage(prompt)
//添加助手消息,用于多轮对话
.addAssistantMessage("上轮结果")
//添加系统消息,用于设置角色和行为
.addSystemMessage("你是一个专业的助手")
//设置最大生成token数,默认2048
.maxTokens(1000)
//设置响应格式,支持JSON结构化输出
.responseFormat()
.tools()//functioncalling
.build();

returndeepSeekClient.chatFluxCompletion(request);
}

3.5 开发者专享彩蛋:

内置可视化调试页面,双击 sse.html 即可开启实时对话监控,完整呈现思维链演进过程!页面提供了完整的前端实现代码,可作为集成参考。

c563214a-e873-11ef-9310-92fbcf53809c.png

点击「阅读原文」直达项目仓库,开启你的智能开发新纪元!

参考资料

DeepSeek4J:https://github.com/pig-mesh/deepseek4j

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    91

    文章

    41295

    浏览量

    302669
  • DeepSeek
    +关注

    关注

    2

    文章

    855

    浏览量

    3412

原文标题:deepseek4j已开源——完美解决DeepSeek R1集成难题

文章出处:【微信号:OSC开源社区,微信公众号:OSC开源社区】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    百度腾讯抢滩布局!DeepSeek-R1升级和开源背后,国产AI的逆袭之路

    Hugging Face平台开源。用户可通过官方网页、App、小程序进入对话界面后,开启“深度思考”功能体验最新版本。API也已同步更新,调用方式不变。   DeepSeek-R1-0528编程能力提升
    的头像 发表于 06-03 06:34 6405次阅读

    海光信息DCU平台完成对DeepSeek V4模型极速适配

      4月24日,深度求索正式发布并开源DeepSeek V4。海光DCU同步完成对DeepSeek V4
    的头像 发表于 04-24 17:32 1635次阅读

    DeepSeek爆火一周年的寂静

    ,争先恐后地展示技术进步。而另一边,则是DeepSeek新模型缺席春节假期,与一年前R1横空出世、引爆全球关注的高光姿态,形成了鲜明对比。   恰逢R1爆火一周年的时刻,我们回溯了过去一年De
    的头像 发表于 02-26 14:15 1.1w次阅读
    <b class='flag-5'>DeepSeek</b>爆火一周年的寂静

    黄仁勋新年第一场演讲提了DeepSeek 黄仁勋:机器人领域迎来ChatGPT时刻

    DeepSeek:黄仁勋称开源模型创新催化剂,Deepseek R1模型推动行业变革,Deepsee
    的头像 发表于 01-06 11:23 7152次阅读

    DeepSeek R1 MTP在TensorRT-LLM中的实现与优化

    TensorRT-LLM 在 NVIDIA Blackwell GPU 上创下了 DeepSeek-R1 推理性能的世界纪录,Multi-Token Prediction (MTP) 实现了大幅提速
    的头像 发表于 08-30 15:47 4723次阅读
    <b class='flag-5'>DeepSeek</b> <b class='flag-5'>R1</b> MTP在TensorRT-LLM中的实现与优化

    如何在NVIDIA Blackwell GPU上优化DeepSeek R1吞吐量

    开源 DeepSeek R1 模型的创新架构包含多头潜在注意力机制 (MLA) 和大型稀疏混合专家模型 (MoE),其显著提升了大语言模型 (LLM) 的推理效率。
    的头像 发表于 08-12 15:19 4515次阅读
    如何在NVIDIA Blackwell GPU上优化<b class='flag-5'>DeepSeek</b> <b class='flag-5'>R1</b>吞吐量

    速看!EASY-EAI教你离线部署Deepseek R1大模型

    和自然语言推理等复杂任务。作为国产AI大数据模型的代表,凭借其卓越的推理能力和高效的文本生成技术,在全球人工智能领域引发广泛关注。本文主要说明DeepSeek-R1
    的头像 发表于 07-25 15:22 1592次阅读
    速看!EASY-EAI教你离线部署<b class='flag-5'>Deepseek</b> <b class='flag-5'>R1</b>大模型

    【「DeepSeek 核心技术揭秘」阅读体验】+混合专家

    感谢电子发烧友提供学习Deepseek核心技术这本书的机会。 读完《Deepseek核心技术揭秘》,我深受触动,对人工智能领域有了全新的认识。了解Deepseek-R1Deepseek
    发表于 07-22 22:14

    【「DeepSeek 核心技术揭秘」阅读体验】--全书概览

    讲解Deepseek的使用方法 第三章 深入剖析Deepseek-V3的模型架构、训练框架、推理阶段优化、后训练优化等关键技术 第四章关于DeepSeek-R1的技术剖析 第五章 从宏观角度分析
    发表于 07-21 00:04

    【「DeepSeek 核心技术揭秘」阅读体验】书籍介绍+第一章读后心得

    可能大家耳熟能详的是DeepSeek-R1,这是在网页端开启了“深度思考”模式后调用的模型,如果不开,则是用的V3模型。但是,DeepSeek模型家族不止有V3和R1,它还开源有多模
    发表于 07-17 11:59

    Arm Neoverse N2平台实现DeepSeek-R1满血版部署

    颇具优势。Arm 携手合作伙伴,在 Arm Neoverse N2 平台上使用开源推理框架 llama.cpp 实现 DeepSeek-R1 满血版的部署,目前已可提供线上服务。
    的头像 发表于 07-03 14:37 1443次阅读
    Arm Neoverse N2平台实现<b class='flag-5'>DeepSeek-R1</b>满血版部署

    【书籍评测活动NO.62】一本书读懂 DeepSeek 全家桶核心技术:DeepSeek 核心技术揭秘

    DeepSeek 在提升效率和性能方面的不懈追求。 第4章关于 DeepSeek-R1 的技术剖析同样精彩纷呈。预备知识的介绍为读者理解后续内容打下了坚实
    发表于 06-09 14:38

    DeepSeek开源新版R1 媲美OpenAI o3

    DeepSeek“悄悄”地又放了一个大招,DeepSeek开源R1最新0528版本。尽管DeepSeek目前还没有对该版本进行任何说明,但
    的头像 发表于 05-29 11:23 1527次阅读

    瑞萨RZ/V2H平台支持部署离线版DeepSeek -R1大语言模型

    瑞萨RZ/V2H平台支持部署离线版DeepSeek -R1大语言模型
    的头像 发表于 05-13 17:07 1875次阅读
    瑞萨RZ/V2H平台支持部署离线版<b class='flag-5'>DeepSeek</b> -<b class='flag-5'>R1</b>大语言模型

    DeepSeek 引领边缘 AI 芯片向更高性能、更低功耗、更强泛化能力的方向演进

    DeepSeek 系列模型概览 DeepSeek 系列包括大型语言模型(如 DeepSeek LLM、R1)及多模态模型(DeepSeek-
    的头像 发表于 05-09 10:27 2432次阅读