0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

如何开启Stable Diffusion WebUI模型推理部署

捷易物联 2024-12-11 20:13 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

自从模型广场上新后,有不少朋友来咨询小助手如何开启模型的推理部署,今天,小助手就以Stable Diffusion WebUI为例,教大家如何捷智算平台开启模型的推理部署。

Web UI模型详细部署教程

进入捷智算,在菜单栏找到【模型广场】就可以看到上新的模型~

44aa1dc8-b7b9-11ef-8084-92fbcf53809c.png

一、选择模型类型

根据自己兴趣的模型点击【推理部署】,我们找到StableDiffusionWebUI点击【推理部署】。

二、购买容器

选择需要的GPU卡及分区,然后点击【启动实例】

44ecf08a-b7b9-11ef-8084-92fbcf53809c.png

也可以在购买容器页面点击【模型镜像】,选择需要的模型镜像,进入部署好模型的容器。

450a7b50-b7b9-11ef-8084-92fbcf53809c.png

三、打开jupyter文档

创建实例运行成功后点击【更多操作】-【查看信息】,获取并复制jupyter密码

452c6986-b7b9-11ef-8084-92fbcf53809c.png45377ca4-b7b9-11ef-8084-92fbcf53809c.png

获取密码后点击jupyter,输入复制的密码

454fd290-b7b9-11ef-8084-92fbcf53809c.png455ffa44-b7b9-11ef-8084-92fbcf53809c.png

就可以进去到模型的jupyter文件页面啦~例如选的是Stable diffusion模型,则点击Stable Diffusion文件夹

456cc42c-b7b9-11ef-8084-92fbcf53809c.png

四、启动模型

点击模型启动ipynb格式文件,按教程点击点击上方 ▸▸ 按键直接运行

点击Restart,重启内核运行

看到显示URL链接就说明模型启动成功啦~

45aa78bc-b7b9-11ef-8084-92fbcf53809c.png

五、配置外网端口并外网打开

要留意一下哦!模型广场web的一般是链接是0.0.0.0:8801,但是只能在内网打开(也就是不能在您自己的电脑打开模型链接的意思),如果想外网分享链接,需要申请端口开放。返回控制台,点击【更多操作】-【设置端口】

45c95700-b7b9-11ef-8084-92fbcf53809c.png

内网端口输入8801,点击【确认】,就会生成一个外网端口

45e21c54-b7b9-11ef-8084-92fbcf53809c.png

再次点击设置端口,就可以看到生成的外网端口,比如20403

46054c1a-b7b9-11ef-8084-92fbcf53809c.png

这样就可以在外网打开

如果看到远程地址是183.47.51.183,那你就可以在自己的电脑浏览器输入【183.47.51.183:20403】打开Web UI使用界面。

461ee0a8-b7b9-11ef-8084-92fbcf53809c.png

打开后,大家就可以在SD的世界里畅玩啦~记得先去找小助手薅羊毛,再来推理部署

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    89

    文章

    38171

    浏览量

    296873
  • 人工智能
    +关注

    关注

    1813

    文章

    49752

    浏览量

    261624
  • 模型
    +关注

    关注

    1

    文章

    3649

    浏览量

    51719
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    本地部署Stable Diffusion实现AI文字生成高质量矢量图片应用于电子商务

    本地部署Stable Diffusion
    的头像 发表于 11-28 07:19 475次阅读

    什么是AI模型推理能力

    NVIDIA 的数据工厂团队为 NVIDIA Cosmos Reason 等 AI 模型奠定了基础,该模型近日在 Hugging Face 的物理推理模型排行榜中位列榜首。
    的头像 发表于 09-23 15:19 843次阅读

    本地部署openWebUI + ollama+DeepSeek 打造智能知识库并实现远程访问

    DeepSeek是一款由国内人工智能公司研发的大型语言模型,实现了媲美OpenAI-o1模型的效果,拥有强大的自然语言处理能力,还大幅降低了推理模型的成本,受到海内外用户的广泛吹捧
    的头像 发表于 09-10 16:41 4979次阅读
    本地<b class='flag-5'>部署</b>openWebUI + ollama+DeepSeek 打造智能知识库并实现远程访问

    基于米尔瑞芯微RK3576开发板部署运行TinyMaix:超轻量级推理框架

    本文将介绍基于米尔电子MYD-LR3576开发平台部署超轻量级推理框架方案:TinyMaix 摘自优秀创作者-短笛君 TinyMaix 是面向单片机的超轻量级的神经网络推理库,即 TinyML
    发表于 07-25 16:35

    【VisionFive 2单板计算机试用体验】3、开源大语言模型部署

    1、ollama平台搭建 ollama可以快速地部署开源大模型,网址为https://ollama.com, 试用该平台,可以在多平台上部署 Deepseek-R1, Qwen3, Llama
    发表于 07-19 15:45

    如何在魔搭社区使用TensorRT-LLM加速优化Qwen3系列模型推理部署

    TensorRT-LLM 作为 NVIDIA 专为 LLM 推理部署加速优化的开源库,可帮助开发者快速利用最新 LLM 完成应用原型验证与产品部署
    的头像 发表于 07-04 14:38 1764次阅读

    模型推理显存和计算量估计方法研究

    随着人工智能技术的飞速发展,深度学习大模型在各个领域得到了广泛应用。然而,大模型推理过程对显存和计算资源的需求较高,给实际应用带来了挑战。为了解决这一问题,本文将探讨大模型
    发表于 07-03 19:43

    边缘计算中的机器学习:基于 Linux 系统的实时推理模型部署与工业集成!

    你好,旅行者!欢迎来到Medium的这一角落。在本文中,我们将把一个机器学习模型(神经网络)部署到边缘设备上,利用从ModbusTCP寄存器获取的实时数据来预测一台复古音频放大器的当前健康状况。你将
    的头像 发表于 06-11 17:22 789次阅读
    边缘计算中的机器学习:基于 Linux 系统的实时<b class='flag-5'>推理模型</b><b class='flag-5'>部署</b>与工业集成!

    基于RK3576开发板的RKLLM大模型部署教程

    Runtime则负责加载转换后的模型,并在Rockchip NPU上进行推理,用户可以通过自定义回调函数实时获取推理结果。 开发流程分为模型转换和板端
    的头像 发表于 05-16 17:48 1944次阅读
    基于RK3576开发板的RKLLM大<b class='flag-5'>模型</b><b class='flag-5'>部署</b>教程

    详解 LLM 推理模型的现状

    2025年,如何提升大型语言模型(LLM)的推理能力成了最热门的话题之一,大量优化推理能力的新策略开始出现,包括扩展推理时间计算、运用强化学习、开展监督微调和进行提炼等。本文将深入探讨
    的头像 发表于 04-03 12:09 1251次阅读
    详解 LLM <b class='flag-5'>推理模型</b>的现状

    中科驭数高性能网卡产品 成就DeepSeek推理模型网络底座

    的突破性进展,而且开源模型发展带来部署成本的极速下降,为定制化AGI服务,推理本地化部署,带来发展机遇,也掀起了新的一轮智算基础设施建设浪潮。 与按Token生成数量计费的AI云服务模
    的头像 发表于 03-31 11:56 526次阅读
    中科驭数高性能网卡产品 成就DeepSeek<b class='flag-5'>推理模型</b>网络底座

    Diffusion生成式动作引擎技术解析

    Diffusion生成式动作引擎 Diffusion生成式动作引擎是一种基于扩散模型Diffusion Models)的生成式人工智能技术,专注于生成连续、逼真的人类动作或动画序列。
    的头像 发表于 03-17 15:14 2712次阅读

    安装OpenVINO™工具包稳定扩散后报错,怎么解决?

    :\\stable-openvino2\\stable-diffusion-webui-master\\venv\\lib\\site-packages\\diffusers\\models
    发表于 03-05 06:56

    添越智创基于 RK3588 开发板部署测试 DeepSeek 模型全攻略

    DeepSeek 模型部署与测试,开启这场充满挑战与惊喜的技术探索之旅。 RK3588 开发板:AI 性能担当 RK3588 开发板基于先进的 8nm LP 制程工艺精心打造,其硬件配置堪称豪华,在 AI
    发表于 02-14 17:42

    摩尔线程宣布成功部署DeepSeek蒸馏模型推理服务

    近日,摩尔线程智能科技(北京)有限责任公司在其官方渠道发布了一则重要消息,宣布公司已经成功实现了对DeepSeek蒸馏模型推理服务的部署。这一技术突破,标志着摩尔线程在人工智能领域迈出了坚实的一步
    的头像 发表于 02-06 13:49 1185次阅读