0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

大模型太贵?找找自己的原因好吧?

脑极体 来源:脑极体 作者:脑极体 2023-10-07 09:25 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

什么?

炼个大模型还嫌贵?

到底哪里贵了!?

大模型算力贵?哪里贵了!?

争先恐后训练大模型,

搞得现在“算力慌”“一卡难求”,

算力当然水涨船高了!

“特供版”GPU又贵又缩水,

大家自己愿意当“冤大头”囤卡,

还好意思埋怨贵了?

这么多年有没有认真工作?

为什么这么多算力还依赖进口!

自己为什么不能制造芯片?

有没有在自主化上想想办法?

解决算力难题,

厂商们可以选择AI云服务。

在社会层面进行算力集约,

让算力普惠。

同时支持国产AI算力,

让国内市场活跃起来。

大模型基础设施贵?哪里贵了!?

数据需要存,接入AI模型需要网,

部署AI模型需要终端。

哪个不需要投入了!

任何一个地方出现短板,

就会出现木桶效应!

加一加算一算,当然不便宜了!

有时候找找自己的原因!

综合成本那么高,

是不是盲目追求高配置了?

IT设施能不能跟上大模型发展?

是不是IT采购做得东一榔头,西一棒槌?

有没有做过全盘的数字化设计?

想要把基础设施的综合成本打下来,

就需要选择和大模型

适配的存储、网络产品。

统筹规划自己的ICT基础设施,

让大模型获得良好的数字化土壤。

大模型数据贵?哪里贵了!?

专用数据从采集、清洗到标注、验证,

每一个环节都需要成本。

有的企业整理3TB数据成本就高达数十万。

通用数据便宜!

不担心大模型差异化问题你去买啊!

平时有没有重视自有数据?

全员通宵埋头标注数据的时候,

高价买数据的时候,

就没想想怎么能剩下一笔数据成本?

想降低数据成本,

首先就要重视自身的数据资产,

加强数据资产的收集保存,

同时强化流通,

数据流通起来才有价值!

大模型运维贵?哪里贵了!?

大模型数据规模大、迭代版本多、算力节点多。

多就代表复杂,复杂就代表故障率高。

一出故障要推倒重训,

一次训练恢复就要一星期以上,

项目进度停滞,人工和算力开销照旧,

整体成本咔咔上涨!

运维成本上涨,

有时候找找自己的原因!

为什么一边抱怨人工贵,

一边还要让员工加班?

为什么不找找运维“平替”?

想要找人工运维的“平替”,

当然就是AI运维了 !

用AI来运维AI,

提升运维智能化水平,

实现故障精准定位,快速恢复。

让运维能力秒变省钱超能力!

大模型人才贵?哪里贵了!?

也就是应届生比其他T人才溢价个50%左右,

算法工程师年薪50万起步,

多一点的100万也够了!

有时候挖一个专家,

还要把他学生、助手、

亲戚七大姑八大姨都给挖过来,

1000万起步差不多吧。

有些时候找找自身原因!

这么多年有没有认真工作?

自己能不能变成AI人才?

有没有让员工都去研究学大模型?

有没有送自己小孩去学AI?

破解AI人才难题,

需要产学研协同努力,

加大人才培养力度,

丰富相关岗位分工,

推进AI资质考核标准化

校园培养、在职培养、

社会培养共同发展。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    91

    文章

    41115

    浏览量

    302608
  • 大模型
    +关注

    关注

    2

    文章

    3771

    浏览量

    5273
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    一句话让大模型控制硬件:手把手教你给 EmbedClaw 添加自己的 Tool!

    、Agent、Tools、Channel拆成了清晰的几层。模型负责“理解意图和决策”,真正执行硬件动作的是你自己写的Tool。今天这篇文章,我们就不讲空话,直接拿
    的头像 发表于 04-01 18:32 142次阅读
    一句话让大<b class='flag-5'>模型</b>控制硬件:手把手教你给 EmbedClaw 添加<b class='flag-5'>自己</b>的 Tool!

    工作流大模型节点说明

    ,并避免提供具体的医疗诊断。 用户提示词示例:我最近总是感到疲劳,这可能是什么原因呢? 输出 可以指定大模型节点输出的内容格式;输出格式支持设置为: 文本:纯文本格式,参数值为模型回复的文本内容
    发表于 03-19 14:56

    什么?200+核心板能跑大模型?RV1126B大模型deepseek 1.5B已经能够跑通啦!#大模型

    模型
    广州灵眸科技有限公司
    发布于 :2025年12月02日 15:53:21

    小白必看:模型静态测试效率翻倍——MXAM详解#simulink #Siumlink模型测试

    模型
    北汇信息POLELINK
    发布于 :2025年10月24日 18:03:11

    详解SPICE器件模型的分类

    今天我们来聊聊工程师在仿真时比较关注的问题。众多的器件模型,我在仿真的时候到底应该怎么选择一个器件的模型?我使用的这个器件模型的精确度够吗?我自己能否做一个器件
    的头像 发表于 08-28 13:42 1846次阅读
    详解SPICE器件<b class='flag-5'>模型</b>的分类

    如何进行YOLO模型转换?

    (kmodel_data)代码运行无异常,导出模型大小只有12MB,但在设备中运行模型时间非常长(具体超过5分钟一次),而后将预处理关闭,则设备中跑模型会报错 请问,以上问题是哪里的原因
    发表于 08-14 06:03

    机场设备智能运维管理大模型

    模型
    中设智控
    发布于 :2025年08月13日 11:27:24

    ai_cube训练模型最后部署失败是什么原因

    ai_cube训练模型最后部署失败是什么原因?文件保存路径里也没有中文 查看AICube/AI_Cube.log,看看报什么错?
    发表于 07-30 08:15

    FA模型卡片和Stage模型卡片切换

    卡片切换 卡片切换主要包含如下三部分: 卡片页面布局:FA模型卡片和Stage模型卡片的布局都采用类web范式开发可以直接复用。 卡片配置文件:FA模型的卡片配置在config.json中
    发表于 06-06 08:10

    FA模型和Stage模型API切换概述

    API切换概述 FA模型和Stage模型由于线程模型和进程模型的差异,部分接口仅在FA模型下才能使用,针对这部分接口在SDK的接口中有FA
    发表于 06-06 06:29

    从FA模型切换到Stage模型时:module的切换说明

    module的切换 从FA模型切换到Stage模型时,开发者需要将config.json文件module标签下的配置迁移到module.json5配置文件module标签下,具体差异
    发表于 06-05 08:16

    FA模型访问Stage模型DataShareExtensionAbility说明

    FA模型访问Stage模型DataShareExtensionAbility 概述 无论FA模型还是Stage模型,数据读写功能都包含客户端和服务端两部分。 FA
    发表于 06-04 07:53

    答疑 | 台灯会影响白色树脂打印的模型开裂变黄吗?

    极低,通常不会对模型有直接影响。 先浅浅分析一下原因: 第一,“开裂”主要与树脂固化时的应力、打印参数设置不当,或后处理(如清洗、固化)不充分有关。 第二,”变黄“大多是紫外线长期照射引发了树脂氧化,或
    发表于 05-19 17:23

    如何用FastMCP快速开发自己的MCP Server?

    的感受到了基于AI大模型和 MCP可以非常方便的构建自己的AI智能体工作流。在此基础上,不少读者咨询,如何将自己已有的工具或函数,制作成MCP Server给AI大模型调用呢?本文从零
    的头像 发表于 05-07 16:07 3059次阅读
    如何用FastMCP快速开发<b class='flag-5'>自己</b>的MCP Server?