0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

大模型太贵?找找自己的原因好吧?

脑极体 来源:脑极体 作者:脑极体 2023-10-07 09:25 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

什么?

炼个大模型还嫌贵?

到底哪里贵了!?

大模型算力贵?哪里贵了!?

争先恐后训练大模型,

搞得现在“算力慌”“一卡难求”,

算力当然水涨船高了!

“特供版”GPU又贵又缩水,

大家自己愿意当“冤大头”囤卡,

还好意思埋怨贵了?

这么多年有没有认真工作?

为什么这么多算力还依赖进口!

自己为什么不能制造芯片?

有没有在自主化上想想办法?

解决算力难题,

厂商们可以选择AI云服务。

在社会层面进行算力集约,

让算力普惠。

同时支持国产AI算力,

让国内市场活跃起来。

大模型基础设施贵?哪里贵了!?

数据需要存,接入AI模型需要网,

部署AI模型需要终端。

哪个不需要投入了!

任何一个地方出现短板,

就会出现木桶效应!

加一加算一算,当然不便宜了!

有时候找找自己的原因!

综合成本那么高,

是不是盲目追求高配置了?

IT设施能不能跟上大模型发展?

是不是IT采购做得东一榔头,西一棒槌?

有没有做过全盘的数字化设计?

想要把基础设施的综合成本打下来,

就需要选择和大模型

适配的存储、网络产品。

统筹规划自己的ICT基础设施,

让大模型获得良好的数字化土壤。

大模型数据贵?哪里贵了!?

专用数据从采集、清洗到标注、验证,

每一个环节都需要成本。

有的企业整理3TB数据成本就高达数十万。

通用数据便宜!

不担心大模型差异化问题你去买啊!

平时有没有重视自有数据?

全员通宵埋头标注数据的时候,

高价买数据的时候,

就没想想怎么能剩下一笔数据成本?

想降低数据成本,

首先就要重视自身的数据资产,

加强数据资产的收集保存,

同时强化流通,

数据流通起来才有价值!

大模型运维贵?哪里贵了!?

大模型数据规模大、迭代版本多、算力节点多。

多就代表复杂,复杂就代表故障率高。

一出故障要推倒重训,

一次训练恢复就要一星期以上,

项目进度停滞,人工和算力开销照旧,

整体成本咔咔上涨!

运维成本上涨,

有时候找找自己的原因!

为什么一边抱怨人工贵,

一边还要让员工加班?

为什么不找找运维“平替”?

想要找人工运维的“平替”,

当然就是AI运维了 !

用AI来运维AI,

提升运维智能化水平,

实现故障精准定位,快速恢复。

让运维能力秒变省钱超能力!

大模型人才贵?哪里贵了!?

也就是应届生比其他T人才溢价个50%左右,

算法工程师年薪50万起步,

多一点的100万也够了!

有时候挖一个专家,

还要把他学生、助手、

亲戚七大姑八大姨都给挖过来,

1000万起步差不多吧。

有些时候找找自身原因!

这么多年有没有认真工作?

自己能不能变成AI人才?

有没有让员工都去研究学大模型?

有没有送自己小孩去学AI?

破解AI人才难题,

需要产学研协同努力,

加大人才培养力度,

丰富相关岗位分工,

推进AI资质考核标准化

校园培养、在职培养、

社会培养共同发展。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    90

    文章

    38192

    浏览量

    297038
  • 大模型
    +关注

    关注

    2

    文章

    3455

    浏览量

    4974
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    详解SPICE器件模型的分类

    今天我们来聊聊工程师在仿真时比较关注的问题。众多的器件模型,我在仿真的时候到底应该怎么选择一个器件的模型?我使用的这个器件模型的精确度够吗?我自己能否做一个器件
    的头像 发表于 08-28 13:42 983次阅读
    详解SPICE器件<b class='flag-5'>模型</b>的分类

    如何进行YOLO模型转换?

    (kmodel_data)代码运行无异常,导出模型大小只有12MB,但在设备中运行模型时间非常长(具体超过5分钟一次),而后将预处理关闭,则设备中跑模型会报错 请问,以上问题是哪里的原因
    发表于 08-14 06:03

    ai_cube训练模型最后部署失败是什么原因

    ai_cube训练模型最后部署失败是什么原因?文件保存路径里也没有中文 查看AICube/AI_Cube.log,看看报什么错?
    发表于 07-30 08:15

    FA模型卡片和Stage模型卡片切换

    卡片切换 卡片切换主要包含如下三部分: 卡片页面布局:FA模型卡片和Stage模型卡片的布局都采用类web范式开发可以直接复用。 卡片配置文件:FA模型的卡片配置在config.json中
    发表于 06-06 08:10

    FA模型访问Stage模型DataShareExtensionAbility说明

    FA模型访问Stage模型DataShareExtensionAbility 概述 无论FA模型还是Stage模型,数据读写功能都包含客户端和服务端两部分。 FA
    发表于 06-04 07:53

    如何用FastMCP快速开发自己的MCP Server?

    的感受到了基于AI大模型和 MCP可以非常方便的构建自己的AI智能体工作流。在此基础上,不少读者咨询,如何将自己已有的工具或函数,制作成MCP Server给AI大模型调用呢?本文从零
    的头像 发表于 05-07 16:07 2474次阅读
    如何用FastMCP快速开发<b class='flag-5'>自己</b>的MCP Server?

    KaihongOS操作系统FA模型与Stage模型介绍

    (Feature Ability) FA模型是KaihongOS 从API 7开始支持的模型,已经不再被主推。在FA模型中,每个应用组件独享一个ArkTS引擎实例,这意味着每个应用组件都是独立的,拥有
    发表于 04-24 07:27

    小身板大能量:树莓派玩转 Phi-2、Mistral 和 LLaVA 等AI大模型~

    你是否想过在自己的设备上运行自己的大型语言模型(LLMs)或视觉语言模型(VLMs)?你可能有过这样的想法,但是一想到要从头开始设置、管理环境、下载正确的
    的头像 发表于 03-25 09:32 728次阅读
    小身板大能量:树莓派玩转 Phi-2、Mistral 和 LLaVA 等AI大<b class='flag-5'>模型</b>~

    K230D部署模型失败的原因

    MicroPython部署的无法正常运行,采用C++版本的无法实现部署 尝试解决过程 1.考虑到可能是固件不匹配的问题,重新烧录了流程(生成模型后给的readme)中要求的固件,依旧无法成功部署 2.
    发表于 03-11 06:19

    模型无法获得mAP值等于1.00的原因是什么?

    量化了大小为 416 x 416 的 YOLOv4 模型,并获得了正确的 mAP 值。 使用以下命令量化大小为 320 x 544 的 YOLOv4 模型:pot -c
    发表于 03-07 07:21

    Optimum Intel / NNCF在重量压缩中选择FP16模型原因

    无法确定使用 Optimum Intel / NNCF 在重量压缩中选择 FP16 模型原因
    发表于 03-06 06:04

    multisim的电机模型是否支持星角接?

    在multisim电路仿真软件中,其中的电机模型是否支持自己完成星接角接,就是针对那些有6个接线柱的电机,是否按照自己的设想完成星角接,主要用来看线电流和相电流?
    发表于 02-26 19:56

    【「大模型启示录」阅读体验】对大模型更深入的认知

    。兴奋的是,大模型技术的发展为我们带来了无限可能;不安的是,我意识到自己对这一领域的了解还远远不够。我开始思考,作为一名学生,我如何能够更好地利用这些技术,以及在未来的职业生涯中,我如何能够参与到这一变革中去。 学习之路仍然很漫长啊……
    发表于 12-20 15:46

    【「大模型启示录」阅读体验】如何在客服领域应用大模型

    多个因素以确保所选模型能够满足企业的具体需求和目标。首先,企业需要明确自己的客服需求和目标。例如,是否需要24小时在线客服服务?是否需要处理复杂问题的能力?是否需要个性化服务?明确这些需求有助于企业更好
    发表于 12-17 16:53

    Sora之后,视频生成模型的中国牌局

    模型的牌局,国内企业正在找到自己的节奏感
    的头像 发表于 12-12 09:23 3185次阅读
    Sora之后,视频生成<b class='flag-5'>模型</b>的中国牌局