0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

性能与安全同样重要,苹果的AI服务器

E4Life 来源:电子发烧友 作者:周凯扬 2024-06-25 00:10 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在不久前结束的WWDC2024上,苹果宣布了自己的AI方案Apple Intelligence,并计划将其深度集成到iOS 18、iPadOS 18和macOS Sequoia。Apple Intelligence通过生成式模型来改善用户的使用体验。事实上,苹果一共有两个自主开发的AI模型,一个用于设备端AI的30亿参数模型,以及一个更大的LLM,其服务器资源满足更多的查询。

苹果AI服务器的软硬件组成

苹果将其AI服务器称为私有云计算节点(PCC),这是苹果基于定制化服务器硬件打造的基础设施,也是苹果芯片在数据中心的首度应用。不过PCC并没有搭载苹果的任一消费级系统,而是基于iOS和macOS打造了一个强化子集系统,专为支持LLM推理量身定制。

正因其硬件架构的统一性,苹果在设备端AI和AI服务器做到了高度一致。不过PCC用于推理,并不代表苹果为其选择了一样的训练设备。根据苹果的说法,他们在预训练阶段,依然采用的是云端的TPU和GPU资源。由此也可以看出,在大模型的训练资源上,苹果选择了与谷歌合作。

这也完全可以理解,谷歌作为TensorFlow开发者,不少基于TensorFlow开发的ML模型,都能在谷歌的TPU上获得极高的训练效率。不过对于苹果而言,他们的软件栈并不会锁死在一个云服务供应商上,而是可以扩展并运行在其他平台上。

AI服务器的安全性

相比起AI服务器的性能,用户可能更在意的是隐私安全问题。毕竟在数据中心的强大AI硬件和大模型,如果没有对用户请求的未加密访问和相关的个人数据,也就很难给到精准的答案。对于终端设备厂商,同时也是这些AI服务器的拥有者而言,如何做好端到端加密,也就成为最大的挑战。

苹果也指出了AI服务器面临的几大挑战:1、云端AI安全和隐私保障难以得到验证和执行;2、很难在云端为AI提供运行时透明;3、云端AI环境很难对特权访问做出强有力的限制。为了解决这些挑战,苹果在AI服务器的设计上下了不少功夫,首先就是无状态计算。用户的设备将数据发送到PCC唯一目的就是满足推理需求,PCC仅使用这些数据来执行用户请求的操作,且数据只停留在处理请求的PCC节点上,无论是苹果、管理员都无法获得用户数据。

在可验证的透明度上,苹果甚至做到了超过一些主流云服务商,他们将会公开PCC的生产版本软件镜像用于安全研究。苹果自己也会发布和维护一套官方软件工具,供研究人员分析PCC节点上的软件。除此之外,苹果的安全赏金计划也适用于PCC,重要的研究成果同样可以获得该计划的奖励。

当然了,硬件提供的安全性也不可忽视,由于PCC基于苹果芯片打造,所以也包含了iPhone中的安全隔区和安全启动两大安全子系统。这为其提供了非定位的安全性,攻击者无法针对特定用户的数据来发动攻击,只能靠大规模攻击来实现,这样被发现的概率也会一并变高。

写在最后

苹果在大规模AI模型上的软件开发倒是很早就开始了,不过在硬件上,苹果还是落后于头部的云服务厂商。不过苹果只是基于自研芯片打造属于自己的AI服务器,相较直接采用第三方方案,对于终端的用户而言,或许这才是保证性能和安全性的最佳路径。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 苹果
    +关注

    关注

    61

    文章

    24586

    浏览量

    207465
  • AI服务器
    +关注

    关注

    3

    文章

    159

    浏览量

    5485
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    对话|AI服务器电源对磁性元件提出的新需求

    编者按: 自ChatGPT、DeepSeek等大型AI模型应用爆发以来,市场对AI服务器的需求激增,其配套电源的发展前景已成为行业共识。目前,I服务器电源企业的出货规模仍有限,
    的头像 发表于 10-11 14:55 495次阅读
    对话|<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>电源对磁性元件提出的新需求

    提升AI数据服务器交换机性能与效率的关键:永铭电容的应用

    YMIN永铭电容应用AI数据中心服务器·交换机随着AI技术的快速发展,数据中心和服务器性能需求不断增加。作为
    的头像 发表于 09-01 10:04 248次阅读
    提升<b class='flag-5'>AI</b>数据<b class='flag-5'>服务器</b>交换机<b class='flag-5'>性能与</b>效率的关键:永铭电容的应用

    AI服务器电源技术研讨会部分演讲嘉宾确认

    AI服务器电源是2025-2026年AI硬件确定的增量,英伟达超级芯片GB200功率到2700W,是传统服务器电源的5-7倍,但其面临的挑战同样
    的头像 发表于 06-24 10:07 793次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>服务器</b>电源技术研讨会部分演讲嘉宾确认

    AI 服务器电源如何迭代升级?

    AI 算力需求增长的今天,AI 服务器电源正陷入 “性能瓶颈与国产替代并行、场景适配与技术创新交织” 的双重挑战。 由Big-Bit商务网、广东省磁性元器件行业协会主办的2025中国
    的头像 发表于 06-23 14:51 870次阅读

    本地服务器部署怎么选?一招搞定企业IT成本、性能与安全问题!

    ,往往纠结万分。其实,企业本地服务器部署方案依然有其独特优势,只要选得对,照样能在IT成本、性能安全三方面实现全兼顾!
    的头像 发表于 05-26 13:07 503次阅读
    本地<b class='flag-5'>服务器</b>部署怎么选?一招搞定企业IT成本、<b class='flag-5'>性能与</b><b class='flag-5'>安全</b>问题!

    苹果正研发用于AI服务器的专用芯片

    据外媒报道,苹果公司正研发用于AI服务器的专用芯片;据苹果公司知情人士透露;苹果芯片设计团队正在加速研发新芯片,面向的主要领域包括智能眼镜芯
    的头像 发表于 05-09 11:25 917次阅读

    RAKsmart服务器如何赋能AI开发与部署

    AI开发与部署的复杂性不仅体现在算法设计层面,更依赖于底层基础设施的支撑能力。RAKsmart服务器凭借其高性能硬件架构、灵活的资源调度能力以及面向AI场景的深度优化,正在成为企业突破
    的头像 发表于 04-30 09:22 599次阅读

    AI 推理服务器都有什么?2025年服务器品牌排行TOP10与选购技巧

    根据行业数据,AI推理服务器性能差异可以达到10倍以上。比如,用普通服务器跑一个700亿参数的大模型,可能需要30秒才能出结果,而用顶级服务器
    的头像 发表于 04-09 11:06 7378次阅读
    <b class='flag-5'>AI</b> 推理<b class='flag-5'>服务器</b>都有什么?2025年<b class='flag-5'>服务器</b>品牌排行TOP10与选购技巧

    利用RAKsmart服务器托管AI模型训练的优势

    AI模型训练需要强大的计算资源、高效的存储和稳定的网络支持,这对服务器性能提出了较高要求。而RAKsmart服务器凭借其核心优势,成为托管AI
    的头像 发表于 03-18 10:08 525次阅读

    大功率AI服务器PSU的革新之路

    在人工智能浪潮的席卷下,AI服务器作为支撑各类复杂AI运算的关键硬件,其电源(PSU)的性能表现成为了决定整个系统效能的重要因素。作为大功率
    的头像 发表于 03-10 15:07 1795次阅读
    大功率<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>PSU的革新之路

    AI服务器产品静电浪涌防护方案 | 全接口防护,筑牢AI服务器安全防线

    随着人工智能(AI)技术的快速发展,AI服务器作为支撑AI计算的核心设备,其稳定性和可靠性至关重要。然而,静电放电(ESD)和浪涌问题一直是
    的头像 发表于 02-14 18:55 896次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>服务器</b>产品静电浪涌防护方案 | 全接口防护,筑牢<b class='flag-5'>AI</b><b class='flag-5'>服务器</b><b class='flag-5'>安全</b>防线

    Jtti:新加坡服务器性能如何评估

    Jtti 新加坡服务器性能表现如下: 硬件配置 :Jtti新加坡服务器使用Intel Xeon E5-2660处理,这是高性能
    的头像 发表于 12-19 15:15 755次阅读

    NTP服务器性能优化方法

    NTP(Network Time Protocol,网络时间协议)服务器性能的优化对于确保时间同步的准确性和可靠性至关重要。以下是一些NTP服务器
    的头像 发表于 12-18 15:24 1649次阅读

    NTP服务器故障排除技巧 NTP服务器与网络安全

    网络时间协议(NTP)服务器对于确保网络中的设备时间同步至关重要。无论是在企业网络还是数据中心,时间同步都是网络安全和数据一致性的基础。然而,NTP服务器可能会遇到各种问题,从配置错误
    的头像 发表于 12-18 15:13 3594次阅读

    苹果与博通联手开发AI服务器芯片

    近日,据最新消息,苹果正在与其长期合作伙伴博通携手,共同研发一款名为“Baltra”的服务器芯片。这款芯片专为人工智能设计,预示着苹果AI领域迈出了
    的头像 发表于 12-12 10:19 1026次阅读