创作

完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>

3天内不再提示

NVIDIA Merlin助力网络巨头获得点击量

NVIDIA-Enterprise 来源:NVIDIA英伟达企业解决方案 作者:NVIDIA英伟达企业解 2022-01-21 09:27 次阅读

基于深度学习的系统可以为数十亿在线消费者提高推荐内容的相关性。

在过去十年中,全球电子商务的价值已飙升到数万亿美元,为数十亿消费者提供服务。促进在线销售实现这种爆炸式增长的动力,是由推荐系统引擎驱动的个性化。

推荐系统能够使购物更加个性化。在电子商务网站上搜索产品时,他们会捕捉搜索,或者单纯显示建议。互联网上之所以能提供这种令人愉悦的体验,依托的是规模日益庞大的数据集和模型。

NVIDIA Merlin 是推荐系统的助推器。它能够提高训练和推理速度,使各种类型的企业均能够更好地利用数据来构建由 NVIDIA GPU 加速的推荐系统。

在线交易的风险比以往更高。根据 eMarketer 发布的数据,2021 年全球在线销售额预计达到近 5 万亿美元,比上一年增加近 17%。

在一些全球大型在线网站上,即使推荐内容的相关性仅提高 1%,其销量也会增加数十亿。

投资于推荐系统已成为当今互联网巨头的主要竞争优势之一。

根据 Mordor Intelligence 发布的数据,在 2026 年,推荐系统整体市场将从2020 年仅为 21.2 亿美元提升至 151.3 亿美元。而这家研究公司同时也表示,在推荐系统引擎的细分市场中,规模更庞大、发展更迅速的市场就在亚太地区。

但是,本行业所面临的挑战是,提高相关性需要更多的数据和更高的处理能力。这些数据包含数十亿产品和消费者档案上数以万亿计的用户及产品交互(点击、浏览)。

这种规模的数据可能需要数天时间来完成模型训练。然而,越快推出基于更多数据的新模型,其相关性也就会越高。

Merlin 的模型、方法和库集合包括用于构建基于深度学习的系统的工具,能够处理 TB 级的数据,以便提供更精准的预测并增加点击量。

SNAP 利用 Merlin 和 GPU 提升推理

根据 eMarketer 发布的数据,2021 年美国数字广告收入预计达到 1911 亿美元,比上一年增长 25.5%。

Snap 是社交媒体应用 Snapchat 的母公司,位于加利福尼亚州圣塔莫尼卡,日活跃用户量已超过 3 亿。该公司通过社交照片和视频信息服务来创造广告收入。

Snap 首席执行官 Evan Spiegel 在其第三季度利润表中表示:“我们将继续专注于为广告合作伙伴提供强劲的业绩结果,通过创新来扩展平台功能并更好地为社区服务。”

Snap 的技术障碍在于,力图继续开发其工作负载的高成本排名模型,并在降低成本的同时扩展到更复杂的模型。

该公司使用 NVIDIA GPU 和 Merlin 来提升其内容排名能力。

Snap 工程副总裁 Nima Khajehnouri 说:“Snap 使用 NVIDIA GPU 和 Merlin 软件机器学习推理成本效益提高了 50%,且降低 2 倍的服务延迟,其能够为试验和部署更繁重、更准确的广告和内容排名模型,提供更大的计算空间。”

腾讯借助 Merlin HugeCTR 来推动模型训练

娱乐行业巨头腾讯是中国一家具有高额市值的大型公司,运营着广受欢迎的信息服务——微信,以及支付平台——微信支付。

其工程师需要快速对广告推荐系统的模型进行快速迭代,这会增加对训练性能的需求。

腾讯专家工程师孔祥挺说:“广告业务是腾讯内部比较重要的业务之一,而推荐系统则用来提高整体的广告收入。”

问题在于,广告推荐的准确性只有通过训练更多的样本数据(包括更多的样本特征)来提高,但这会延长训练时间,从而影响模型更新频率。

他还说道:“作为一个推荐系统的训练框架,HugeCTR 已集成到广告推荐训练系统中,使得模型训练的更新频率更快,并通过训练更多的样本来提升线上广告效果。”

他补充道,模型的训练性能得到提升后,我们就可以训练更多的数据,提高模型的准确率,从而增加广告收入。

美团借助 NVIDIA A100 GPU 降低成本

美团的业务涵盖 200 个服务类别,在食品、娱乐和按需服务各领域高度交织着。而这家中国互联网巨头拥有超过 6.67 亿活跃用户和 830 万活跃商家。

美团高级技术专家黄军表示,如果他的团队要大幅提升性能,通常会更倾向于训练更多的样本和更复杂的模型。

黄军也表示,美团的问题在于,随着模型变得越来越复杂,对训练框架进行深入优化就会变得困难。

他说道:“我们正致力于将 NVIDIA HugeCTR 集成到基于 A100 GPU 的训练系统中。成本也会大大降低。这还仅仅只是初步的优化结果,未来还有很大的优化空间。”

美团最近报告说,在 2021 年第二季度的过去 12 个月中,每位交易用户的平均交易量增加到 32.8 笔,而在 2020 年第二季度的过去 12 个月中为 25.7 笔。

原文标题:为数十亿消费者提供服务:NVIDIA Merlin 助力网络巨头获得点击量

文章出处:【微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

审核编辑:汤梓红

原文标题:为数十亿消费者提供服务:NVIDIA Merlin 助力网络巨头获得点击量

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    唐山市委书记一行调研九天微星唐山卫星工厂等项目

    5月23日,唐山市委书记武卫东就抓好疫情防控、推动科技创新、加快平台建设等赴路南区调研,考察了九天微....
    的头像 科技绿洲 发表于 05-25 11:33 140次 阅读

    深度学习模型转成TensorRT引擎的流程

    前面我们花了很多力气在 TAO 上面训练模型,其最终目的就是要部署到推理设备上发挥功能。除了将模型训....
    的头像 NVIDIA英伟达企业解决方案 发表于 05-25 11:24 127次 阅读

    NVIDIA发布采用直接芯片冷却技术的数据中心PCIe GPU

    为了遏制气候变化,全球企业正在加快构建高性能、高能效的数据中心,Equinix 边缘基础设施主管 Z....
    的头像 NVIDIA英伟达企业解决方案 发表于 05-25 11:20 175次 阅读

    NVIDIA助力阿里云构建视觉计算解决方案

    随着线上协作、“虚拟经济”等领域的潜力日渐被发掘,扩展现实(XR)、数字孪生、虚拟现实(VR)等技术....
    的头像 NVIDIA英伟达企业解决方案 发表于 05-25 11:13 135次 阅读

    芯片和软件将数据中心转变为AI工厂

    数字孪生彻底改变了最复杂产品的生产方式。芯片和软件将数据中心转变为AI工厂。游戏业的发展将世界上最流....
    的头像 NVIDIA英伟达 发表于 05-25 11:10 147次 阅读

    基于Jetson AGX Orin的边缘AI和嵌入式计算系统

    硬件设计师在这场技术盛会上展示基于 Jetson AGX Orin 的边缘 AI 和嵌入式计算系统。
    的头像 NVIDIA英伟达 发表于 05-25 11:05 149次 阅读

    NVIDIA Grace CPU超级芯片大幅加速现代化工作负载

    华硕、富士康工业互联网、技嘉科技、云达科技、超微、纬颖等公司将提供用于数字孪生、 AI、高性能计算、....
    的头像 NVIDIA英伟达 发表于 05-25 11:02 96次 阅读

    数据中心如何转型成为AI工厂

    数字孪生彻底改变了最复杂产品的生产方式。芯片和软件将数据中心转变为AI工厂。游戏业的发展将世界上最流....
    的头像 科技绿洲 发表于 05-25 10:39 165次 阅读

    新华三实现对NVIDIA液冷GPU及安培系列GPU全系适配

    5月24日,在全球科技盛会“Computex 2022”期间,NVIDIA正式推出A100 80GB....
    的头像 科技绿洲 发表于 05-25 10:34 172次 阅读

    WezTerm跨平台终端模拟器和多路复用器

    ./oschina_soft/wezterm.zip
    发表于 05-25 09:12 7次 阅读
    WezTerm跨平台终端模拟器和多路复用器

    星环科技Slipstream9.0性能、功能实现全面增强

    Slipstream是星环科技自主研发的一款企业级、高性能实时流计算引擎,通过提供丰富的组件与产品功....
    的头像 科技绿洲 发表于 05-24 17:14 194次 阅读

    中企通信数字丝绸之路助推企业实现国内外“双循环

    对于企业来说,加强网络建设,能够广泛链接海量的产品、服务、用户、人才等,实现全球生产要素的高效配置与....
    的头像 科技绿洲 发表于 05-24 15:55 142次 阅读

    NVIDIA 推出液冷 GPU,助力实现可持续、高效计算

    液冷 NVIDIA A100 PCIe GPU 能够满足客户对高性能绿色数据中心的需求,在主流服务器....
    的头像 21克888 发表于 05-24 14:07 515次 阅读
    NVIDIA 推出液冷 GPU,助力实现可持续、高效计算

    全球三十多家NVIDIA技术合作伙伴于Computex发布首批Jetson AGX Orin生产系统

    本周,全球30多家领先的技术合作伙伴在Computex上发布了首批基于NVIDIA Jetson A....
    的头像 Blue5 发表于 05-24 12:01 459次 阅读
    全球三十多家NVIDIA技术合作伙伴于Computex发布首批Jetson AGX Orin生产系统

    NVIDIA Grace CPU迎来首批玩家,多家厂商将推出基于它的全新数据中心系统

    NVIDIA在Computex前夕宣布,多家计算机制造厂商将发布首批基于NVIDIA Grace C....
    的头像 荷叶塘 发表于 05-24 11:54 633次 阅读
    NVIDIA Grace CPU迎来首批玩家,多家厂商将推出基于它的全新数据中心系统

    GPU加速高性能计算经典应用

    高性能计算(HPC)在重大科学发现的前沿基础科学研究领域已逐渐成为不可或缺的重要手段之一。从分子动力....
    的头像 NVIDIA英伟达企业解决方案 发表于 05-24 09:13 316次 阅读

    互联网现裁员潮,软件公司选择去造硬科技

    电子发烧友网报道(文/黄山明)近日,各家互联网大厂裁员的消息满天飞,大厂人失业的消息也屡屡冲上热搜。....
    的头像 Simon观察 发表于 05-24 00:12 955次 阅读
    互联网现裁员潮,软件公司选择去造硬科技

    华为p50e跑分多少

    华为P50E同样延续了P50系列业界首创突破光学镜头桎梏的“计算光学”,以及模拟人眼感知色彩,所见即....
    的头像 独爱72H 发表于 05-23 15:13 161次 阅读

    高防服务器一般都适用于哪些行业

    互联网发展的趋势是越来越好了,不少公司都是抓住了机会通过互联网来获利。不少暴利行业会因为利益关系,会....
    发表于 05-23 09:48 15次 阅读

    自然语言处理之情感分析

    情感分析是指根据文本数据(例如书面评论和社交媒体帖子)自动解释和分类情感(通常是积极、消极或中立)的....
    的头像 NVIDIA英伟达 发表于 05-21 10:27 353次 阅读

    NVIDIA自动驾驶网络会议将6月9日举办

    NVIDIA DRIVE Orin 现已投产,可在深度神经网络推理性能方面实现重大飞跃。6 月 9 ....
    的头像 NVIDIA英伟达企业解决方案 发表于 05-21 10:24 442次 阅读

    计算机视觉系统让车流变得更通畅

    NVIDIA Metropolis 合作伙伴 Tapway 所提供的计算机视觉系统让马来西亚最大的高....
    的头像 NVIDIA英伟达企业解决方案 发表于 05-21 10:09 540次 阅读

    整体功耗降低15%!GPU10%提升!高通发布新一代骁龙8+芯片 小米新一代5G旗舰机搭载

    骁龙8+的CPU超级内核的主频提升至3.2GHz,带来10%性能提升;在前代平台广受认可的强悍表现之....
    的头像 zhangyingwlw 发表于 05-21 09:40 2021次 阅读
    整体功耗降低15%!GPU10%提升!高通发布新一代骁龙8+芯片 小米新一代5G旗舰机搭载

    物件检测模型训练的详细过程

    当前面已经训练好修剪过的模型之后,接下来就可以在训练设备上先执行推理计算,看看检测的效果如何?如果实....
    的头像 NVIDIA英伟达企业解决方案 发表于 05-20 17:43 69次 阅读

    NVIDIA RTX A4500性能测评总结

    近日,来自 DEVELOP3D 的 Greg Corke 对 NVIDIA RTX A4500 进行....
    的头像 NVIDIA英伟达企业解决方案 发表于 05-20 17:39 89次 阅读

    DASK适用于Python中的并行和分布式计算

    Dask 是一个灵活的开源库,适用于 Python 中的并行和分布式计算。
    的头像 NVIDIA英伟达 发表于 05-20 17:35 62次 阅读

    NVIDIA如何助力非洲开展人工智能革命

    NVIDIA 的 Kate Kallot 在非洲人工智能博览会上发表的主题演讲重点介绍了新兴地区如何....
    的头像 NVIDIA英伟达企业解决方案 发表于 05-20 15:36 241次 阅读

    NVIDIA T4 GPU加速VIVO推荐系统部署

    展望未来,VIVO推荐系统工程团队会继续探索新技术,持续积累 GPU工程经验,并且沉淀到平台中,最终....
    的头像 星星科技指导员 发表于 05-20 15:27 440次 阅读
    NVIDIA T4 GPU加速VIVO推荐系统部署

    NVIDIA Triton助力腾讯PCG加速在线推理

      借助NVIDIA Triton 推理框架,配合 DALI/FIL/Python 等Backend....
    的头像 星星科技指导员 发表于 05-20 15:25 270次 阅读
    NVIDIA Triton助力腾讯PCG加速在线推理

    腾讯广告视频抽帧的全流程GPU加速

      目前该方案已在腾讯广告多媒体 AI 的视频人脸服务落地,解决了其最主要的抽帧性能瓶颈,满足广告流....
    的头像 星星科技指导员 发表于 05-20 15:19 304次 阅读
    腾讯广告视频抽帧的全流程GPU加速

    一文详细了解NVIDIA CloudXR 3.2的新功能

    自 NVIDIA CloudXR 发布以来,NVIDIA 收到了积极的反馈,并广泛采用了 SDK 。....
    的头像 NVIDIA英伟达企业解决方案 发表于 05-20 15:16 181次 阅读

    NVIDIA GPU助力单颗粒冷冻电镜研究

    清华大学杨茂君实验室是国内领先的结构生物学实验室,杨茂君教授目前为清华大学 Tenue-Track ....
    的头像 NVIDIA英伟达企业解决方案 发表于 05-20 15:13 163次 阅读

    NVIDIA A100加速医学图像处理深度学习研究

      通过NVIDIA A100 GPU的MIG技术,在小团队的工作环境中有较高的自由度,在计算资源较....
    的头像 星星科技指导员 发表于 05-20 15:13 167次 阅读

    NVIDIA TensorRT加速打造实时数字化运动场景

      我们的硬件方案也从 4 台 HPC 缩减到 1 台 HPC 搭载 2 张 A100 GPU,不仅....
    的头像 星星科技指导员 发表于 05-20 15:11 117次 阅读
    NVIDIA TensorRT加速打造实时数字化运动场景

    新华三应用驱动网络AD-NET助力百行百业实现数字化转型

    作为国内SDN解决方案领导者,新华三集团的应用驱动网络AD-NET(Application Driv....
    的头像 科技绿洲 发表于 05-20 15:09 262次 阅读

    NVIDIA DGX A100助力百图生科构建生物计算引擎

      基于以上挑战,百图生科采用了 NVIDIA DGX A100 80GB,将深度学习训练、推理和分....
    的头像 星星科技指导员 发表于 05-20 15:07 190次 阅读

    基于NVIDIA GPU加速平台实现5G端到端解决方案

      与各垂直行业特性相结合, 爱瑞无线和 NVIDIA 共同打造的 5G+AI 超融合解决方案将为智....
    的头像 星星科技指导员 发表于 05-20 15:04 248次 阅读

    NVIDIA助力百度智能云落地新一代高性能AI计算集群

      经过百度内部 NLP 研究团队的验证,在这个网络环境下的超大规模集群上提交千亿模型训练作业时,同....
    的头像 星星科技指导员 发表于 05-20 15:00 286次 阅读

    NVIDIA TensorRT的命令行程序

      如果您向--timingCacheFile选项提供时序缓存文件,则构建器可以从中加载现有的分析数....
    的头像 星星科技指导员 发表于 05-20 14:54 158次 阅读
    NVIDIA TensorRT的命令行程序

    请问在RK3399pro中间计算时能否调用GPU的一些现成数据库或函数来计算

    我在用RK3399pro的NPU做深度学习计算,使用了两个rknn模型进行推理,但是在这两个rknn模型之间需要进行一些中间计算(从第一...
    发表于 05-09 15:26 3397次 阅读

    tf代码为什么在rk3399上训练比没有gpu的电脑慢很多

    把tf代码从电脑上放到rk3399上运行训练,比电脑慢的很多很多,板子不是带有npu吗?是不是代码需要改动什么啊? ...
    发表于 04-22 16:23 8423次 阅读

    简单介绍下Arm Mali的GPU系列

    对于手机终端来说,GPU图像处理能力是衡量一台手机的性能标杆。首先,是UI流畅性,大家拿到手机都得先划来划去看下UI是否...
    发表于 04-12 11:01 3980次 阅读

    充分利用Arm NN进行GPU推理

    Arm拥有跨所有处理器的计算IP。而且,无论您要在GPU,CPU还是NPU上进行ML推理,都可以在一个通用框架下使用它们:...
    发表于 04-11 17:33 3973次 阅读

    介绍android下的OpenCL开发步骤

    1、介绍android下OpenCL开发 Firefly rk3288采用Mali-T764的GPU,该GPU支持OpeCL 1.1。下面一步一步介绍android...
    发表于 04-11 14:35 2187次 阅读

    AIO-3288C常用命令资料合集

    1、CPU,DDR,GPU频率测量 当我们拿到 AIO-3288C 的机器时候,想看一下机器当前 CPU,DDR,GPU 跑的是什...
    发表于 04-07 18:00 3544次 阅读

    英伟达DPU的过“芯”之处

    最近几年,经常关注科技圈的朋友们总会发现,每次遇到厂商有重大发布,就总能看到“颠覆”、“极致”、“革命性”等概念出现在发...
    发表于 03-29 14:42 2604次 阅读

    Intel即将推出的GPU将与Arm兼容

    英特尔正在使其GPU多样化,以与x86以外架构的处理器兼容,这可能是使其从芯片制造商成为以代工为首要业务的公司的一步。 英特...
    发表于 03-29 14:41 2465次 阅读

    Arm Neoverse NVIDIA Grace CPU 超级芯片:为人工智能的未来设定步伐

    人工智能 (AI) 将改变世界。但要实现其潜力,我们将不得不改变设计计算系统的方式。 诸如在云中训练神经网络或在边缘实时执...
    发表于 03-29 14:40 2644次 阅读

    ​GPU,RISC-V的长痛

    [quote]无论是人工智能、高性能计算,还是汽车或TWS,我们已经在各种产品形态中看到了RISC-V的身影。然而,有一种产品却...
    发表于 03-24 15:53 1233次 阅读
    ​GPU,RISC-V的长痛