0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

一知算法顶层算法全面升级,核心技术革新迭代

话说科技 来源:网友话说科技发布 作者:网友话说科技发布 2021-11-23 11:14 次阅读

纵观人工智能腾飞的这十年,从最初的计算智能,逐渐发展成为以计算机视觉、智能语音为代表的感知智能阶段,随着科技不断地在产业场景中应用落地,不断有人叩问:新一代AI技术是否能通过“图灵测试”,达到“能理解、会思考、有感情”的认知智能阶段?

人机交互作为人工智能的重要研究领域,自然语言处理、意图理解、情绪识别、对话交互和知识推理等一直是其技术迭代升级的主要组成部分。而其中基于基于深度学习的自然语言处理(NLP)研究,在2020年迎来了最繁忙的年份,OpenAI的GPT-3(175B参数)的参数量比Microsoft Research的Turing-NLG(17B参数)高出约10倍。

得益于计算能力的提升、算法框架的优化和大数据的升级等,NLP研究实现了广泛商业化。而一知智能作为一家专注于人机交互领域的杭州市领军型人工智能公司,在首席科学家赵洲的科研成果支持下,以数字化谋效率,向数字化要生产力,致力于为全社会提供高效率的数字员工,在2021年,也迎来了NLP研究全速发力的一年。

pYYBAGGcXJCAbOb9AAEBxo00nUQ259.png

大型领域预训练模型

从底层数据来看,提升NLP产品及服务的使用体验,需要贴近真实使用场景的语料库作为更加有效的训练素材。

今年,以首席科学家赵洲老师为核心、算法总监姜兴华为主导的一知智能算法团队训练了消费对话领域十亿级参数的预训练语言模型Yiwise-DNLP。基于Yiwise-DNLP模型,全面升级了意图识别算法、实体抽取算法、对话生成算法。

Yiwise-DNLP采用transformer的模型结构,同时对对话理解和对话生成进行联合建模。使用双向注意力机制,模型对上下文充分理解,并采用解码器使用单向注意力机制,帮助生成对话内容。

Yiwise-DNLP在千亿级token语料上训练,模型参数量高达十亿。模型训练过程使用了多种模型优化算法,包括 shareded data parallelism、activation checkpointing、model parallel、pipeline parallel等多种策略。

poYBAGGcXJKAPdDDAAKJ7iR_3hA615.png

自学习的对话管理系统

对话管理模块控制着人机对话的整个流程,对话管理根据对话历史信息,决定此刻对用户的反应。

在首席科学家赵洲老师的指导下,一知智能算法团队开发了基于强化学习的自学习对话管理系统,能够对系统理解用户输入的不确定性进行建模,让算法来自己学习最好的行为序列。

一知智能构建了用户模拟器,让用户模拟器和对话管理模型进行交互,通过目标评估模型获得Action的Reward,从而获得大量对话管理交互数据。利用强化学习不断优化。该系统支持自学习、可交互学习、在线学习,从而使得对话管理能够快速更新,越来越智能。

pYYBAGGcXJOAbMv0AAE7Lw6PmNg065.png

多模态情绪识别模型

一知智能使用语音和文本的多模态神经网络模型,进行对话情绪识别。利用海量数据的聊天语料进行模型的预训练。抽取语音特征、文本特征、语音和文本混合特征等多种不同模态的特征,在海量对话语料上训练情绪识别模型,大幅提高了情绪识别准确率。不同模态信息相互补充,可以帮助机器更好地理解情感。

首席科学家赵洲认为,从人机交互角度出发,多模态情感分析可以使得机器在更加自然的情况下与人进行交互。机器可以基于图像中人的表情和手势,声音中的音调,和识别出的自然语言来理解用户情感,进而进行反馈。

poYBAGGcXJOAS2vHAAEuUadReBw008.png

算法总监姜兴华说道,AI探索的征程是星辰大海,一知智能作为孜孜不倦的摘星人,致力于在数据底层技术升级的影响下,提升语音识别技术准确率,为Al语音识别的商用渗透提供强大的市场驱动力,让科技的成果在更多应用场景落地,让企业与员工真正感知数字员工的价值。

编辑:fqj

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1773

    文章

    43356

    浏览量

    230126
  • 计算机视觉
    +关注

    关注

    8

    文章

    1575

    浏览量

    45555
收藏 人收藏

    评论

    相关推荐

    第二集 语云智能科技无人机反制技术与应用--无人机的发展历程

    。通过不断优化算法升级硬件设备,语云智能科技不断提升无人机反制技术的性能和稳定性,为用户提供更加安全、便捷的无人机使用环境。 未来,随着无人机
    发表于 03-12 10:56

    计算机视觉领域的十大核心技术算法

    图像分割算法是计算机视觉领域的基础算法之一,它的主要任务是将图像分割成不同的区域或对象。常见的图像分割算法包括基于阈值的分割、基于区域的分割、基于边缘的分割和基于图割的分割等。
    发表于 02-25 09:38 155次阅读

    语云全景监测技术:现代安全防护的全面解决方案

    随着信息技术的飞速发展,网络安全问题日益突出,企业和个人对安全防护的需求也越来越迫切。在这个背景下,语云全景监测技术应运而生,为现代安全防护提供了
    发表于 02-23 16:40

    国产深海1万米六维力传感器引领卡脖子技术革新

    国产深海万米六维力传感器引领卡脖子技术革新
    的头像 发表于 02-20 16:09 220次阅读

    震撼发布!语云智能科技引领革新,全景反制无人机系统破茧而出!

    随着无人机技术的飞速发展,其在军事、民用等领域的应用越来越广泛,与此同时,无人机的安全问题也日益凸显。为了应对这挑战,语云智能科技凭借其卓越的技术实力,推出了
    发表于 01-30 16:07

    拓维信息旗下开鸿智谷引领OpenHarmony技术革新,共建万物智联未来

    ”为主题,旨在向全球展示OpenHarmony操作系统的技术革新成果,探讨下一代技术方向,绘制智慧生态共建的宏伟蓝图。作为开放原子开源基金会黄金捐赠人、OpenHa
    的头像 发表于 11-05 08:14 239次阅读
    拓维信息旗下开鸿智谷引领OpenHarmony<b class='flag-5'>技术革新</b>,共建万物智联未来

    算法革新决定未来!深挖数字北极星3.0背后的技术逻辑

    流程资产等新功能背后的核心技术。 01 创新流程资产挖掘图算法 为中国企业自研业务流程资产标准 BPMN作为业务流程建模的国际标准,为业务流程设计与流程实现之间搭建了一条标准化桥梁,能有效打破业务与IT之间的沟通壁垒。但对于国内企业来说,B
    的头像 发表于 10-18 14:04 164次阅读

    OpenHarmony应用核心技术理念与需求机遇简析

    核心技术理念 图片来源:OpenHarmony官方网站 二、需求机遇简析 新的万物互联智能世界代表着新规则、新赛道、新切入点、新财富机会;各WEB网站、客户端( 苹果APP、安卓APK)、微信
    发表于 09-22 16:12

    RFID技术和防冲撞算法分析

    论文详细介绍了 RFID 技术, 并针对 RFID 技术中不可避免的碰撞问题进行分析。提出种动态调整二进制搜索树防冲撞算法, 可以有效解决 RFID 标签冲突问题。在时间复杂度和空间
    发表于 09-22 06:04

    Arm Cortex-A7 8C核心技术参考手册

    Arm Cortex-A78C核心技术参考手册
    发表于 08-02 13:44

    ARM9 E-S核心技术参考手册

    ARM9E-S核心技术参考手册
    发表于 08-02 12:00

    Arm Cortex-A65核心技术参考手册

    Arm Cortex-A65核心技术参考手册
    发表于 08-02 07:38

    点云标注的未来发展与技术革新

    点云标注作为自动驾驶技术中的重要一环,随着技术的不断发展和进步,其未来发展与技术革新将具有重要意义。 首先,点云标注技术的发展将更加注重智能化和自动化。未来的点云标注系统将采用更加先进
    的头像 发表于 07-18 15:13 299次阅读

    以柔克刚 算法“软”实力助跑MLED高画质

    卡莱特是一家以视频处理算法核心、硬件设备为载体,为客户提供视频图像领域综合解决方案的高科技公司,依托先进核心技术,追随技术和应用的发展,不断为相关行业赋能。
    发表于 07-07 14:07 268次阅读

    SPFA 算法:实现原理及其应用

    @[toc] 、前言 SPFA算法,全称为Shortest Path Faster Algorithm,是求解单源最短路径问题的种常用算法,它可以处理有向图或者无向图,边权可以是正
    发表于 04-29 12:43