0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

阿里新一代安全架构核心AI技术升级之后的鉴黄AI可理解文字语义?

lhl545545 来源:中国青年网 作者:中国青年网 2020-09-27 10:54 次阅读

近日,阿里安全宣布,面对“多人运动”“王者五排”等不断变异升级的黑话暗语,阿里AI鉴黄技术能力升级,可精准快速地进行识别拦截。这对人工智能技术的发展具有非常重要的意义,让AI引入知识后并不对原始语义产生曲解,正是训练智能AI模型需要重点解决的难题。

涉黄黑话变异升级难识别

在内容安全场景下,黑灰产通常会利用黑话来绕开检测引擎,比如会出现这种语句“小哥哥,要不要来我们这里多人运动啊?”“大号玻璃过滤彩珠大水瓶 玻璃水壶全套配件到手即用”。

“这对人工智能技术带来了非常大的挑战。”阿里安全高级算法专家开阳表示,目前谷歌发布的BERT自然语言处理模型已经在文本理解领域取得了突破性进展,但在识别上述黑话时仍难以发挥作用,尚不能撕掉黑话的“伪装”,辨别其指代“色情、毒品”的本来含义。

对此,开阳解释,技术和预训练语言模型有一定局限性,经过大量公开语料进行学习训练后,模型能理解字、词、句之间的语义关系,比如判断“足球”跟“多人运动”属于同类话题;“水壶”“器皿”和“烧水”属于同类话题。

“‘多人运动’等黑话通常背后由某个特定事件造成,这些事件比较随机,也无规律可循。”开阳介绍称,这样的语料难以积累,加上占比极低,建立预训练模型变得不太容易。

AI技术升级可理解文字语义

那么,鉴黄机器人能否接收到“多人运动”黑话背后的事件信息,从而给出更精准的判断?

开阳称,阿里新一代安全架构核心AI技术可以做到这一点。他介绍,如果过去的鉴黄AI只停留在识别直观的“图片、字符串、语音”这些表层信息上,升级之后的鉴黄AI则可以理解字符串背后的深意。如果看到“小哥哥,要不要来我们这里多人运动啊?”这样的语句,AI经智能分析后可识别出这是一条色情信息。

“升级后的AI鉴黄师增加了基于知识图谱的识别黑话的能力,将人工经验知识引入,让机器智能与人工经验更好地结合,大大提升了文本理解与语义识别的能力。”开阳介绍,这也是技术升级后的最大亮点,只需要把新的黑话知识添加到知识图谱中就可生效,发现舆情事件导致的变异时间可能在小时级,但识别只需几十毫秒。

简单而言,就是以热点事件为中心,围绕事件本身,将相关联的人物、事件、特定的词语绘成一张关联图谱。以“多人运动”为例,将出轨事件新闻作为核心,关联该事件的男女主角、事件引发的热词“多人运动”“王者五排”“群P”等。

由于升级后的技术可识别更隐晦、内涵的风险内容,AI技术除在鉴黄领域大有可为外,还能大大提升与其他黑灰产变异升级的对抗能力。“我们的模型能针对新事件快速感知,基于事件发掘新关联词,并构建知识,及时为新风险识别提供能力。”开阳说。
责任编辑:pj

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 机器人
    +关注

    关注

    206

    文章

    26820

    浏览量

    201019
  • AI
    AI
    +关注

    关注

    87

    文章

    26129

    浏览量

    263709
  • 人工智能
    +关注

    关注

    1773

    文章

    43356

    浏览量

    230103
收藏 人收藏

    评论

    相关推荐

    NanoEdge AI技术原理、应用场景及优势

    NanoEdge AI种基于边缘计算的人工智能技术,旨在将人工智能算法应用于物联网(IoT)设备和传感器。这种技术核心思想是将数据处
    发表于 03-12 08:09

    第二届大会回顾第5期 | 分级安全架构构筑智能汽车功能、网络、隐私三安全

    委员会副首席科学家、终端BG/车BU首席安全架构师。主要负责HarmonyOS/OpenHarmony操作系统安全架构设计、终端芯片安全架构安全芯片、可信计算、移动应用生态治理
    的头像 发表于 12-19 08:36 168次阅读
    第二届大会回顾第5期 | 分级<b class='flag-5'>安全架构</b>构筑智能汽车功能、网络、隐私三<b class='flag-5'>安全</b>

    【KV260视觉入门套件试用体验】Vitis-AI加速的YOLOX视频目标检测示例体验和原理解

    程序。本篇文章我们将会介绍Vitis AI Library,并体验基于Vitis AI Library的YOLOX视频目标检测示例程序。 Vitis AI User Guide中的
    发表于 10-06 23:32

    AI智能呼叫中心

    、数据驱动决策以及人力成本节约,旨在深入剖析其核心优势和对企业的重要意义。、自动化处理AI智能呼叫中心通过引入自然语言处理(NLP)、机器学习和自动化技术,使得呼叫中心的处理过程更加
    发表于 09-20 17:53

    AI加速器架构设计与实现》+学习和些思考

    ,如有错误还望大佬们指出,我马上改正。 目录和进度 目前阅读到第章,先更新到第章的内容吧 卷积神经网络 运算子系统的设计 储存子系统的设计 架构优化技术
    发表于 09-16 11:11

    搭配Arm开源固件TF-M,共同形成完整IoT应用平台安全架构

    搭配Arm开源固件TF-M,共同形成完整IoT应用平台安全架构
    的头像 发表于 08-10 11:14 385次阅读
    搭配Arm开源固件TF-M,共同形成完整IoT应用平台<b class='flag-5'>安全架构</b>

    ai芯片技术架构有哪些

    ai芯片技术可以分为不同的体系架构。下面将对ai芯片技术架构做详细介绍。 首先,
    的头像 发表于 08-09 14:28 834次阅读

    Arm平台安全架构固件框架1.0

    Arm的平台安全架构(PSA)是套完整的: •威胁模型。 •安全分析。 •硬件和固件体系结构规范。 •开源固件参考实施。 •独立评估和认证方案——PSA CertifiedTM。 PSA提供了
    发表于 08-08 07:14

    基于分级安全的OpenHarmony架构设计

    /OpenHarmony操作系统安全架构设计、终端芯片安全架构安全芯片、可信计算、移动应用生态治理架构、数据防泄漏技术、基于大数据的网络
    发表于 08-04 10:39

    【书籍评测活动NO.18】 AI加速器架构设计与实现

    加速器架构设计与实现》 主要内容本书是本讲解NPU硬件架构设计与技术实现的著作。作者将自己在CPU、GPU和NPU领域15年的软硬件工作经验融会贯通,将四
    发表于 07-28 10:50

    AI视觉检测在工业领域的应用

    随着制造业的智能化、自动化程度越来越高,AI视觉检测系统已经成为种重要的智能制造设备,它能够大幅提高生产线上的检测能力和效率。 AI视觉检测系统的作用 工业
    发表于 06-15 16:21

    #物联网 如何用AI条视频#物联网 #电子技术 #人工智能 #AI技术

    AI
    轻生活科技语音模块
    发布于 :2023年05月26日 15:31:52

    TSC峰会回顾01 | 基于分级安全的OpenHarmony架构设计

    /OpenHarmony操作系统安全架构设计、终端芯片安全架构安全芯片、可信计算、移动应用生态治理架构、数据防泄漏技术、基于大数据的网络
    发表于 04-19 15:09

    新思科技发布业界首款全栈式AI驱动型EDA解决方案Synopsys.ai

    次能够在芯片开发的每个阶段(从系统架构到设计和制造)都采用AI技术,并从云端访问这些解决方案。值得提的是,Synopsys.ai已经成功帮
    发表于 04-03 16:03

    润和软件推出基于大模型的新一代AI中枢平台和四款行业应用内测产品

    了以GPT作为基础架构的NLP大模型技术和Diffusion架构技术的多模态大模型技术核心算法
    的头像 发表于 04-03 15:51 1002次阅读