0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

玩嗨OpenHarmony:基于OpenHarmony的自闭症早期筛查声纹特征滤波识别系统

共熵服务中心 来源:未知 2022-12-02 20:10 次阅读
原文引自:51CTO 开源基础软件社区 #DAYU200体验官 《DAYU200运行自闭症早期筛查声纹特征滤波识别系统

1. 项目背景

根据《孤独症教育康复行业发展状况报告》,在全世界范围内每 54 个儿童就有一个儿童患有自闭症谱系障碍,目前中国的自闭症谱系障碍患者已经超过了 1300万,并且这个数量以每年近20万的速度增长。

a4238694-7239-11ed-8abf-dac502259ad0.jpg

我们通过调研发现我国关于自闭症谱系障碍方面的确诊缺乏统一的诊断标准,各大医院与医疗机构的主流诊断方案还是依托于量表等工具,误诊率高。但目前在确诊方面缺乏科学精准的检测仪器,导致被确诊为自闭症的患者平均年龄为4到5岁,远远滞后于18到24个月的最佳早期筛查诊断时机,使得患儿错过最佳康复治疗期。

我们团队基于以上痛点,以儿童说话声音作为原始数据,利用深度学习训练出的高精度模型对比分析自闭症谱系障碍儿童和正常儿童在声学特征上的差异,使用音频分析技术提取声学特征参数进行分析,基于润和大禹DAYU200从声学角度指导医生对待测儿童进行早期筛查,可将自闭症患者实际筛查确诊年龄提前至1到2岁,让自闭症谱系障碍儿童能极早地得到确诊,从而能够尽早进行干预治疗,最大限度地减少天生发育障碍对患者及整个家庭的影响。

2. 我们是谁?守望星光团队于2021年6月在郑州轻工业大学梅科尔工作室成立,是一家专注于自闭症谱系障碍诊断技术研发的在校创新创业团队。梅科尔工作室的老师和同学们还必须在极为有限的条件下让价值最大化,工作室在老龄化、老年人康复、特殊人群关爱方向的漫漫征途。从拿着一封封介绍信去医院联系合作,一点点走访患者开始。如今,梅科尔工作室总计参与到60余个医疗项目的联合创新开发中,其中40多个是特殊人群关爱类项目。在脑卒中、自闭症和帕金森等领域完成了超过2000人次的病患数据样本收集,沉淀出300多个可用医疗案例。

a44e3a38-7239-11ed-8abf-dac502259ad0.png

3. 设计思路

本项目通过神经网络和音频分析技术提取自闭症谱系障碍儿童的声学特征参数进行分析,筛选出最具有代表性的声学特征和分类识别性能最优的模型,从声学角度辅助医生对自闭症谱系障碍儿童进行早期诊断,并设计机器学习模型进行分类。构建模型,最终网络的准确性达到 93.8%。医生可在DAYU200端、网页Web端、桌面exe程序端、手机鸿蒙APP查看结果,预测出自闭症谱系障碍准确率超过 70%,推荐可能患有自闭症谱系障碍孩子接受干预训练,避免错过最佳干预期。

3.1 开发技术设计框架

a47125c0-7239-11ed-8abf-dac502259ad0.jpg

3.2音频数据采集

项目的音频数据采集模块主要由三部分组成,分别是扬声器、三麦克风阵列数字信号处理器Esp32-Korvo音频开发板。并通过回声消除算法、语音增强算法、降噪算法和音频自动增益算法收集音频数据,以此来保证受测者的音频数据质量。并通过蓝牙或WLAN传输音频数据至云服务器进行下一步处理。在内部布局上,通过精确测量开发板、扬声器、可充电电池的尺寸,合理规划设计了内部零件的位置,精准建模预留内部空间。效果图如下:

a4951372-7239-11ed-8abf-dac502259ad0.png

3.3音频数据预处理

我们将数据采集模块得到的音频数据上传至我们的华为云服务器上,利用利用我们自主开发的降噪算法对收集到的声音进行二次降噪,除去高斯噪声、白噪声等等的一 些噪音,然后利用 OpenSmile 提取声学特征,得到的处理过后的数据会进行 Librosa 库绘制MFCC 图像。

首先在音频转图像之前,通过 Berouti 谱减法对采样的自闭症患者语音中自带的加性噪声(背景噪声)得到噪声的频谱信息,并将其从频率空间中减去。同时为了避免提取困难,采用预加重技术将预加重滤波器加在原始音频上,强化高频部分,再通过分帧加窗使分析对象的信号变化不会突然消失。接着将连续的模拟信号转化为数字信号,通过快速傅里叶变化对分帧加窗后的各帧信号进行快速傅里叶变换得到各帧的频谱。并对语音信号的频谱取模平方得到语音信号的功率谱。接着利用三角带通滤波器对频谱进行平滑化,并消除谐波的作用,突显原先语音的共振峰。因此一段语音的音调或音高,是不会呈现在梅尔倒谱系数内。换言之,以梅尔倒谱系数为特征的声学特征滤波识别诊断系统,并不会受到输入语音的音调不同而有所影响。此外,还可以降低运算量。

最后,经离散余弦变换(DCT)得到 MFCC 系数。

音频转图像具体流程展示图如下:

a4bb267a-7239-11ed-8abf-dac502259ad0.jpg

提取声学特征并绘制出的 MFCC 图像如下:

a4eaff58-7239-11ed-8abf-dac502259ad0.png

3.4图像数据分析

在深度学习模型预测程序中预测待测者自闭症谱系障碍的患病概率,采用CNN卷积神经网络来进行图像识别,包含4个卷积层和3个全连接层,每个卷积层后面有一个LeakyRelu (激活函数)增强非线性,每两个卷积层分别紧跟一个最大值池化层缩小特征图组成一个卷积组模块,卷积层的输出通道数按顺序分别是64, 32, 128, 64,卷积层的输出特征图进入全连接层前平铺成向量,然后进入三个线性变换层逐层降低向量的维度,每个线性变换紧跟一个Dropout层防止过拟合,线性变换的输出长度分别是128, 64, 1,最后输出的一维向量用于二分类,输出自闭症谱系障碍儿童的概率和正常儿童的概率。基于深度神经网络的算法,通过计算机较强的学习能力来学习自闭症患者与正常人的声学特征,以此达到对自闭症患者语音数据的有效识别。

4. 方案效果

a518b2cc-7239-11ed-8abf-dac502259ad0.png

a553913a-7239-11ed-8abf-dac502259ad0.jpg

a580ab0c-7239-11ed-8abf-dac502259ad0.jpg

a5a123be-7239-11ed-8abf-dac502259ad0.jpg

a5cf888a-7239-11ed-8abf-dac502259ad0.jpg

a5fde374-7239-11ed-8abf-dac502259ad0.jpg

a632d480-7239-11ed-8abf-dac502259ad0.jpg

a65d1844-7239-11ed-8abf-dac502259ad0.jpg

a689f7ba-7239-11ed-8abf-dac502259ad0.jpg

a6b6bdea-7239-11ed-8abf-dac502259ad0.jpg

5. 开发环境
  • DevEco Studio for OpenHarmony3.0.0.900

  • OpenHarmony版本:3.1_Release

  • 开发板:DAYU200

a6d28d86-7239-11ed-8abf-dac502259ad0.pnga7db5352-7239-11ed-8abf-dac502259ad0.gif 本文完写在最后我们最近正带着大家玩嗨OpenHarmony。如果你有好玩的东东,欢迎投稿,让我们一起嗨起来!有点子,有想法,有Demo,立刻联系我们:合作邮箱:zzliang@atomsource.org
a7ebb0e4-7239-11ed-8abf-dac502259ad0.gif

a8013e3c-7239-11ed-8abf-dac502259ad0.png

a8345592-7239-11ed-8abf-dac502259ad0.pnga8972c62-7239-11ed-8abf-dac502259ad0.pnga8c0682a-7239-11ed-8abf-dac502259ad0.png

a8d21d5e-7239-11ed-8abf-dac502259ad0.png

a8ec8612-7239-11ed-8abf-dac502259ad0.png

a90bd1ca-7239-11ed-8abf-dac502259ad0.png

a924ce6e-7239-11ed-8abf-dac502259ad0.png

a93ba3fa-7239-11ed-8abf-dac502259ad0.png

a96f818e-7239-11ed-8abf-dac502259ad0.png

a990dec4-7239-11ed-8abf-dac502259ad0.png

a9ad6f12-7239-11ed-8abf-dac502259ad0.png

a9df71e2-7239-11ed-8abf-dac502259ad0.png

aa16ee88-7239-11ed-8abf-dac502259ad0.png

aa310ce6-7239-11ed-8abf-dac502259ad0.png

aa4b446c-7239-11ed-8abf-dac502259ad0.png

aa66dc68-7239-11ed-8abf-dac502259ad0.png

aa7eecb8-7239-11ed-8abf-dac502259ad0.png

aa94907c-7239-11ed-8abf-dac502259ad0.png

aabb8948-7239-11ed-8abf-dac502259ad0.png


原文标题:玩嗨OpenHarmony:基于OpenHarmony的自闭症早期筛查声纹特征滤波识别系统

文章出处:【微信公众号:开源技术服务中心】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 开源技术
    +关注

    关注

    0

    文章

    386

    浏览量

    7835
  • OpenHarmony
    +关注

    关注

    23

    文章

    3311

    浏览量

    15159

原文标题:玩嗨OpenHarmony:基于OpenHarmony的自闭症早期筛查声纹特征滤波识别系统

文章出处:【微信号:开源技术服务中心,微信公众号:共熵服务中心】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    介绍一种OpenAtom OpenHarmony轻量系统适配方案

    本文在不改变原有系统基础框架的基础上, 介绍了一种OpenAtom OpenHarmony(以下简称“OpenHarmony”)轻量系统适配方案。
    的头像 发表于 03-05 09:24 457次阅读
    介绍一种OpenAtom <b class='flag-5'>OpenHarmony</b>轻量<b class='flag-5'>系统</b>适配方案

    浅谈兼容 OpenHarmony 的 Flutter

    OpenHarmony SIG 组织在 Gitee 开源了兼容 OpenHarmony 的 Flutter。该组织主要用于孵化 OpenHarmony 相关的开源生态项目。     ▲ 仓库地址
    的头像 发表于 02-02 15:22 252次阅读
    浅谈兼容 <b class='flag-5'>OpenHarmony</b> 的 Flutter

    OpenHarmony 4.0 Release版本发布

    编者按:润和软件是OpenHarmony项目初始成员单位、A类捐赠人、核心共建单位,控股子公司润开鸿聚焦OpenHarmony国产化数字技术底座,面向以垂直行业为代表的千行百业提供深度融合行业特征
    的头像 发表于 11-18 08:02 277次阅读
    <b class='flag-5'>OpenHarmony</b> 4.0 Release版本发布

    OpenHarmony技术大会 | OpenHarmony技术俱乐部分论坛嘉宾金句

    点击蓝字 ╳ 关注我们 开源项目 OpenHarmony 是每个人的 OpenHarmony 原文标题:OpenHarmony技术大会 | OpenHarmony技术俱乐部分论坛嘉宾金
    的头像 发表于 11-10 20:25 262次阅读

    新接触openharmony原子化模块。

    看了很多文章,openharmony3.2支持arkts开发原子化服务。但好像视频没有多少是关于Openharmony原子化服务的,视频都是harmonyOS的,我想问问各位大佬们,我能看os的原子化服务视频,然后做出来,运行的时候改为
    发表于 10-20 11:29

    开鸿智谷亮相OpenHarmony Meetup深圳站!

    OpenHarmony作为下一代智能终端操作系统的新版本及成果转化,提升开发者对OpenHarmony的关注度,普及OpenHarmony开发技能,加速开发者对OpenHa
    的头像 发表于 10-18 08:30 419次阅读
    开鸿智谷亮相<b class='flag-5'>OpenHarmony</b> Meetup深圳站!

    OpenHarmony竞赛训练营正式启动

    点击蓝字 ╳ 关注我们 开源项目 OpenHarmony 是每个人的 OpenHarmony OpenAtom OpenHarmony(简称“OpenHarmony”)竞赛训练营正式开
    的头像 发表于 10-07 21:10 370次阅读

    Qt For OpenHarmony

    与个人能力和OpenHarmony开源生态与技术发展的双赢。 二、丰富OpenHarmony应用生态:Qt支持目前主流的所有操作系统,如UBuntu、CentOS、OpenEuler、Android
    发表于 09-15 15:39

    Windows搭建OpenHarmony编译环境

    由于OpenHarmony的编译工具链主要是建立在Linux操作系统下,如需要编译OpenHarony内核则需要搭建虚拟机等工序,相对比较繁琐。那么,是否可以在Windows操作系统上实现
    发表于 08-16 16:07

    Windows搭建OpenHarmony编译环境

    由于OpenHarmony的编译工具链主要是建立在Linux操作系统下,如需要编译OpenHarony内核则需要搭建虚拟机等工序,相对比较繁琐。那么,是否可以在Windows操作系统上实现
    的头像 发表于 08-09 08:26 750次阅读
    Windows搭建<b class='flag-5'>OpenHarmony</b>编译环境

    OpenHarmony轻量系统书籍推荐《OpenHarmony轻量设备开发理论与实战》

    最近大家问的智能家居套件方面有没有可以参考的资料,这里给大家统一回复一下 推荐大家可以看这本书 《OpenHarmony轻量设备开发理论与实战》 本书系统地讲授OpenHarmony 轻量系统
    的头像 发表于 07-20 12:43 669次阅读

    OpenHarmony开源鸿蒙无人项目来了

    前言: 以前就想拥有一台无人机,觉得好cool,后面接触OpenHarmony之后,就一直想做一台OpenHarmony的无人机。 奈何自己一直有拖延,从21年拖延到23年,哈哈哈~~ 最近周末
    发表于 05-18 15:56

    基于OpenHarmony的智能音响

    此项目基于 OpenHarmony 操作系统——我国自主研究、国产可控的芯片RK2206 搭载的一个全新的,独立的首个完全开源的操作系统。该项目也是 OpenHarmony 在智能音箱
    的头像 发表于 05-09 10:35 552次阅读
    基于<b class='flag-5'>OpenHarmony</b>的智能音响

    基于OpenHarmony智能音响的操作视频展示

    此项目基于OpenHarmony 操作系统——我国自主研究、国产可控的芯片RK2206 搭载的一个全新的,独立的首个完全开源的操作系统。该项目也是 OpenHarmony 在智能音箱领
    发表于 05-06 15:44

    基于OpenHarmony的智能音响

    手机端、语音识别系统和手势识别系统协同工作,可提供中继WiFi的同时满足家庭用户的日常音频服务需求,个性化地为用户提供了语音识别功能,本次设计的是以家居场景下的智能音箱产品,首先对其硬件平台进行
    发表于 05-06 15:41