YOLO的核心思想及YOLO的实现细节

2018-06-05 09:12 次阅读

YOLOv1

这是继 RCNN,fast-RCNN 和 faster-RCNN之后,Ross Girshick 针对 DL 目标检测速度问题提出的另外一种框架。YOLO V1 其增强版本在 GPU 上能跑45fps,简化版本155fps。

论文下载:

http://arxiv.org/abs/1506.02640

代码下载:

https://github.com/pjreddie/darknet 

1. YOLO 的核心思想

YOLO 的核心思想就是利用整张图作为网络的输入,直接在输出层回归 bounding box(边界框) 的位置及其所属的类别。

faster-RCNN 中也直接用整张图作为输入,但是 faster-RCNN 整体还是采用了RCNN 那种 proposal+classifier 的思想,只不过是将提取 proposal 的步骤放在 CNN 中实现了,而 YOLO 则采用直接回归的思路。

2.YOLO 的实现方法

将一幅图像分成 SxS 个网格(grid cell),如果某个 object 的中心落在这个网格中,则这个网格就负责预测这个 object。 

每个网格要预测 B 个 bounding box,每个 bounding box 除了要回归自身的位置之外,还要附带预测一个 confidence 值。 

这个 confidence 代表了所预测的 box 中含有 object 的置信度和这个 box 预测的有多准这两重信息,其值是这样计算的:  

其中如果有 object 落在一个 grid cell 里,第一项取 1,否则取 0。 第二项是预测的 bounding box 和实际的 groundtruth 之间的 IoU 值。

每个 bounding box 要预测 (x, y, w, h) 和 confidence 共5个值,每个网格还要预测一个类别信息,记为 C 类。则 SxS个 网格,每个网格要预测 B 个 bounding box 还要预测 C 个 categories。输出就是 S x S x (5*B+C) 的一个 tensor。

注意:class 信息是针对每个网格的,confidence 信息是针对每个 bounding box 的。

举例说明: 在 PASCAL VOC 中,图像输入为 448x448,取 S=7,B=2,一共有20 个类别(C=20),则输出就是 7x7x30 的一个 tensor。

整个网络结构如下图所示: 

在 test 的时候,每个网格预测的 class 信息和 bounding box 预测的 confidence信息相乘,就得到每个 bounding box 的 class-specific confidence score:

等式左边第一项就是每个网格预测的类别信息,第二、三项就是每个 bounding box 预测的 confidence。这个乘积即 encode 了预测的 box 属于某一类的概率,也有该 box 准确度的信息。

得到每个 box 的 class-specific confidence score 以后,设置阈值,滤掉得分低的 boxes,对保留的 boxes 进行 NMS 处理,就得到最终的检测结果。

注:

*由于输出层为全连接层,因此在检测时,YOLO 训练模型只支持与训练图像相同的输入分辨率。

*虽然每个格子可以预测 B 个 bounding box,但是最终只选择只选择 IOU 最高的 bounding box 作为物体检测输出,即每个格子最多只预测出一个物体。当物体占画面比例较小,如图像中包含畜群或鸟群时,每个格子包含多个物体,但却只能检测出其中一个。这是 YOLO 方法的一个缺陷。

3.YOLO 的实现细节

每个 grid 有 30 维,这 30 维中,8 维是回归 box 的坐标,2 维是 box的 confidence,还有 20 维是类别。 

其中坐标的 x, y 用对应网格的 offset 归一化到 0-1 之间,w, h 用图像的 width 和 height 归一化到 0-1 之间。

在实现中,最主要的就是怎么设计损失函数,让这个三个方面得到很好的平衡。作者简单粗暴的全部采用了 sum-squared error loss 来做这件事。

这种做法存在以下几个问题: 

第一,8维的 localization error 和20维的 classification error 同等重要显然是不合理的; 

第二,如果一个网格中没有 object(一幅图中这种网格很多),那么就会将这些网格中的 box 的 confidence push 到 0,相比于较少的有 object 的网格,这种做法是 overpowering 的,这会导致网络不稳定甚至发散。

解决办法:

更重视8维的坐标预测,给这些损失前面赋予更大的 loss weight, 记为

在 pascal VOC 训练中取 5。

对没有 object 的 box 的 confidence loss,赋予小的 loss weight,记为

在 pascal VOC 训练中取 0.5。

有 object 的 box 的 confidence loss 和类别的 loss 的 loss weight 正常取 1。

对不同大小的 box 预测中,相比于大 box 预测偏一点,小 box 预测偏一点肯定更不能被忍受的。而 sum-square error loss 中对同样的偏移 loss 是一样。

为了缓和这个问题,作者用了一个比较取巧的办法,就是将 box 的 width 和 height 取平方根代替原本的 height 和 width。这个参考下面的图很容易理解,小box 的横轴值较小,发生偏移时,反应到y轴上相比大 box 要大。(也是个近似逼近方式)

一个网格预测多个 box,希望的是每个 box predictor 专门负责预测某个 object。具体做法就是看当前预测的 box 与 ground truth box 中哪个 IoU 大,就负责哪个。这种做法称作 box predictor 的 specialization。

最后整个的损失函数如下所示: 

这个损失函数中: 

只有当某个网格中有 object 的时候才对 classification error 进行惩罚。

只有当某个 box predictor 对某个 ground truth box 负责的时候,才会对 box 的 coordinate error 进行惩罚,而对哪个 ground truth box 负责就看其预测值和 ground truth box 的 IoU 是不是在那个 cell 的所有 box 中最大。

其他细节,例如使用激活函数使用 leak RELU,模型用 ImageNet 预训练等等,在这里就不一一赘述了。

注:

*YOLO 方法模型训练依赖于物体识别标注数据,因此,对于非常规的物体形状或比例,YOLO 的检测效果并不理想。

*YOLO 采用了多个下采样层,网络学到的物体特征并不精细,因此也会影响检测效果。

* YOLO 的损失函数中,大物体 IOU 误差和小物体 IOU 误差对网络训练中 loss 贡献值接近(虽然采用求平方根方式,但没有根本解决问题)。因此,对于小物体,小的 IOU 误差也会对网络优化过程造成很大的影响,从而降低了物体检测的定位准确性。

4.YOLO 的缺点

YOLO 对相互靠的很近的物体,还有很小的群体检测效果不好,这是因为一个网格中只预测了两个框,并且只属于一类。

同一类物体出现的新的不常见的长宽比和其他情况时,泛化能力偏弱。

由于损失函数的问题,定位误差是影响检测效果的主要原因。尤其是大小物体的处理上,还有待加强。

YOLOv2

YOLOv2:代表着目前业界最先进物体检测的水平,它的速度要快过其他检测系统(FasterR-CNN,ResNet,SSD),使用者可以在它的速度与精确度之间进行权衡。

YOLO9000:这一网络结构可以实时地检测超过 9000 种物体分类,这归功于它使用了 WordTree,通过 WordTree 来混合检测数据集与识别数据集之中的数据。

工程代码地址:

http://pjreddie.com/darknet/yolo/

▌简介

目前的检测数据集(Detection Datasets)有很多限制,分类标签的信息太少,图片的数量小于分类数据集(Classification Datasets),而且检测数据集的成本太高,使其无法当作分类数据集进行使用。而现在的分类数据集却有着大量的图片和十分丰富分类信息。

文章提出了一种新的训练方法–联合训练算法。这种算法可以把这两种的数据集混合到一起。使用一种分层的观点对物体进行分类,用巨量的分类数据集数据来扩充检测数据集,从而把两种不同的数据集混合起来。

联合训练算法的基本思路就是:同时在检测数据集和分类数据集上训练物体检测器(Object Detectors ),用监测数据集的数据学习物体的准确位置,用分类数据集的数据来增加分类的类别量、提升鲁棒性。

YOLO9000 就是使用联合训练算法训练出来的,他拥有 9000 类的分类信息,这些分类信息学习自ImageNet分类数据集,而物体位置检测则学习自 COCO 检测数据集。

代码和预训练模型地址:

http://pjreddie.com/yolo9000/

▌更准

YOLO 一代有很多缺点,作者希望改进的方向是改善 recall,提升定位的准确度,同时保持分类的准确度。 

目前计算机视觉的趋势是更大更深的网络,更好的性能表现通常依赖于训练更大的网络或者把多种模型综合到一起。但是 YOLO v2 则着力于简化网络。具体的改进见下表:

Batch Normalization

使用 Batch Normalization 对网络进行优化,让网络提高了收敛性,同时还消除了对其他形式的正则化(regularization)的依赖。通过对 YOLO 的每一个卷积层增加 Batch Normalization,最终使得 mAP 提高了 2%,同时还使模型正则化。使用 Batch Normalization 可以从模型中去掉 Dropout,而不会产生过拟合。

High resolution classifier

目前业界标准的检测方法,都要先把分类器(classifier)放在ImageNet上进行预训练。从 Alexnet 开始,大多数的分类器都运行在小于 256*256 的图片上。而现在 YOLO 从 224*224 增加到了 448*448,这就意味着网络需要适应新的输入分辨率。

为了适应新的分辨率,YOLO v2 的分类网络以 448*448 的分辨率先在 ImageNet上进行微调,微调 10 个 epochs,让网络有时间调整滤波器(filters),好让其能更好的运行在新分辨率上,还需要调优用于检测的 Resulting Network。最终通过使用高分辨率,mAP 提升了 4%。

Convolution with anchor boxes

YOLO 一代包含有全连接层,从而能直接预测 Bounding Boxes 的坐标值。  Faster R-CNN 的方法只用卷积层与 Region Proposal Network 来预测 Anchor Box 偏移值与置信度,而不是直接预测坐标值。作者发现通过预测偏移量而不是坐标值能够简化问题,让神经网络学习起来更容易。

所以最终 YOLO 去掉了全连接层,使用 Anchor Boxes 来预测 Bounding Boxes。作者去掉了网络中一个池化层,这让卷积层的输出能有更高的分辨率。收缩网络让其运行在 416*416 而不是 448*448。由于图片中的物体都倾向于出现在图片的中心位置,特别是那种比较大的物体,所以有一个单独位于物体中心的位置用于预测这些物体。YOLO 的卷积层采用 32 这个值来下采样图片,所以通过选择 416*416 用作输入尺寸最终能输出一个 13*13 的特征图。 使用 Anchor Box 会让精确度稍微下降,但用了它能让 YOLO 能预测出大于一千个框,同时 recall 达到88%,mAP 达到 69.2%。

Dimension clusters

之前 Anchor Box 的尺寸是手动选择的,所以尺寸还有优化的余地。 为了优化,在训练集的 Bounding Boxes 上跑一下 k-means聚类,来找到一个比较好的值。

如果我们用标准的欧式距离的 k-means,尺寸大的框比小框产生更多的错误。因为我们的目的是提高 IOU 分数,这依赖于 Box 的大小,所以距离度量的使用: 

通过分析实验结果(Figure 2),左图:在模型复杂性与 high recall 之间权衡之后,选择聚类分类数 K=5。右图:是聚类的中心,大多数是高瘦的 Box。

Table1 是说明用 K-means 选择 Anchor Boxes 时,当 Cluster IOU 选择值为 5 时,AVG IOU 的值是 61,这个值要比不用聚类的方法的 60.9 要高。选择值为 9 的时候,AVG IOU 更有显著提高。总之就是说明用聚类的方法是有效果的。

Direct location prediction

用 Anchor Box 的方法,会让 model 变得不稳定,尤其是在最开始的几次迭代的时候。大多数不稳定因素产生自预测 Box 的(x,y)位置的时候。按照之前 YOLO的方法,网络不会预测偏移量,而是根据 YOLO 中的网格单元的位置来预测坐标,这就让 Ground Truth 的值介于 0 到 1 之间。而为了让网络的结果能落在这一范围内,网络使用一个 Logistic Activation 来对于网络预测结果进行限制,让结果介于 0 到 1 之间。 网络在每一个网格单元中预测出 5 个 Bounding Boxes,每个 Bounding Boxes 有五个坐标值 tx,ty,tw,th,t0,他们的关系见下图(Figure3)。假设一个网格单元对于图片左上角的偏移量是 cx、cy,Bounding Boxes Prior 的宽度和高度是 pw、ph,那么预测的结果见下图右面的公式: 

因为使用了限制让数值变得参数化,也让网络更容易学习、更稳定。Dimension clusters和Direct location prediction,使 YOLO 比其他使用 Anchor Box 的版本提高了近5%。

Fine-Grained Features

YOLO 修改后的特征图大小为 13*13,这个尺寸对检测图片中尺寸大物体来说足够了,同时使用这种细粒度的特征对定位小物体的位置可能也有好处。Faster-RCNN、SSD 都使用不同尺寸的特征图来取得不同范围的分辨率,而 YOLO 采取了不同的方法,YOLO 加上了一个 Passthrough Layer 来取得之前的某个 26*26 分辨率的层的特征。这个 Passthrough layer 能够把高分辨率特征与低分辨率特征联系在一起,联系起来的方法是把相邻的特征堆积在不同的 Channel 之中,这一方法类似与 Resnet 的 Identity Mapping,从而把 26*26*512 变成 13*13*2048。YOLO 中的检测器位于扩展后(expanded )的特征图的上方,所以他能取得细粒度的特征信息,这提升了 YOLO 1% 的性能。

Multi-Scale Training

作者希望 YOLOv2 能健壮地运行于不同尺寸的图片之上,所以把这一想法用于训练模型中。 

区别于之前的补全图片的尺寸的方法,YOLOv2 每迭代几次都会改变网络参数。每 10 个 Batch,网络会随机地选择一个新的图片尺寸,由于使用了下采样参数是  32,所以不同的尺寸大小也选择为 32 的倍数 {320,352…..608},最小 320*320,最大 608*608,网络会自动改变尺寸,并继续训练的过程。

这一政策让网络在不同的输入尺寸上都能达到一个很好的预测效果,同一网络能在不同分辨率上进行检测。当输入图片尺寸比较小的时候跑的比较快,输入图片尺寸比较大的时候精度高,所以你可以在 YOLOv2 的速度和精度上进行权衡。

下图是在 voc2007 上的速度与精度

▌更快

YOLO 使用的是 GoogLeNet 架构,比 VGG-16 快,YOLO 完成一次前向过程只用 85.2 亿次运算,而 VGG-16 要 306.9 亿次,但是 YOLO 精度稍低于 VGG-16。

Draknet19

YOLO v2 基于一个新的分类模型,有点类似于 VGG。YOLO v2 使用 3*3 的 filter,每次池化之后都增加一倍 Channels 的数量。YOLO v2 使用全局平均池化,使用 Batch Normilazation 来让训练更稳定,加速收敛,使模型规范化。

最终的模型–Darknet19,有 19 个卷积层和 5 个 maxpooling 层,处理一张图片只需要 55.8 亿次运算,在 ImageNet 上达到 72.9% top-1 精确度,91.2% top-5 精确度。

Training for classification

在训练时,把整个网络在更大的448*448分辨率上Fine Turnning 10个 epoches,初始学习率设置为0.001,这种网络达到达到76.5%top-1精确度,93.3%top-5精确度。

▌更强

在训练的过程中,当网络遇到一个来自检测数据集的图片与标记信息,那么就把这些数据用完整的 YOLO v2 loss 功能反向传播这个图片。当网络遇到一个来自分类数据集的图片和分类标记信息,只用整个结构中分类部分的 loss 功能反向传播这个图片。

但是检测数据集只有粗粒度的标记信息,像“猫“、“ 狗”之类,而分类数据集的标签信息则更细粒度,更丰富。比如狗这一类就包括”哈士奇“”牛头梗“”金毛狗“等等。所以如果想同时在监测数据集与分类数据集上进行训练,那么就要用一种一致性的方法融合这些标签信息。

再者,用于分类的方法,大多是用 softmax layer 方法,softmax 意味着分类的类别之间要互相独立的。而盲目地混合数据集训练,就会出现比如:检测数据集的分类信息中”狗“这一分类,在分类数据集合中,就会有的不同种类的狗:“哈士奇”、“牛头梗”、“金毛”这些分类,这两种数据集之间的分类信息不相互独立。所以使用一种多标签的模型来混合数据集,假设一个图片可以有多个分类信息,并假定分类信息必须是相互独立的规则可以被忽略。

Hierarchical classification

WordNet 的结构是一个直接图表(directed graph),而不是树型结构。因为语言是复杂的,狗这个词既属于‘犬科’又属于‘家畜’两类,而‘犬科’和‘家畜’两类在 WordNet 中则是同义词,所以不能用树形结构。

作者希望根据 ImageNet 中包含的概念来建立一个分层树,为了建立这个分层树,首先检查 ImagenNet 中出现的名词,再在 WordNet 中找到这些名词,再找到这些名词到达他们根节点的路径(在这里设为所有的根节点为实体对象(physical object)。在 WordNet 中,大多数同义词只有一个路径,所以首先把这条路径中的词全部都加到分层树中。接着迭代地检查剩下的名词,并尽可能少的把他们添加到分层树上,添加的原则是取最短路径加入到树中。

为了计算某一结点的绝对概率,只需要对这一结点到根节点的整条路径的所有概率进行相乘。所以比如你想知道一个图片是否是 Norfolk terrier 的概率,则进行如下计算:

为了验证这一个方法,在 WordTree 上训练 Darknet19 的模型,使用 1000 类的 ImageNet 进行训练,为了建立 WordtTree 1K,把所有中间词汇加入到 WordTree 上,把标签空间从 1000 扩大到了 1369。在训练过程中,如果有一个图片的标签是“Norfolk terrier”,那么这个图片还会获得”狗“(dog)以及“哺乳动物”(mammal)等标签。总之现在一张图片是多标记的,标记之间不需要相互独立。

如 Figure5 所示,之前的 ImageNet 分类是使用一个大 softmax 进行分类。而现在,WordTree 只需要对同一概念下的同义词进行 softmax 分类。 

使用相同的训练参数,这种分层结构的Darknet19达到71.9%top-1精度和90.4% top-5 精确度,精度只有微小的下降。 

这种方法的好处:在对未知或者新的物体进行分类时,性能降低的很优雅(gracefully)。比如看到一个狗的照片,但不知道是哪种种类的狗,那么就高置信度(confidence)预测是”狗“,而其他狗的种类的同义词如”哈士奇“”牛头梗“”金毛“等这些则低置信度。

Datasets combination with wordtree

用 WordTree 把数据集合中的类别映射到分层树中的同义词上,例如上图 Figure 6,WordTree 混合 ImageNet 与 COCO。

Joint classification and detection

作者的目的是:训练一个 Extremely Large Scale 检测器。所以训练的时候使用 WordTree 混合了 COCO 检测数据集与 ImageNet 中的 Top9000 类,混合后的数据集对应的 WordTree 有 9418 个类。另一方面,由于 ImageNet 数据集太大了,作者为了平衡一下两个数据集之间的数据量,通过过采样(oversampling) COCO 数据集中的数据,使 COCO 数据集与 ImageNet 数据集之间的数据量比例达到 1:4。

YOLO9000 的训练基于 YOLO v2 的构架,但是使用 3 priors 而不是 5 来限制输出的大小。当网络遇到检测数据集中的图片时则正常地反方向传播,当遇到分类数据集图片的时候,只使用分类的 loss 功能进行反向传播。同时作者假设 IOU 最少为 0.3。最后根据这些假设进行反向传播。

使用联合训练法,YOLO9000 使用 COCO 检测数据集学习检测图片中的物体的位置,使用 ImageNet 分类数据集学习如何对大量的类别中进行分类。 

为了评估这一方法,使用 ImageNet Detection Task 对训练结果进行评估。 

评估结果: 

YOLO9000 取得 19.7 mAP。 在未学习过的 156 个分类数据上进行测试, mAP 达到 16.0。

YOLO9000 的 mAP 比 DPM 高,而且 YOLO 有更多先进的特征,YOLO9000 是用部分监督的方式在不同训练集上进行训练,同时还能检测 9000个物体类别,并保证实时运行。

虽然 YOLO9000 对动物的识别性能很好,但是对类别为“sungalsses”或者“swimming trunks”这些衣服或者装备的类别,它的识别性能不是很好,见 table 7。这跟数据集的数据组成有很大关系。

▌总结

YOLO v2 代表着目前最先进物体检测的水平,在多种监测数据集中都要快过其他检测系统,并可以在速度与精确度上进行权衡。

YOLO 9000 的网络结构允许实时地检测超过9000种物体分类,这归功于它能同时优化检测与分类功能。使用 WordTree 来混合来自不同的资源的训练数据,并使用联合优化技术同时在 ImageNet 和 COCO 数据集上进行训练,YOLO9000 进一步缩小了监测数据集与识别数据集之间的大小代沟。

YOLOv3

YOLOv3 在 Pascal Titan X 上处理 608x608 图像速度可以达到 20FPS,在 COCO test-dev 上 mAP@0.5 达到 57.9%,与RetinaNet(FocalLoss论文所提出的单阶段网络)的结果相近,并且速度快 4 倍.

YOLO v3 的模型比之前的模型复杂了不少,可以通过改变模型结构的大小来权衡速度与精度。

速度对比如下:

YOLOv3 在实现相同准确度下要显著地比其它检测方法快。时间都是在采用 M40 或 Titan X 等相同 GPU 下测量的。

简而言之,YOLOv3 的先验检测(Prior detection)系统将分类器或定位器重新用于执行检测任务。他们将模型应用于图像的多个位置和尺度。而那些评分较高的区域就可以视为检测结果。此外,相对于其它目标检测方法,我们使用了完全不同的方法。我们将一个单神经网络应用于整张图像,该网络将图像划分为不同的区域,因而预测每一块区域的边界框和概率,这些边界框会通过预测的概率加权。我们的模型相比于基于分类器的系统有一些优势。它在测试时会查看整个图像,所以它的预测利用了图像中的全局信息。与需要数千张单一目标图像的 R-CNN 不同,它通过单一网络评估进行预测。这令 YOLOv3 非常快,一般它比 R-CNN 快 1000 倍、比 Fast R-CNN 快 100 倍。

改进之处:

1.多尺度预测 (类FPN)

2.更好的基础分类网络(类ResNet)和分类器 darknet-53,见下图

3.分类器-类别预测:

YOLOv3 不使用 Softmax 对每个框进行分类,主要考虑因素有两个:

a.Softmax 使得每个框分配一个类别(得分最高的一个),而对于 Open Images这种数据集,目标可能有重叠的类别标签,因此 Softmax不适用于多标签分类。

b.Softmax 可被独立的多个 logistic 分类器替代,且准确率不会下降。

c.分类损失采用 binary cross-entropy loss.

多尺度预测

每种尺度预测 3 个 box, anchor 的设计方式仍然使用聚类,得到9个聚类中心,将其按照大小均分给 3 个尺度。

尺度1: 在基础网络之后添加一些卷积层再输出box信息。

尺度2: 从尺度1中的倒数第二层的卷积层上采样(x2)再与最后一个 16x16 大小的特征图相加,再次通过多个卷积后输出 box 信息,相比尺度1变大两倍.

尺度3: 与尺度2类似,使用了 32x32 大小的特征图

基础网络 Darknet-53

darknet-53 与 ResNet-101 或 ResNet-152 准确率接近,但速度更快,对比如下:

检测结构如下:

YOLOv3 在 mAP@0.5 及小目标 APs 上具有不错的结果,但随着 IOU的增大,性能下降,说明 YOLOv3 不能很好地与 ground truth 切合.

原文标题:从YOLOv1到YOLOv3,目标检测的进化之路

文章出处:【微信号:rgznai100,微信公众号:AI科技大本营】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
分享:

评论

相关推荐

数据库教程之关系数据库规范化理论实例说明资料免费下载

数据的语义不仅表现为完整性约束,对关系模式的设计也提出了一定的要求。 如何构造一个合适的关系模式,....

发表于 10-19 16:15 9次 阅读
数据库教程之关系数据库规范化理论实例说明资料免费下载

C语言和计算机资料介绍怎样编程?和函数的详细概述

C语言是程序员与计算机交流的工具,程序员借助C语言“指挥”计算机为用户提供服务,因此,只有先了解了计....

发表于 10-18 17:49 24次 阅读
C语言和计算机资料介绍怎样编程?和函数的详细概述

基于stm32单片机,FLASh先擦后写的函数分析案例

void FLASH_WriteByte(u32 addr ,u16 flashdata1) ....

发表于 10-18 15:30 75次 阅读
基于stm32单片机,FLASh先擦后写的函数分析案例

到底谁可以产生更好的图像修复结果?什么是图像修补?

在自动识别方法中:排名第一的是深度学习方法-基于生成的图像修复方法。但这不是一次压倒性的胜利,因为这....

的头像 将门创投 发表于 10-18 14:27 126次 阅读
到底谁可以产生更好的图像修复结果?什么是图像修补?

中科院以内部讨论组的形式做了关于证明黎曼猜想的报告

李忠利用Riech度量严格证明了黎曼假设。他的证明与数学家Atiyah(阿蒂亚老爵爷,此前曾做过黎曼....

的头像 新智元 发表于 10-18 10:33 210次 阅读
中科院以内部讨论组的形式做了关于证明黎曼猜想的报告

单片机有哪些常用算法?吴鉴鹰总结的单片机常用算法资料免费下载

算法的描述:是对要解决一个问题或要完成一项任务所采取的方法和步骤的描述,包括需要什么数据(输入什么数....

发表于 10-18 09:45 36次 阅读
单片机有哪些常用算法?吴鉴鹰总结的单片机常用算法资料免费下载

统计学基础理论之一——中心极限定理的核心概念

为了降低这个定理的理解门槛,首先我们来举个简单的例子。假设有一个包含100人的团体,他们在某些问题上....

的头像 论智 发表于 10-18 09:08 178次 阅读
统计学基础理论之一——中心极限定理的核心概念

如何学习c语言?C语言学习笔记资料免费下载

本文档的主要内容详细介绍的是如何学习c语言?C语言学习笔记资料免费下载内容包括了:C语言代码,编译预....

发表于 10-17 16:23 39次 阅读
如何学习c语言?C语言学习笔记资料免费下载

详细谈谈什么是积分噪声

下图显示 NCP110 LDO 稳压器的噪声谱密度。如果我们将 NCP110 LDO 稳压器的测量值....

的头像 安森美半导体 发表于 10-17 14:29 112次 阅读
详细谈谈什么是积分噪声

C/C++入门易错点及常用小技巧

如果我们定义一个数组int array[10]={12,1,6,4}.可知只对数组的前四项赋值,那么....

的头像 玩转单片机 发表于 10-17 08:07 166次 阅读
C/C++入门易错点及常用小技巧

数字电子技术教程之逻辑代数基础的详细资料概述

本文档的主要内容详细加速度是数字电子技术教程之逻辑代数基础的详细资料概述包括了:概述2 .逻辑代数中....

发表于 10-17 08:00 15次 阅读
数字电子技术教程之逻辑代数基础的详细资料概述

EDA教程之VHDL数据类型与顺序语句的详细资料免费下载

VHDL的数据类型有多种,它们各自为数据对象定义了一组数值的集合,以及针对这些值所允许的操作。VHD....

发表于 10-17 08:00 13次 阅读
EDA教程之VHDL数据类型与顺序语句的详细资料免费下载

数学推导+纯Python实现机器学习算法

跟上一讲写线性模型一样,在实际动手写之前我们需要理清楚思路。要写一个完整的逻辑回归模型我们需要:s....

的头像 人工智能爱好者社区 发表于 10-16 16:12 261次 阅读
数学推导+纯Python实现机器学习算法

LABVIEW编程技巧之如何检测鼠标滚轮详细资料说明

 自从LABVIEW全面支持事件结构后,已经很少用到全局键盘和鼠标了。在事件结构之前,轮询键盘和鼠标....

发表于 10-16 10:11 16次 阅读
LABVIEW编程技巧之如何检测鼠标滚轮详细资料说明

GPS双差分模糊度的整数估计的LAMBDA实现方法详细资料概述

高精度相对GPS定位是基于非常精确的载波相位测量。为了在短时间内获得高精度的结果,必须利用模糊度的整....

发表于 10-15 08:00 22次 阅读
GPS双差分模糊度的整数估计的LAMBDA实现方法详细资料概述

讨论游戏Emoji Scavenger Hunt的内部运作方式

Emoji Scavenger Hunt 游戏的核心功能是识别您的相机所看到的物体,并将其与游戏要求....

的头像 TensorFlow 发表于 10-13 10:41 350次 阅读
讨论游戏Emoji Scavenger Hunt的内部运作方式

在Windows平台使用QEMU运行RT-Thread动态模块

下载 RT-Thread 动态模块工具库 rtthread-apps,rtthread-apps 的....

的头像 电子发烧友网 发表于 10-13 10:12 198次 阅读
在Windows平台使用QEMU运行RT-Thread动态模块

当前的AI还不擅长处理哪些种类的问题?

精灵宝可梦则是一个开放世界游戏,这意味着,任意给定时刻都有大量选择。简单的向上、向下、向左、向右无法....

的头像 论智 发表于 10-13 09:02 497次 阅读
当前的AI还不擅长处理哪些种类的问题?

激活函数如何隐式地改变传入网络层的数据分布,进而影响网络的优化过程

你可以自己试验一下。我试了很多次,从来没能得到一个数量级大于10-18的数。如果这个值是神经元A的梯....

的头像 论智 发表于 10-13 08:58 270次 阅读
激活函数如何隐式地改变传入网络层的数据分布,进而影响网络的优化过程

C语言教程之函数讲解的详细资料免费下载

模块化程序设计基本思想:将一个大的程序按功能分割成一些小模块。

发表于 10-12 17:17 85次 阅读
C语言教程之函数讲解的详细资料免费下载

C程序设计中的指针详细资料讲解免费下载

C程序设计中使用指针可以: 1.使程序简洁、紧凑、高效2.有效地表示复杂的数据结构3.动态分配内存4....

发表于 10-12 15:07 36次 阅读
C程序设计中的指针详细资料讲解免费下载

Wacom宣布与Magic Leap达成合作,共同开发MR环境中的多人协作系统

Wacom首席执行官Nobutaka Ide表示:“Wacom和Magic Leap正在合作,共同定....

的头像 AR联盟 发表于 10-12 09:15 169次 阅读
Wacom宣布与Magic Leap达成合作,共同开发MR环境中的多人协作系统

数学建模三剑客之Numpy

numpy的数组对象除了一些常规的属性外,也有几个类似转置、扁平迭代器等看起来更像是方法的属性。扁平....

的头像 电子发烧友网工程师 发表于 10-11 10:44 177次 阅读
数学建模三剑客之Numpy

STM32时钟系统时钟树和时钟配置函数介绍及系统时钟设置步骤资料

本文档的主要内容详细介绍的是STM32时钟系统时钟树和时钟配置函数介绍及系统时钟设置步骤资料。

发表于 10-11 08:00 18次 阅读
STM32时钟系统时钟树和时钟配置函数介绍及系统时钟设置步骤资料

跨省联络线的优化调度模式及预警策略研究

传统的跨省联络线计划基于电力交易而制定,与受端电网机组计划相互独立,且不受负荷变化影响,存在资源配置....

发表于 10-11 08:00 215次 阅读
跨省联络线的优化调度模式及预警策略研究

请问ccs5.5如何使函数名加粗

ccs5.5,在定义函数的时候函数名会加粗,但是在使用函数的时候怎么设置成加粗呢,谢谢...

发表于 10-10 11:12 166次 阅读
请问ccs5.5如何使函数名加粗

添加Maxm的深覆盖安全认证器的防伪保护

Explore new breakthroughs in hardware-based counte....

的头像 Maxim视频 发表于 10-10 10:12 63次 观看
添加Maxm的深覆盖安全认证器的防伪保护

jQuery教程之jQuery权威指南实战资料电子教材免费下载

本书由国内资深Web技术专家亲自执笔.4大Web开发社区一致鼎力推荐,权威性毋庸置疑。内容新颖,基于....

发表于 10-09 08:00 27次 阅读
jQuery教程之jQuery权威指南实战资料电子教材免费下载

FILEIO_Open语法问题

我很难理解如何使用FILIO搜索函数返回的值打开一个文件。下面是我正在做的一个剪辑。我知道这是“conchar *”,这是我的命,...

发表于 10-08 15:59 29次 阅读
FILEIO_Open语法问题

讨论热度最高的论文TOP 5

尽管近期由于生成图像建模的研究进展,从复杂数据集例如 ImageNet 中生成高分辨率、多样性的样本....

的头像 新智元 发表于 10-08 11:09 1404次 阅读
讨论热度最高的论文TOP 5

深入浅出地介绍了牛顿法、动量法、RMSProp、Adam优化算法

通常情况下,我们使用低学习率来应对这样的反复振荡,但在病态曲率区域使用低学习率,可能要花很多时间才能....

的头像 论智 发表于 10-08 09:15 542次 阅读
深入浅出地介绍了牛顿法、动量法、RMSProp、Adam优化算法

图像生成领域的一个巨大进展:SAGAN

近年来,生成图像建模领域出现了不少成果,其中最前沿的是GAN,它能直接从数据中学习,生成高保真、多样....

的头像 论智 发表于 10-08 09:11 236次 阅读
图像生成领域的一个巨大进展:SAGAN

C51单片机复位功能函数的介绍和使用详细资料说明

本文档的主要内容详细介绍的是C51单片机复位功能函数的介绍和使用详细资料说明。

发表于 10-08 08:00 29次 阅读
C51单片机复位功能函数的介绍和使用详细资料说明

“世界难题”是如何被证明的?

如果在黎曼猜想中,出现的常数不是1/2,而是圆周率,那会让我觉得这个事情要优美一些。现在出现的却是1....

的头像 新智元 发表于 10-04 09:12 402次 阅读
“世界难题”是如何被证明的?

160年未解之谜数学难题“黎曼猜想”被证明

黎曼猜想最初于 1859 年由德国数学家波恩哈德·黎曼提出。简单说,就是根据一个重要的数学公式,能够....

的头像 新智元 发表于 10-04 09:05 755次 阅读
160年未解之谜数学难题“黎曼猜想”被证明

Atiyah证明黎曼猜想的基本思想与价值

近年来数论界对黎曼猜想的研究,公认的一个进展是发现黎曼zeta函数的非平凡零点与重原子能级有同样的统....

的头像 人工智能学家 发表于 09-29 16:43 482次 阅读
Atiyah证明黎曼猜想的基本思想与价值

C语言数据输入输出函数总结资料免费下载

本文档的主要内容详细介绍的是C语言数据输入输出函数总结资料免费下载。

发表于 09-29 15:51 74次 阅读
C语言数据输入输出函数总结资料免费下载

范式是什么?它对数据库设计有什么作用?

  范式及其对数据库设计的指导意义 1 问题的引出 2 范式理论概述 3 1NF及对实践的指导意义 ....

发表于 09-29 11:10 34次 阅读
范式是什么?它对数据库设计有什么作用?

算法是什么?python的时间,空间复杂度和常用算法实例说明免费下载

算法(Algorithm)是指解题方案的准确而完整的描述,是一系列解决问题的清晰指令,算法代表着用系....

发表于 09-29 08:00 45次 阅读
算法是什么?python的时间,空间复杂度和常用算法实例说明免费下载

解析媒体矩阵的Python编程函数讲解资料免费下载

每种计算机语言都会遇到这样的应用情况:程序中会出现重复执行的语句。尽管可以用复制/ 粘贴的方式重复代....

发表于 09-28 16:57 48次 阅读
解析媒体矩阵的Python编程函数讲解资料免费下载

关系数据库如何进行设计?关系数据库设计理论资料免费下载

理解关系模式可能的四种异常,掌握函数依赖的基本概念,掌握多值依赖掌握1NF、2NF、3NF、BCNF....

发表于 09-28 16:05 41次 阅读
关系数据库如何进行设计?关系数据库设计理论资料免费下载

一种基于深度神经网络的迭代6D姿态匹配的新方法

在本文工作中,作者提出了DeepIM——一种基于深度神经网络的迭代6D姿态匹配的新方法。给定测试图像....

的头像 将门创投 发表于 09-28 10:23 252次 阅读
一种基于深度神经网络的迭代6D姿态匹配的新方法

深入浅出地介绍了梯度下降这一概念

初始化权重时,我们在损失曲面的A点。我们首先要做的,是检查一下,在x-y平面上的所有可能方向中,沿着....

的头像 论智 发表于 09-28 09:06 281次 阅读
深入浅出地介绍了梯度下降这一概念

52单片机 测试实验协议和C语言函数的详细资料免费下载

本文档的主要内容详细介绍的是52单片机 测试实验协议和C语言函数的详细资料免费下载。

发表于 09-26 17:40 46次 阅读
52单片机 测试实验协议和C语言函数的详细资料免费下载

50套C语言试题答案详解的资料免费下载

本文档的主要内容详细介绍的是50套C语言试题和答案详解的资料免费下载。

发表于 09-26 16:08 43次 阅读
50套C语言试题答案详解的资料免费下载

50套C语言计算机考试试题资料免费下载

本文档的主要内容详细介绍的是50套C语言考试试题资料免费下载

发表于 09-26 16:08 45次 阅读
50套C语言计算机考试试题资料免费下载

如何使用了一个简单的反证法,就证明了159年来无人能攻克的黎曼猜想

阿蒂亚爵士对黎曼猜想的证明,只是推演物理学中精细结构常数α的副产品,建立在冯·诺依曼(John vo....

的头像 科工力量 发表于 09-26 15:25 600次 阅读
如何使用了一个简单的反证法,就证明了159年来无人能攻克的黎曼猜想

C语言程序的main函数免费下载

本文档的主要内容详细介绍的是C语言程序的main函数免费下载。

发表于 09-26 14:48 51次 阅读
C语言程序的main函数免费下载

C指针是什么?指针的初始化与数组、函数的关系和分类及使用的介绍

一、指针说明指针是包含另一变量的地址变量。

发表于 09-26 11:25 49次 阅读
 C指针是什么?指针的初始化与数组、函数的关系和分类及使用的介绍

请问LTspice中能否支持随机数函数如何实现

想在LTspice仿真中,把一个参数(比如电容值)设计为一个变量,这个变量在一定的范围内是一个随机数。如电容C的值为[20n,30n...

发表于 09-25 17:00 30次 阅读
请问LTspice中能否支持随机数函数如何实现

audio HAL与kernel联动过程中关键的函数分析和总结

前言: 这篇文档主要是对audio HAL与kernel联动过程中几个关键的函数进行分析和总结: 1.select_device, 2.enable_sn...

发表于 09-25 15:44 53次 阅读
audio HAL与kernel联动过程中关键的函数分析和总结

关于memcpy函数

memcpy(&RamfuncsRunStart, &RamfuncsLoadStart, (size_t)&RamfuncsLoadSize);这个应该放在main()函数中的哪个位置 ...

发表于 09-25 10:46 65次 阅读
关于memcpy函数

难以证明又无法推翻的黎曼猜想被证明了吗?

黎曼猜想是众多尚未解决的最重要的数学问题之一,被克雷数学研究所列为待解决的七大千禧问题,悬赏百万美金....

的头像 新智元 发表于 09-25 09:47 1010次 阅读
难以证明又无法推翻的黎曼猜想被证明了吗?

如何使用Pythonc进行简化测试?

最近出现了行业级的 Python 测试框架,这意味着 Python 测试可以编写得更简洁、更统一,能....

发表于 09-21 16:16 44次 阅读
如何使用Pythonc进行简化测试?

没有调用静态对象的C ++构造函数

你好, 我试图使用SPC5 Studio和免费的gcc vle工具链(4.9.2)在SPC560Bxx mcu中使用C ++。 但是,看起来构造函数不像...

发表于 09-18 16:40 89次 阅读
没有调用静态对象的C ++构造函数

sdio读取某一指定地址读取数据有错误

用了原子的u8 mp3_play_song(u8 *pname)函数,发现在temp=0x27769; res = f_lseek(fmp3, temp);    res=f_read(fmp3,...

发表于 09-13 09:22 142次 阅读
sdio读取某一指定地址读取数据有错误

HTTPPrint什么是DIAKACK参数

您好,对于TCPIPHTHPNETNETRICICWRESE()函数,有人知道什么是“DIAKACK”参数吗?我不知道什...

发表于 09-12 14:44 88次 阅读
HTTPPrint什么是DIAKACK参数

嵌入汇编指令通过参数指定跳转地址怎么实现?

有这样一条跳转指令  asm(" LB   0x400 ");  当前跳转的地址是0x400,我想通过参数指定跳转地址...

发表于 09-12 11:04 255次 阅读
嵌入汇编指令通过参数指定跳转地址怎么实现?

请教STM32F4的一些函数的意思

之前我一直用F103的  现在学习F4 看了下官方的例子程序 发现有了些新的函数 ,,不知道是什么意思。。例如 GPIO...

发表于 09-12 09:30 254次 阅读
请教STM32F4的一些函数的意思