嵌入式开发的一元线性回归算法介绍

线性回归是最经典的最小二乘法、卡尔曼、维纳滤波器的基础，也是我在研究生阶段接触的第一个算法，第一次使用也是给导师做项目的时候用到的，工作之后发现这些算法在工程中无处不在，但是不幸的是很多朋友不会用这些数学算法，只会用滑动均值滤波、平均值滤波、低通、高通、带通、陷波这些简单的算法，这些算法虽然简单，但是它的作用确实没有最小二乘、卡尔曼滤波这些算法的效果好。前提是要正确运用这些算法，否则用了还不如不用。

其实回归算法是相对分类算法而言的，与我们想要预测的目标变量y的值类型有关。如果目标变量y是分类型变量，如预测用户的性别（男、女），预测月季花的颜色（红、白、黄……），预测是否患有肺癌（是、否），那我们就需要用分类算法去拟合训练数据并做出预测，学术上一般用SVM(支持向量机)、粒子群算法、神经网络算法等。但是在嵌入式开发尤其是单片机开发过程中，这些复杂算法因其复杂程度和运算量的关系，无法得到工程化应用，一般则用计算量较小更容易实现的卡尔曼或最小二乘法，然而一元线性回归则是最简单、理解起来最容易接受，也是应用最广泛的算法，当然也是现在比较火热的机器学习行业的入门算法。

一元线性回归

一元线性回归顾名思义就是一个自变量（可以是ADC采集到的电压值、DS18B20采集到的温度值、也可以是光敏传感器采集的光照强度值）。下面我们以工作中最常见的电压采集为例，用一元线性回归的方法来预测我们的电压采集的线性方程，以我们物联网开发板的电压采集系统为例：

图1 输入电压12VADC电压采集电路

因为单片机可以采集的电压范围是0-3.3V（基本上采集满量程电压百分之六十是最准确的，往往硬件工程师在设计电路的时候也是这么考虑的），大家可以看到硬件电路采用分压电阻，将12V的电压分成1/11，将这个值送给单片机ADC，单片机采集到这个电压值，乘以11就是我们采集的电压值，这个我们很容易能够理解，因为输入电压基本上在12V上位微笑波动的数值，很容易我们能够反向回推。现实中我们也可以这么做，当然前提是我们要求采集的精度不高。但是在工控领域或者要求精度较高的测控领域，我们就要用到线性回归的的方法了。

假设电压输入范围是4-12V，因为ADC模块采集会有各种各样的误差（积分误差、微分误差、零漂、电路中电阻的精度误差）导致我们采集到的电压值有一定的误差，此时要很好地解决这个问题，我们就可以用最小二乘法来预测线性方程（用到的就是一元线性回归）。当然假设我们的系统是线性系统，这个要我们硬件设计的小伙伴尽量从硬件角度多考虑（电路阻抗匹配的设计、PCB的走线、ADC参考电压等方面去考虑），保证系统最大化接近线性就可以，系统不可能完全线性的。硬件偏差太大，软件也是有心杀贼无力回天了，从这个角度可以说软件是辅助硬件，加上算法是最大化辅助硬件。