反馈循环对于自动化至关重要，但可能被证明是AI的致命弱点

反馈循环对于自动化至关重要，但可能被证明是AI的致命弱点。

欢迎来到书籍。随着一个少于五个美国人阅读只是为了好玩，这些天，我们通过在网上淘的最有趣的为你做的辛勤工作，发人深省的科学和技术，我们可以找到的书籍，并提供一个容易消化的金块故事。

如果不是机器学习，我们的现代世界将不存在。从电信到运输，医药到航空航天，人工智能的加速发展已经证明对人类和公共利益来说是一个福音。然而，允许他们从过去的经验中学习的相同能力可以并且可能被用于诸如扼杀商业竞争之类的卑鄙目的。在下面摘录了谁害怕人工智能？作者Thomas Ramge研究了反馈循环对自动化的影响，以及如何控制它们产生的数据可以使公司不公平地影响市场。

反馈创建数据垄断

对于计算机学习系统，人类的陈词滥调是正确的：在你尝试之前，你永远不会知道。然而，与人们一样，只有当计算机系统识别其尝试是成功还是失败时，计算机才成为现实。因此，反馈数据在学习计算机系统中起着决定性（并且经常被忽视）的作用。学习系统越频繁和准确地接收关于它是否找到了正确的电话号码，实际计算出最佳路线，或者从照片中正确诊断出皮肤状况的反馈，它学得越好越快。

反馈是所有自动控制机器方法的技术核心。美国数学家诺伯特·维纳（Norbert Wiener）在20世纪40年代为此建立了理论基础 - 控制论。每个技术系统都可以通过反馈数据根据目标进行控制和重定向。这听起来比现在复杂得多。

一些最早的控制论系统是美国陆军用于保卫英国城市免受德国V-1巡航导弹攻击的自动火箭防御系统。雷达探测到德国火箭，在连续反馈回路中向防空大炮通报了炸弹的位置，并计算了其未来的飞行路径。大炮根据连续的反馈信号瞄准自己，然后在（希望）正确的时刻开火。在战争结束时，英国人和美国人在天空中射击了大约70%的“复仇武器”。

值得庆幸的是，反馈循环不仅仅是军事创新。如果没有他们，阿波罗任务将永远不会降落在月球上，没有喷气式飞机可以安全地飞越海洋，没有喷射泵可以为活塞提供完美时间的汽油，并且当人的腿被卡在其中时，电梯门不会重新打开。但在其他领域，反馈循环与人工智能中的一样重要。它们是最重要的原料。

当我们开始在Google中输入一个术语时，反馈数据就会起作用，Google会立即建议我们正在寻找的内容。事实上，谷歌的建议可能是一个更好的搜索术语，因为许多其他谷歌用户已经给出系统反馈，当他们点击相同或类似搜索词中的谷歌建议时，经常搜索该术语。然后，当我们接受建议时，我们会创建其他反馈数据。如果我们改为输入不同的术语，我们也会做同样的事情。亚马逊使用反馈数据优化其推荐算法，而Facebook对用户在其时间轴中看到的帖子星座也是如此。这些数据有助于PayPal以不断提高的准确度预测付款是否可能是欺诈性的;你可以想象，

数据在人工智能时代具有类似的效果，规模经济在工业化过程中具有大规模生产的作用，而网络效应对过去二十五年的数字经济产生了影响。规模经济降低了福特T型车型，索尼管式电视机，华为智能手机等实物产品的成本，达到了科学管理发明者弗雷德里克温斯洛泰勒难以想象的程度。斯坦福大学经济学家卡尔夏皮罗和哈尔瓦里安广泛调查的网络效应导致了亚马逊，eBay，阿里巴巴，Facebook和微信以及优步和迪迪等数字平台的垄断地位。网络效应意味着每个新参与者，平台对使用它的每个人都更具吸引力。使用WhatsApp的人越多，用户安装应用的次数就越多，因为通过应用程序联系朋友或熟人或参与群聊更有可能。运行Android操作系统的智能手机越多，开发人员开发Android应用程序的吸引力就越大，再次提升了操作系统的吸引力。

另一方面，人工智能中的反馈效应导致系统变得更加智能，因为越来越多的人向机器提供反馈数据。反馈数据是智能技术学习过程的核心。在接下来的几年中，数字反馈将带来商业上可行的自动驾驶系统，语言翻译程序和图像识别。反馈数据将导致立法者相当头疼，因为如果没有新的措施来防范垄断，长期反馈数据的积累将几乎不可避免地导致数据垄断。最受欢迎的产品和服务将迅速改进，因为大多数反馈数据将被输入其中。机器学习将在某种程度上融入这些产品中，这意味着只有在特殊情况下，创新的新人才有机会对抗AI驱动的经济的顶级犬。自我改进技术阻碍了竞争。人类必须找到这个技术问题的法律答案。