将道德内容加载到机器学习中 学会批判性地思考机器学习

一个多学科的研究生团队帮助将道德计算内容注入麻省理工学院最大的机器学习课程。

作为计算社会和道德责任倡议的一部分，一个多学科的研究生小组努力为麻省理工学院最大的机器学习课程之一注入与道德计算、数据和模型偏差以及机器学习公平性相关的材料。

参加 MIT 课程 6.036（机器学习简介）的学生学习强大模型背后的原理，这些模型可帮助医生诊断疾病或帮助招聘人员筛选求职者。

现在，由于计算的社会和道德责任（SERC） 框架，这些学生还将停下来思考 这些人工智能工具的含义，这些工具有时会带来意想不到的后果。

去年冬天，一个SERC 学者团队与讲师 Leslie Kaelbling、松下计算机科学与工程教授以及 6.036 名助教合作，为每周实验室注入了涵盖道德计算、数据和模型偏差以及机器学习公平性的材料。该过程由电气工程和计算机科学系 X 联盟助理教授 Jacob Andreas 于 2019 年秋季启动。SERC 学者在多学科团队中合作，帮助博士后和教师开发新的课程材料。

由于 6.036 课程如此庞大，因此 2021 年春季学期入学的 500 多名学生在努力学习新的计算技术的同时，努力应对这些道德方面的问题。对于一些人来说，这可能是他们第一次在学术环境中批判性地思考机器学习的潜在负面影响。

SERC 学者评估了每个实验室，以开发具体的示例和与道德相关的问题，以适应该周的材料。每个人都带来了不同的工具集。Serena Booth 是计算机科学与人工智能实验室 （CSAIL） 交互式机器人组的研究生。Marion Boulicault 是语言学和哲学系的研究生，现在是 SERC 所在的麻省理工学院苏世民计算机学院的博士后。Rodrigo Ochigame 是历史、人类学、科学、技术和社会 （HASTS） 项目的研究生，现在是荷兰莱顿大学的助理教授。他们与 MEng ‘21 助教 Dheekshita Kumar 密切合作，后者在开发课程材料方面发挥了重要作用。

他们在每个实验室进行头脑风暴和迭代，同时与助教密切合作，以确保内容适合并推进课程的核心学习目标。同时，他们帮助助教确定呈现材料的最佳方式，并就种族、性别和监视等具有社会影响的话题引导对话。

“在像 6.036 这样的课程中，我们正在与 500 名不在那里学习道德的人打交道。他们认为他们在那里学习机器学习的基本要素，比如损失函数、激活函数等等。我们面临的挑战是试图让这些学生以非常积极和参与的方式真正参与这些讨论。我们通过将社会问题与技术内容紧密结合来做到这一点，”布斯说。

例如，在一个关于如何为机器学习模型表示输入特征的实验室中，他们引入了不同的公平定义，要求学生考虑每个定义的优缺点，然后让他们思考应该输入的特征一个使它公平的模型。

四个实验室现已在MIT OpenCourseWare上发布。一个由 SERC 学者组成的新团队正在根据教师和学生的反馈修改其他八名，重点是学习目标、填补空白和突出重要概念。

有意的方法

SERC 副院长兼航空航天学教授 Julie Shah 说，学生在 6.036 上的努力表明 SERC 旨在以适合他们的方式与教师合作。由于这个大型课程的独特性和紧迫的时间限制，他们调整了 SERC 流程。

SERC 是两年多前通过麻省理工学院苏世民计算学院成立的，旨在将来自不同学科的教师聚集到一个协作环境中，共同创建和推出专注于社会和负责任计算的新课程材料。

每个学期，SERC 团队都会邀请十多名教职员工加入一个致力于开发新课程材料的行动小组（有几个SERC 行动小组，每个小组都有不同的使命）。SERC 副院长、Germeshausen 科学史教授和物理学教授 David Kaiser 说，他们邀请的对象是有目的的，并寻求将可能会在较小的小组中形成富有成效的合作伙伴关系的教职员工包括在内。

这些由两到三名教职员工组成的小组在学期中磨练了他们的共同兴趣，以开发新的伦理相关材料。但不是一门学科为另一门学科服务，而是一条双向的道路；Shah 解释说，每位教员都会将新材料带回他们的课程中。麻省理工学院所有五所学校的行动小组都吸引了教师。

“其中一部分涉及走出你正常的学科界限并建立一种语言，然后信任并与你正常圈子之外的新人合作。这就是为什么我认为我们的故意方法如此成功。试用材料并将新事物带回您的课程是很好的，但建立关系是核心。这使得这对每个人都很有价值，”她说。

产生影响

在过去的两年里，Shah 和 Kaiser 对围绕这些努力的能量和热情印象深刻。

自该计划启动以来，他们与大约 80 名教职员工合作，仅去年一年就有 2，100 多名学生参加了包含新 SERC 内容的课程。这些学生不一定都是工程师——大约 500 人通过人文、艺术和社会科学学院、斯隆管理学院和建筑与规划学院提供的课程接触了 SERC 的内容。

沙阿说，SERC 的核心原则是计算中的道德和社会责任应该融入麻省理工学院的所有教学领域，因此它与课程的技术部分一样重要。技术，尤其是人工智能，现在几乎涉及每个行业，因此所有学科的学生都应该接受培训，帮助他们理解这些工具，并深入思考它们的力量和陷阱。

“弄清楚事情出错的原因或发生的事情不是别人的工作。这是我们的全部责任，我们都有能力做到这一点。让我们习惯这一点。让我们建立起能够停下来问那些棘手问题的能力，即使我们无法在问题集的最后找到一个答案，”Kaiser 说。

对于三位 SERC 学者来说，在没有答案可参考的情况下，仔细提出道德问题是一项独特的挑战。但深入思考这些棘手的问题也帮助布斯、布利科和奥奇加姆学习、成长，并通过其他学科的视角看待世界。

他们希望 6.036 的本科生和助教能够牢记这些重要的课程，并融入他们未来的职业生涯。

“这个过程让我受到启发和鼓舞，我学到了很多东西，不仅仅是技术材料，还有跨学科合作可以实现的目标。只是这种努力的规模令人兴奋。如果我们有这 500 名学生组成的队列，他们能够更好地了解如何思考这些问题，我觉得我们真的可以有所作为，”Boulicault 说。