以下文章经许可转载自The Conversation，这是一个报道最新研究的在线出版物。
计算机专业人士几乎处于现代世界各个方面的前沿。当黑客从一家大型公司窃取数十万人的个人信息时，他们参与应对。他们的工作可以保护——或危害——关键基础设施，例如电网和交通线路。他们编写的算法可能会决定谁能获得工作，谁能获得银行贷款批准，或者谁能获得保释。
技术专业人士是防御技术滥用的第一道也是最后一道防线。没有人比他们更了解系统，也没有人能像他们一样保护特定的数据元素，或确保一个组件与另一个组件之间的连接是适当、安全和可靠的。随着计算机在社会中的作用持续数十年的扩展，计算机科学家对于接下来发生的事情至关重要。
关于支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您正在帮助确保有关塑造我们当今世界的发现和想法的具有影响力的故事的未来。
这就是为什么世界上最大的计算机科学家和工程师组织——美国计算机协会（我是该协会的主席）发布了面向计算专业人士的新道德规范。这也是为什么 ACM 正在采取其他措施来帮助技术专家参与道德问题。
为公共利益服务
道德规范不仅仅是一份纸质文件。有数百个核心价值观和标准的例子，每个领域的成员都必须遵守这些标准，包括管风琴师协会和户外广告协会。世界上最古老的道德规范也是最著名的：希波克拉底誓言，医务人员宣誓负责任地照顾他们的病人。
我怀疑希波克拉底誓言之所以出名，原因之一是医疗是多么的个人化，人们的生命危在旦夕。对于患者来说，确信他们的医护人员将他们的利益牢记在心非常重要。
在许多方面，技术也同样具有个人性。在现代社会中，计算机、软件和数字数据无处不在。它们在笔记本电脑和智能手机、社交媒体和视频会议中可见，但它们也隐藏在帮助管理人们日常生活的设备中，从恒温器到咖啡机的定时器。自动驾驶汽车、传感器网络和机器学习的新发展意味着计算将在未来几年在日常生活中发挥更加核心的作用。
一个不断变化的行业
作为这些技术的创造者，计算专业人士帮助开创了现代生活崭新而充满活力的节奏。但是，随着计算机越来越融入生活结构，我们这个行业的从业人员必须亲自重新承诺通过道德行为为社会服务。
ACM 上一次的道德规范是在 1992 年通过的，当时许多人认为计算工作纯粹是技术性的。互联网还处于起步阶段，人们才刚刚开始了解广泛聚合和分发信息的价值。人工智能和机器学习还需要数年才能在研究实验室之外得到应用。
今天，技术人员的工作可能会以意想不到的、甚至是不可预测的方式影响人们的生活和生计。我不是受过伦理学训练的伦理学家，但我很清楚，当今计算领域的任何人都可以从关于伦理思维和行为的指导中受益。
规范的更新
ACM 新的道德规范与 1992 年的版本有几个重要的区别。其中一个与意外后果有关。在 20 世纪 70 年代和 80 年代，技术人员构建的软件或系统的影响仅限于特定地点或情况。但在过去的二十年中，人们越来越清楚地认识到，随着技术的进步，它们可以应用于与最初意图截然不同的环境。
例如，计算机视觉研究已经产生了基于 2D 图像创建物体（和人）的 3D 模型的方法，但这绝不是为了与监视或无人机应用中的机器学习结合使用。旧的道德规范要求软件开发人员确保程序实际上能够实现他们所说的功能。新版本还告诫开发人员明确评估他们的工作，以识别潜在的有害副作用或滥用的可能性。
另一个例子与人机交互有关。1992 年，大多数软件是由训练有素的程序员开发的，用于运行操作系统、数据库和其他基本计算功能。今天，许多应用程序依赖于用户界面来直接与潜在的大量人群互动。更新后的道德规范包括更多关于非常多样化的潜在用户的需求和敏感性的详细考虑——包括讨论歧视、排斥和骚扰。
越来越多的软件正在开发中，无需或几乎无需人工输入或理解即可运行，从而产生分析结果以指导决策，例如何时批准银行贷款。输出可能会产生完全意想不到的社会影响，对整类人群产生偏见——例如最近的案例，数据挖掘预测谁会拖欠贷款，结果显示对寻求长期贷款的人或居住在特定地区的人存在偏见。还存在所谓的“误报”的危险，即计算机将两个不应该连接的事物联系起来——例如，面部识别软件最近将国会议员与罪犯的大头照匹配。修订后的规范告诫技术专家要特别注意避免创建有可能压迫或剥夺整个人群权利的系统。
技术中的生活伦理
该规范的修订历时两年多，包括 ACM 成员以及组织外部甚至计算和技术专业之外的人员。所有这些观点都使该规范变得更好。例如，一位政府雇用的武器设计师询问，这份工作是否天生就需要违反该规范；措辞已更改为澄清系统必须“符合公共利益”。
现在规范已经发布，还有更多工作要做。ACM 创建了一个案例研究库，展示了如何在各种现实情况下应用伦理思维和指南。该小组的“咨询伦理学家”博客和视频系列邀请公众提交他们在实践中出现的场景或难题。目前还在进行开发教学模块的工作，以便将这些概念从小学到大学融入计算教育中。
反馈绝大多数是积极的。我个人最喜欢的评论是一位年轻程序员在阅读规范后说的：“现在我知道如果我的老板再要求我做类似的事情，我该怎么告诉他了。”
《ACM 道德与职业行为准则》以“计算专业人士的行为改变世界”这句话开头。我们不知道我们的规范是否会像希波克拉底誓言那样长久。但它突显了全球计算界理解我们工作的影响——并认真对待我们对公共利益的义务——是多么重要。
本文最初发表于The Conversation。阅读原始文章。