人工智能思想家似乎来自两个群体。一个是我称之为有远见卓识的人，他们推测这项技术的未来可能性，并援引乌托邦式的幻想来激发兴奋感。有远见卓识的想法引人入胜，但往往被不切实际的愿景以及可以而且应该构建什么的伦理挑战所笼罩。
相比之下，我称之为脚踏实地的实干家则专注于问题和解决方案。他们希望减少广泛使用的、注入人工智能的系统可能造成的危害。他们专注于修复有偏见和有缺陷的系统，例如面部识别系统，这些系统经常错误地将人识别为罪犯或侵犯隐私。实干家希望减少人工智能可能造成的致命医疗错误，并引导自动驾驶汽车成为安全驾驶汽车。他们的目标还在于改进基于人工智能的关于抵押贷款、大学录取、工作招聘和假释授予的决策。
作为一位拥有长期设计并广泛实施创新应用的计算机科学教授，我认为有远见卓识的人将受益于采纳脚踏实地的现实主义者的深思熟虑的信息。结合这两个阵营的工作更可能产生有益的结果，从而带来成功的下一代技术。
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您正在帮助确保关于塑造我们当今世界的发现和想法的有影响力的故事的未来。
虽然有远见卓识的投机者的未来主义思想激发了我们的敬畏并赢得了大部分资金，但脚踏实地的思想提醒我们，某些人工智能应用威胁着隐私，传播错误信息，并且明显带有种族歧视，性别歧视，以及其他在道德上可疑的应用。机器无疑是我们未来的一部分，但它们会平等地为所有未来人类服务吗？我认为，脚踏实地阵营的谨慎和务实将在短期和长期内造福人类，确保在日益控制我们日常生活的算法开发中实现多样性和平等。如果具有远见卓识的思想家将脚踏实地的现实主义者的担忧融入到他们的设计中，他们就可以创造出更有可能促进人类价值观、权利和尊严的未来技术。
有远见卓识的思考在人工智能发展的早期就开始了。文献主要由那些率先开发这项技术并预示其将不可避免地改变社会的作者所主导。人工智能的“鼻祖”通常被认为是来自麻省理工学院的 Marvin Minsky 和 John McCarthy 以及来自卡内基梅隆大学的 Allen Newell 和 Herb Simon。他们聚集在会议上，例如 1956 年的达特茅斯会议，激发了热情，Simon 在 1965 年的预测中就体现了这一点，他预测“机器将在 20 年内能够完成任何人都能做的任何工作。”
人工智能还有许多其他贡献者，包括 2018 年的三位 图灵奖获得者：Geoffrey Hinton、Yoshua Bengio 和 Yann LeCun。他们在深度学习算法方面的工作是一个重要贡献，但他们对人工智能的重要性和必然性的持续赞扬，包括 Hinton 在 2016 年令人不安的引言，即“人们现在应该停止培训放射科医生。很明显，五年内深度学习将比放射科医生做得更好。”更以人为中心的观点是，深度学习算法将成为另一种工具，就像乳房X光片和血液测试一样，使放射科医生和其他临床医生能够做出更准确的诊断并提供更合适的治疗方案。
机器人取代人类，从而造成普遍失业的主题，被牛津大学 2013 年的一份报告合法化，该报告声称 47% 的工作岗位可以自动化。未来学家 Martin Ford 在 2015 年出版的《机器人的崛起》一书中抓住了这个想法，描绘了一幅令人不安的画面，即低技能和高技能工作都变得如此完全自动化，以至于政府将不得不提供全民基本收入，因为剩下的工作岗位寥寥无几。现实情况是，精心设计的自动化提高了生产力，从而降低了价格，提高了需求，并为许多人带来了好处。这些变化引发了强劲创造新工作岗位的并行现象，这有助于导致美国和一些其他国家目前的高就业水平。
是的，也有作者提出了警示故事和不同的愿景，例如麻省理工学院教授 Joseph Weizenbaum 在他 1976 年出版的《计算机力量与人类理性》一书中，但这些都是例外。
脚踏实地的实干家掀起了一股新的深思熟虑的人工智能批评浪潮。他们将讨论从有远见卓识的乐观主义转向明确识别对人类尊严、公平和民主的威胁。2016 年白宫研讨会和专栏文章是有益的举措，数学家 Cathy O’Neil 在 2016 年出版的《数学杀器》扩大了受众。她专注于不透明的人工智能算法在大规模应用于决定假释、抵押贷款和工作申请时可能造成的危害。O’Neil 的有力例子促进了以人为本的思考。
其他书籍，例如 Ruha Benjamin 的 《种族之后的技术：新吉姆代码的废奴主义工具》，跟进了如何改变算法以增加经济机会和减少种族偏见。
社会心理学家 Shoshanna Zuboff 在 2019 年出版的《监控资本主义时代》中展示了从谷歌早期“不作恶”的座右铭到“混淆这些过程及其影响”的精心策划的努力的转变。Zuboff 的解决方案是呼吁改变商业模式、民主监督和隐私保护区。学者 Kate Crawford 在她 2021 年出版的《人工智能图集》中提出了另一项具有破坏性的脚踏实地分析，该书重点关注人工智能对工作、环境、人际关系和民主的剥削性和破坏性力量。她在为美国国家工程院做的引人入胜的讲座中提炼了她的信息，描述了人工智能研究人员和实施者可以采取的建设性行动，同时鼓励政府监管和个人努力保护隐私。
脚踏实地的活动家因其积极的研究贡献而获得认可，这些贡献提供了有益于人们的巧妙设计。2021 年 10 月，Cynthia Rudin 因其“人工智能造福人类”的工作而获得了由人工智能促进协会颁发的 100 万美元奖金。她对可解释形式人工智能的研究是对不透明的黑匣子算法令人费解的复杂性的回应，这使得人们很难理解为什么他们的假释、抵押贷款或工作申请被拒绝。
许多脚踏实地的思想家是女性，但男性也公开表示需要人道主义监督。技术先驱 Jaron Lanier 也在他的《立即删除你的社交媒体账户的十个理由》中提出了担忧，该书指出了社交媒体的危害，并建议用户更多地控制他们对社交媒体的使用。法学学者 Frank Pasquale 的《机器人技术新法则》解释了为什么人工智能开发人员应该重视人类专业知识，避免技术军备竞赛，并对他们创造的技术承担责任。然而，通过以人为本的设计来确保人类控制，将需要在国家政策、商业实践、研究议程和教育课程方面进行重大变革。
这个阵营中多样化的工作者——包括女性、非二元性别者、残疾人士和有色人种——拥有重要的信息，以确保有远见卓识的梦想可以转化为造福人类和保护环境的可实现的产品和服务。
这是一篇观点和分析文章，作者或作者表达的观点不一定代表《大众科学》的观点。