本文发表于《大众科学》的前博客网络，反映了作者的观点，不一定反映《大众科学》的观点
我希望我有一个人工智能奴隶。我是说，助手。一个数字虚拟形象——称之为我的 AI——它知道（“知道”？）我的思维和写作方式，这样当我的灵感枯竭时，它可以做我的工作。
例如，现在。上周末我在纽约大学听哲学家、科学家和工程师们滔滔不绝地谈论“人工智能伦理”。我们如何确保无人驾驶汽车、无人机和其他智能技术——例如决定人类是否获得假释或贷款或患有乳腺癌的算法——得到合乎伦理的使用？此外，如果机器变得非常聪明会发生什么？我们能否将它们设计成对我们友善？我们是否必须对它们友善？
演讲者以各种方式回应了这些问题，听众也是如此。我应该如何写这篇文章？选择太多了！
关于支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道： 订阅。通过购买订阅，您正在帮助确保未来能够继续讲述关于塑造我们当今世界的发现和思想的具有影响力的故事。
我是一名作家，所以我的 AI 必须生成文本，即使视频报道更明智，以页面浏览量的概率衡量。我的 AI 可以通过释义和修剪冗余来转录和压缩演讲，但这不会令人印象深刻。
我的 AI 面临的最大选择是认真对待会议还是将其视为轻松的娱乐。如果是后者，我的 AI 可以假装成八卦专栏作家，并以粗体列出会议上的名人，相当于知识界的坎耶和金。他们包括大卫·查尔默斯和内德·布洛克（会议联合组织者）、丹尼尔·卡尼曼、尼克·博斯特罗姆、马克斯·泰格马克、伊利泽·尤德科夫斯基和斯蒂芬·沃尔夫勒姆。弗朗西斯·卡姆和托马斯·内格尔不是预定的演讲者，但从听众席上插话。
我的 AI 可以根据演讲者的谷歌排名和/或流行语来优先考虑引语。它可以标记引起最多听众反应的评论，通过姿势（直立与懒散）、会后提问和笑声来衡量。
我的 AI 可以制作相当于花絮集锦的东西。例如，在无数次关于电车难题的讨论中，有人说任何有知觉的事物都比任何无知觉的事物更有价值。弗朗西斯·卡姆反驳说，她会杀死一只鸟来拯救大峡谷。
尤德科夫斯基的演讲期间爆发了另一阵笑声。当他强调关闭一台超智能机器可能有多么困难时，来自纽约大学无线网络的消息不断阻止他的幻灯片。“我不知道如何关闭互联网！”尤德科夫斯基哀嚎道。
哈哈。当一位 IT 女士跳上舞台，用几次击键就解决了这位人工智能理论家的实际问题时，我更加感到好笑。但我的 AI 可能不会欣赏到那个小事件的讽刺意味。
性能够吸引眼球，所以我的 AI 可能会关注凯特·德夫林关于性机器人的演讲，性机器人现在是真实存在的东西，而不仅仅是科幻小说。如果性机器人变得非常智能，以至于有可能变得有知觉，我们是否必须赋予它们权利？（德夫林的演讲引发了会议上最奇怪的问答交流。一位听众说手淫是不道德的，所以性机器人也是。德夫林似乎不确定这个人是否在开玩笑，她干巴巴地说她不同意这个人的前提。）
暴力也能制造良好的点击诱饵。所以我的 AI 可能会重点介绍彼得·阿萨罗关于自主武器，又名“杀手机器人”的演讲。我的 AI，模仿我的语气，可能会抱怨这种科幻小说般的杀手机器人噱头分散了我们对一个更紧迫问题的注意力。自 9/11 以来，美国及其盟友已经用无人机、火箭、炸弹和子弹杀死了数千名平民，包括儿童。那么那种行为的伦理又如何呢？
但也许这种回应是一种范畴错误，类似于认真对待唐纳德·特朗普的“外交政策”。（会议上多次提到特朗普。演讲者暗示，他的受欢迎程度表明，许多人类并不聪明或合乎伦理。机器肯定可以做得更好。）
我的 AI 会意识到我的偏见并试图克服它们，但不会太多，因为我到底是什么呢，只不过是一堆偏见？知道我是多么容易产生强迫性的怀疑，我的 AI 可能会关注关于人工智能程序有多么愚蠢的评论，尽管有所有的炒作。扬·勒丘恩指出，即使是备受吹捧的深度学习程序也无法真正自主学习。人工智能程序仍然需要来自人类的反馈才能知道它们是对还是错。
加里·马库斯说，尽管硬件和物体识别技术取得了巨大进步，但计算机仍然缺乏一个普通孩子的常识。它们也缺乏做出伦理判断所需的抽象知识。任何人类青少年都可以分辨出电影中的好人和坏人，但计算机不能。
我的 AI 可能会转述托马斯·内格尔的警告，即数千年来对伦理学的哲学探究产生了深刻的分歧。因此，自动化伦理学可能被证明是难以捉摸的。
丹尼尔·卡尼曼指出，我们不知道物质是如何产生意识的。我们知道自己是有意识的，但当我们认为其他事物变得越来越不像我们时，我们对它们有意识的信心就会减弱。我们只剩下直觉。因此，我的 AI 可能会补充说，所有关于我们应该如何最大程度地减少性机器人和其他智能机器的痛苦的讨论可能都是没有意义的。
博斯特罗姆和其他演讲者专注于人类目标与超智能、有意识机器的目标之间可能存在的错位。我的 AI 可能会争辩说，这些担忧是如此的假设性，以至于它们很愚蠢。我们应该更担心普通公民与正在开发人工智能的强大公司和政府机构之间的目标错位。
我的 AI，如果它想变得真正严肃，可能会构建一个强硬的新马克思主义论点，即人工智能将如何帮助其本已强大的创造者变得更加强大。我的 AI 将扩展温德尔·瓦拉赫的担忧，即人工智能将反映构建它们的工程师的偏见。我的 AI 可能会更进一步，警告说人工智能很可能反映我们军事化、资本主义、种族主义、性别歧视文化的价值观。
但是谁会想读那个呢？我的 AI，如果它足够聪明，就会选择电车难题的笑话和性机器人。
延伸阅读:
闪回：我对图森首次意识研讨会的报道。自那时以来，科学取得了多大进展?