本文发表在《大众科学》的前博客网络中，反映了作者的观点，不一定反映《大众科学》的观点
人工智能仍处于起步阶段。但它很可能被证明是有史以来最强大的技术。它有潜力改善健康，增强智力，提高生产力，拯救环境，并增强自由和民主。
但是，随着人工智能的智能不断提高，以不负责任的方式使用人工智能的危险也带来了人工智能可能成为社会和文化氢弹的潜力。 这项技术可能会剥夺我们的自由，增强专制政权和种族灭绝，控制我们的行为，将我们变成人类机器，并最终将我们变成奴隶。 因此，我们必须非常小心人工智能的崛起； 我们不敢犯错。 而我们最好的防御措施可能是对人工智能进行极端节食。
我们已经知道人工智能的某些威胁性属性。 首先，这项技术的进步一直并将继续令人震惊地迅速。 许多人可能最近震惊地读到微软宣布人工智能在阅读X光片方面被证明比训练有素的放射科医生更好。 大多数报纸读者没有意识到他们每天阅读的报纸有多少是人工智能撰写的。 这本不应该发生； 机器人应该取代体力劳动工作，而不是专业的脑力劳动。 然而，我们现在看到：人工智能正在迅速吞噬整个行业——而这些工作将永远不会回来。
关于支持科学新闻业
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻业 订阅。 通过购买订阅，您正在帮助确保有关发现和塑造我们当今世界的想法的具有影响力的故事的未来。
我们也在越来越接近创造出能够实现通用人工智能的机器——也就是说，像人类一样智能的机器。 我们可能永远无法完全达到真正的意识，但就处理能力、推理、隐喻甚至后天获得的智慧而言，很容易想象人工智能超越人类。 20多年前，国际象棋大师加里·卡斯帕罗夫与IBM的超级计算机“深蓝”对弈时，感受到了棋盘另一端的思想。 今天，世界各地有数十万台计算机比“深蓝”更强大——这还不包括数百万台可以访问云的个人计算机。
我们也知道，逐利动机以及权力和控制的欲望已经推动了大量反社会应用程序的快速增长。 我们只需要看看中国政府使用面部识别和其他人工智能技术来控制其公民的行为，就能看到这样一条轨迹。 该国的社会信用体系监控数百万公民的行为，奖励他们政府认为的“良好”行为，并惩罚他们“不良”行为——通过扩大或限制他们访问日常生活机构的权限。 那些受到惩罚的人甚至常常不知道他们的生活正在受到限制。 他们只是没有获得邻居享有的地点、晋升、娱乐和服务。
与此同时，在自由世界，最令人担忧的威胁是工业界利用人工智能来剥削我们——以及特殊利益集团建立和操纵亲和力群体以加剧社会两极分化。 后一项活动在像今年这样的选举年中尤其令人震惊。 我们也对执法部门、国税局和监管机构使用人工智能来更好地监视可能犯罪、逃税和犯下其他违规行为的人感到担忧。 其中一些是必要的——但如果没有护栏，可能会导致警察国家。
听起来很极端？ 想想看，我们所有人现在都违背自己的意愿被拘留，甚至常常在我们不知情的情况下，被关在所谓的“算法监狱”中。 我们不知道是谁判处我们入狱，甚至不知道刑期。 我们所知道的是，根据某些人工智能系统对我们行为（例如信用评级低）做出的决定，我们的选择正在受到限制。 预先决定正在对我们看到的信息做出：一家公司是否会查看我们的简历，或者我们是否有资格获得优惠利率的房屋贷款，我们是否可以租到某个公寓，我们必须支付多少汽车保险（我们的驾驶质量由连接到我们发动机计算机的新设备监控），我们是否能进入我们选择的大学，以及警察是否应该密切监控我们的行为。
展望未来，我们可以肯定，这种监控将会增长。 我们也知道，人工智能将被团体用来招募成员和影响他们的观点，并被外国政府用来影响选举。 我们也可以肯定，随着人工智能工具变得更加强大，以及物联网的增长，虚拟武器库将变得更具商业和社会致命性。
我们需要采取行动。 问题是，即使是现在，也很难把马放回马厩。 对人工智能日益增长的力量的担忧已经导致了斯蒂芬·霍金和埃隆·马斯克等人的警告。 但很难弄清楚在立法方面该怎么做。 我们还没有看到任何能够在不扼杀人工智能巨大潜在优势的情况下产生广泛影响的提案。
欧洲人现在拥有“解释权”，这要求对人工智能系统做出的所有决定提供人类可读的理由。 当然，这种透明度是可取的，但不清楚它能有多大好处。 毕竟，人工智能系统处于不断变化之中。 因此，根据发现不公正现象而采取的任何行动都将像塑造水一样。 人工智能只会采用不同的形状。
我们认为更好的方法是让人工智能不那么强大。 也就是说，不是控制人工智能，而是让它进行极端节食。 那么人工智能消耗什么呢？ 我们的个人信息。
如果人工智能系统和负责“虚拟监狱”的算法无法获得这些个人信息，无法满足它们对这些数据的贪婪需求，它们必然会变得不那么具有侵入性和强大。
我们如何扼制这种个人信息的流动？ 一种显而易见的方法是赋予个人对其私人数据的所有权。 今天，我们每个人都被我们不断生成的数据光环所包围。 而这些数据对任何希望捕获和从中获利的人来说都是免费的目标。 为什么不将这些信息存储在信息受托人（如 Equifax）的保险箱等同物中，而不是让这些信息直接流入世界的服务器呢？ 一旦安全地存储在那里，消费者就可以决定谁可以访问这些数据。
例如，假设消费者想要获得贷款，他或她可以将相关信息发布给信贷提供商——信贷提供商反过来将有权将该信息用于该个案。 如果消费者想从Facebook等公司获得免费服务，他或她可以为该应用程序单独提供相关信息。 如果政府需要访问该信息以抓捕恐怖分子，则需要获得搜查令。 （这种系统的另一个优点是，消费者只需到一个地方即可检查文件中信息的准确性。）
在人工智能系统掌握关于我们每个人的无限知识之前，人类社会已经存在了数千年。 即使我们通过剥夺机器的个人信息来限制这种知识，它也将继续存在。 人工智能仍然能够提高经济效率，创造医疗进步，减少交通，并制定更有效的法规以确保环境健康。 它将不太能够做的是威胁人类的自主权、自由和对幸福的追求。
就人工智能而言，精简意味着不那么刻薄。 现在是对人工智能进行数据节食的时候了。