本月，我的《大众科学》专栏是关于麻省理工学院教授马克思·泰格马克以及他对人工智能潜在阴暗面敲响的警钟。与他一起登上头条的还有同样担忧的公民比尔·盖茨、埃隆·马斯克和斯蒂芬·霍金。（特斯拉汽车公司和SpaceX创始人马斯克表示，人工智能是人类“最大的生存威胁”。）
泰格马克是一位引人入胜的思想家。以下是我们关于为何我们应该谨慎地走上创造超智能人工智能之路的对话中的一些精彩摘录。
为什么我们必须谨慎编程人工智能
“如果你走在人行道上，那里有一只蚂蚁，你会为了好玩而主动去踩它吗？”（我：“不会。”）
关于支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您将帮助确保有关当今塑造我们世界的发现和想法的具有影响力的故事的未来。
“现在，假设你负责这个大型水力发电厂，它将为美国的一个大区域带来绿色能源。就在你打开水闸之前，你发现蚁丘正好位于洪泛区的中间。你会怎么做？这对蚂蚁来说太糟糕了，对吧？这并不是说你讨厌蚂蚁。这并不是说你是一个邪恶的杀蚂蚁者。只是你的目标与蚂蚁的目标不一致，而且你比蚂蚁更强大。蚂蚁真倒霉。我们希望在未来设计人工智能，以便我们最终不会成为那些蚂蚁。”
为什么你不能只是编程人工智能不伤害我们
“如果你想想像迈达斯国王的故事这样的古老神话，例如，他希望他触摸到的一切都变成黄金。这听起来像是一个非常聪明的想法，直到所有他想吃的食物都变成了黄金。然后他给了他的女儿一个拥抱。哎呀！因此，真正听话的智能机器的问题在于，它们会完全按照我们告诉它们的方式去做；字面上地。”
暴富综合症
“如果我，或者我拥有的公司，成为世界上第一个开发出真正超人类智能的公司，当然，那么我可以很快成为世界上最富有的人，在股市中胜过所有人，比所有人更快地获得专利，在网络上撰写大量精彩的文章，说服人们我是最伟大的人。现在突然发生的事情是，我，在没有任何人投票给我的情况下，被赋予了对人类命运的巨大权力。我不知道你是否想要那样。也许你应该对谁控制这项技术有发言权。当然，地球上有些人是我不希望他们掌管这项技术的。”
时机
“在1925年，当核武器还只是一个想法时，向某人解释核武器的危险将非常困难。这就是我们现在在人工智能方面所处的位置：人们担心的事物并不存在。它们可能会在20年、50年或100年后存在。而可能出错的基本想法实际上非常古老。现在，突然之间，很多人开始认真对待这可能真的会在我们有生之年发生。所以我们现在应该考虑一下。”