拿出一项先进技术。加入一点幻想。充分搅拌，观察事态发展。
这是好莱坞科技灾难大片的完美配方。虽然陈词滥调，但这正是我们经常为新兴技术设想的场景。想想超智能机器、实验室培育的人类、重新设计整个物种的能力——你明白我的意思了。
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您正在帮助确保有关塑造我们今天世界的发现和想法的具有影响力的故事的未来。
当然，现实世界通常要平凡得多：与其说是“僵尸末日”，不如说是“青少年戏弄超级计算机；教它坏习惯”。
纵观今年世界经济论坛（WEF）评选的十大新兴技术，这可能是一件好事。
自 2012 年以来，我一直是一个世界经济论坛顾问小组的成员，该小组帮助编制一份年度新兴技术清单，这些技术有望改变我们的生活。今年的清单包括自动驾驶汽车、区块链（比特币背后的技术）、下一代电池以及一些开始崭露头角的其他技术。
该清单旨在提高人们对潜在变革技术的认识，以便投资者、企业、监管机构和其他人了解即将发生的事情。这也是一个让我们思考随着技术成熟可能会出现哪些问题机会。
诚然，其中一些技术会超出最有创造力的末日编剧的想象力——我怀疑，“石墨烯末日”或“钙钛矿电池之日”还需要一段时间才能登上银幕。但其他一些技术则显示出在夏季惊悚片中出现的巨大潜力，包括“控制大脑”的光遗传学和听起来神秘的“纳米物联网”。
不过，撇开好莱坞的幻想不谈，很难预测新兴技术可能存在的缺点。然而，这正是我们需要做的，以确保它们在长期内得到负责任的开发。
技术问题，技术解决方案
人们很容易会问，像今年十大技术中的技术可能会造成哪些具体的危害，然后简单地找出如何“解决”这些问题。例如，我们如何确保“有逻辑”的自动驾驶汽车与不那么“有逻辑”的人类安全地共享道路？或者，我们如何防止基因编程用于生产商业化学品的细菌污染环境？这些都是可以通过技术解决方案解决的风险。
但是，关注这些问题可能会掩盖新兴技术中固有的更为微妙的危险，这些威胁不易通过技术手段解决，而且我们很容易忽视。
例如，注入互联网连接的纳米传感器，向世界揭示你最私密的生物学细节，可能会带来仅靠技术无法解决的社会和心理风险。
围绕“开放式人工智能（AI）生态系统”也存在类似的担忧——这是亚马逊的 Echo、苹果的 Siri 和微软的 Cortana 等系统的下一步发展。通过结合“倾听”设备、云计算和物联网，机器越来越能够将理解正常对话的能力与根据它们听到的内容采取行动的能力结合起来。这是一个真正具有变革性的技术平台。但是，当这些人工智能生态系统开始窃听私人对话并与他人分享时会发生什么？或者独立决定什么对你最有利？这些可能性引发了仅靠技术解决方案难以解决的伦理和道德问题。
扩展我们对价值的理解
一种梳理新兴技术可能产生的更微妙影响的方法是将风险视为对某种有价值的东西的威胁——这个概念嵌入在风险创新这个相对较新的概念中。这种“价值”取决于对不同个人、社区和组织而言重要的东西。
在这种情况下，健康、财富和可持续环境显然是重要的“有价值的东西”，生计、食物、水和住所也是如此。对这些任何一项的威胁都符合更传统的方法来理解风险——例如，健康风险可以理解为威胁让你生病的东西，而环境风险可以理解为威胁环境完整性的东西。
但是，我们也可以将对有价值事物的威胁这一概念扩展到不太常见的风险类型：例如，对自我价值、文化、安全感、公平，甚至是根深蒂固的信仰的威胁。
这些涉及定义我们作为个人和社区的事物，并触及给予我们目标感和归属感的本质。通过这种方式，相关的威胁可能包括因新技术夺走你的工作而导致的不公平或自我价值感的削弱。或者，担心谁知道关于你的什么以及他们可能如何使用它。或者，担心因使用新技术而导致社会边缘化。甚至，对神圣信仰（如生命的圣洁或自由选择的权利）受到新兴技术能力挑战的恐惧。
这些威胁不容易捕捉。然而，它们对人们产生了深远的影响——因此，也对新技术如何开发和使用产生了深远的影响。更广泛地将风险视为对价值的威胁，对于理解技术创新可能产生的意外后果以及如何避免这些后果尤其有帮助。
错过新技术的风险
这种风险处理方法也为考虑不开发技术的潜在风险打开了大门。除了现有价值外，未来价值对大多数人和组织也很重要。
例如，自动驾驶汽车最终可以防止数十万起道路死亡；光遗传学——利用基因工程和光来操纵脑细胞活动——可以帮助治愈或控制使人衰弱的神经系统疾病；而石墨烯等材料可以确保比以往任何时候都有更多的人获得廉价的清洁水。不开发这些技术可能会威胁到许多人认为极其有价值的东西。
当然，另一方面，这些技术也可能威胁到某些人认为重要的东西。自动驾驶汽车可能会破坏人类的责任感，更不用说驾驶的乐趣了。光遗传学提出了非自愿神经控制的可能性。如果大量释放到环境中，石墨烯可能对某些生态系统有害。
通过考虑新兴技术如何与我们认为重要的东西相互作用，就可以更容易地权衡开发这些技术可能存在的缺点——或者至少是在没有充分考虑的情况下开发这些技术——与阻止其开发或完全不开发这些技术的缺点进行比较。
最大的风险
当将风险视为对价值的威胁时，出现的是一种更丰富的思考方式，即新兴技术如何影响人、社区和组织，以及如何负责任地开发这些技术。这种方法迫使我们认识到，开发新技术的后果是复杂的，并以不同的方式影响着人们——并非所有方式都朝着更好的方向发展。这不一定是一个令人舒服的重新概念化——但是从这个新的角度看待风险确实为造福许多人而不是少数人的技术铺平了道路，而不是相反。
在现实中，与好莱坞大片的简单性不同，与新兴技术相关的风险很少是明确的，而且几乎从不简单明了。然而，它们确实存在。今年的每一项世界经济论坛十大新兴技术都有可能威胁到某些人或组织有价值的东西——无论是破坏既有技术或商业模式、危及就业机会，还是影响健康和福祉。
这些危险是特定于环境的，常常相互交织在一起，有时会相互冲突，而且常常与不开发技术的风险相平衡。然而，理解和解决这些危险对于实现这些技术提供的长期利益至关重要。
也许，这里存在最大的风险——要么在我们热衷于开发这些技术，要么在我们受好莱坞启发的对潜在后果的恐惧中，我们忽视了开发新技术以使我们的世界变得更美好的价值，而不仅仅是一个不同的世界。
安德鲁·梅纳德是世界经济论坛纳米技术全球议程委员会的联合主席，也是世界经济论坛新兴技术元委员会的成员。
本文最初发表在The Conversation。阅读原文。