1797 年，在工业时代初期，歌德写下了《魔法师的学徒》这首诗，讲述了一个魔法师学徒，由于他的傲慢和半吊子的能力，释放了一连串他无法控制的事件。
大约 20 年后，年轻的玛丽·雪莱应邀写一个鬼故事，她在日内瓦湖畔的一次小型聚会上分享了这个故事。她的故事后来于 1818 年 1 月 1 日以小说《弗兰肯斯坦；或，现代普罗米修斯》出版。
两者都是关于我们创造出拥有自己生命的事物的故事。
支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您将帮助确保未来能够继续刊登关于发现和塑造我们今天世界的想法的具有影响力的报道。
歌德的诗在学徒惊慌失措地呼救时达到了高潮
师傅，快来帮帮我！
我错了，竟然召唤
精灵，我承认，
因为我发现他们令人恼火，
现在无法统治他们了。
虽然幸运的是，师傅及时赶回，取消了危险的咒语，但雪莱的故事结局却不那么美好：维克多·弗兰肯斯坦的怪物开始了一场杀戮暴行，而他的创造者却无法阻止这场屠杀。
是谁预言了我们的命运：歌德还是雪莱？
这就是我们在“弗兰肯斯坦”200 周年纪念日面临的问题，因为我们发现自己正在努力应对我们创造的 unintended consequences，从 Facebook 到人工智能和人类基因工程。我们将安全度过，还是会像维克多·弗兰肯斯坦一样，目睹“毁灭和绝对的痛苦”？
科学会拯救我们吗？
在歌德的诗中，灾难通过更巧妙地运用最初引发问题的魔法而得以避免。如今，对此的术语是“反思性现代性”——现代技术可以用来解决自身创造的任何问题的观点。无论技术科学产生什么问题，我们都可以用更多的技术科学来解决。在环保主义中，这被称为生态现代主义。在超人类主义圈子里，这被称为前瞻性原则，该原则“不仅包括在行动前预测，还包括在行动中学习。”
相比之下，《弗兰肯斯坦》是一个警示故事。人类怀有改造自然的冲动，却冒着超越自身适当界限的风险。维克多·弗兰肯斯坦开始后悔自己渴望变得“比他的天性所允许的更伟大”的野心。
他哀叹道：“向我学习……知识的获取是多么危险，而一个认为自己的家乡就是全世界的人是多么幸福。”
他似乎在警告说，傲慢自大会导致我们所有人走向灭亡。
硅谷拒绝者的崛起
这种对傲慢的担忧似乎也正在今天的科学家、工程师和企业家中蔓延，他们中的许多人似乎开始感到胆怯。在创造出某些东西之后，他们转过头来谴责他们自己的创造物。
他们是像学徒一样呼唤会来拯救我们的师傅吗？还是像弗兰肯斯坦一样，从事着一场徒劳的尝试，想要扼杀已经超出我们控制范围的东西？
想想肖恩·帕克。Napster 的联合创始人、Facebook 的早期投资者最近宣布自己是社交媒体的“良心拒服兵役者”。他声称，Facebook 可能会损害儿童的大脑，并且肯定是在利用人类的心理弱点。
硅谷还有更多的拒绝者。Facebook“点赞”按钮的发明者贾斯汀·罗森斯坦已经从他的手机上删除了该应用程序，理由是担心成瘾、持续的部分注意力障碍以及社交媒体之手下民主的衰落。前谷歌员工特里斯坦·哈里斯和发明了推特信息流老虎机式下拉刷新机制的洛伦·布里希特都在警告我们注意他们创造的危险。
安东尼·英格拉菲亚在他工程职业生涯的头 25 年里，一直试图弄清楚如何从岩石中开采出更多的化石燃料。从 1978 年到 2003 年，他致力于政府和行业资助的项目，以改进水力压裂技术。他自己的研究从未取得成功，但当他了解到其他人的成功以及所需的化学品和水的量时，他“惊恐万分”，并说，“就好像[我]一生都在研究某件事，而有人来把它变成了弗兰肯斯坦。”在过去的十年里，他已成为美国主要的压裂反对者之一。曾经资助他的行业现在经常对他进行网络暴力和攻击。
詹妮弗·杜德娜是基因编辑技术 CRISPR 背后的主要科学家之一。在她新书《创造的裂缝》中，她写道，CRISPR 可以消除多种疾病并改善生活，但它也可能被用于类似于纳粹优生学的方式。杜德娜透露，她做噩梦时，希特勒会要求她解释“这项惊人技术的用途和影响”。
埃隆·马斯克担心，对于人工智能，我们是在“召唤魔鬼”。对他来说，人工智能是“我们最大的生存威胁”。马斯克已经超速实现了弗兰肯斯坦博士最初逃避其可憎创造物的冲动：他正在致力于星际殖民，以便当人工智能在地球上失控时，我们可以一路逃到火星。
像对待孩子一样对待技术
人类学家布鲁诺·拉图尔批评马斯克的这种做法。拉图尔认为，《弗兰肯斯坦》的寓意不是我们应该停止制造怪物，而是我们应该爱我们的怪物。问题不在于弗兰肯斯坦博士的傲慢，而在于他的冷酷无情——他抛弃了他的“孩子”，而不是教育它，让它学会如何表现。
拉图尔的观点是，任何技术进步都不会让我们获得完全的控制权，也不会让我们与世界完全脱离。相反，技术就像育儿一样，总是需要不断地融入新的发展，需要照料、烦恼和关爱。
马斯克的 OpenAI 倡议旨在开发更安全的人工智能技术，这更符合拉图尔的想法。
事实证明，拉图尔正在用自己的建议来检验自己。他是我们时代最可怕怪物的首席创造者。这个生物实际上不是科学的产物，而是一种思考科学的方式。拉图尔一生都在展示科学事实是如何被社会构建的，以及根本不存在获得真理的公正途径。
简而言之，他认为客观性是虚假的，科学永远不是真正确定的或确凿的。
现在，当然，他惊恐地看着这种解构和不信任的精神在我们的后真相时代扎根，这个时代充斥着另类事实、气候变化否认者和党派媒体泡沫。
在最近的一次采访中，拉图尔承认，他现在后悔自己早年“幼稚的热情”，攻击科学，并誓言要扭转局面
“我们将不得不重新获得科学的一些权威。这与我们开始进行科学研究时的方向完全相反。”
为了爱我们的怪物，我们必须就它们何时行为不端以及如何处理它们达成一些基本共识。这种共识来自于对传统真理机构：科学、媒体和大学的广泛信任。拉图尔试图将我们从居住在这些机构中的专家的家长式作风中解放出来，这是一个崇高的追求。
但是他的酸性言论，加上社交媒体的混乱和大笔资金的贪婪，比他想象的更深刻地腐蚀了事物。现在一切都充斥着偏见，一切都容易受到“假新闻！”的下意识指责。气候变化可能是最终的罪恶，或者它可能是一个骗局。谁能分辨？怀疑主义引起的瘫痪不利于追逐怪物。
本文最初发表于The Conversation。阅读原文。
