纽约州特洛伊市——你不会想到在神圣的学术殿堂里会有人痴迷于邪恶（尽管有些学生可能不同意）。但确实是邪恶——或者更确切地说，是试图探究邪恶的根源——吸引了 塞尔默·布林斯乔德，他是一位逻辑学家、哲学家，也是 伦斯勒理工学院认知科学系的主席。事实上，他对邪恶非常着迷，以至于他开发了一个清单，用于确定某人是否是恶魔般的，并且正在与一组研究生合作，创建一个纯粹邪恶的人的计算机化表示。
“我一直在研究什么是邪恶，以及如何正式定义它，”布林斯乔德说，他也是伦斯勒人工智能与推理实验室（RAIR）的主任。“这很可怕，我知道。”
要真正邪恶，某人必须试图通过计划实施某些道德上错误的行动来造成伤害，而没有受到他人的提示（这个人是否成功执行了他的或她的计划是次要的）。布林斯乔德说，这个邪恶的人必须试图执行这个计划，希望“对他人造成相当大的伤害”。最后，“也是最重要的，”他补充说，如果这个邪恶的人愿意分析他或她想要实施这个道德上错误的行动的原因，这些原因要么被证明是语无伦次的，要么他们会揭示这个邪恶的人知道他或她正在做错事，并且认为造成的伤害是一件好事。
支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。 通过购买订阅，您正在帮助确保未来能够继续讲述关于塑造我们当今世界的发现和想法的有影响力的故事。
布林斯乔德的研究建立在圣地亚哥州立大学哲学教授 J. 安吉洛·科莱特 以及已故的社会政治哲学家和心理学家 乔尔·费恩伯格 和 埃里希·弗洛姆，但最重要的是精神病学家和作家 M. 斯科特·派克 在他 1983 年的书《谎言之民：治愈人类邪恶的希望》中提出的早期定义之上。在阅读了派克关于临床邪恶人士的巨著后，“我认为提出定义邪恶的形式结构会很有趣，”布林斯乔德说，“最终，像有创意的作家那样创造一个纯粹邪恶的角色。”
他和他的研究团队开始开发他们对邪恶的计算机表示，首先提出一系列基本问题——姓名、年龄、性别等等——然后逐步深入到关于这个虚构人物的信仰和动机的询问。
这项练习产生了 “E”，这是一个最早在 2005 年创建的计算机角色，旨在满足布林斯乔德对邪恶的工作定义的标准。虽然最初的 E 只是一个程序，旨在以符合布林斯乔德定义的方式回应问题，但研究人员后来赋予了 E 一个物理身份：他是一位相对年轻的白人男性，留着黑色短发，脸上留着深色胡茬。布林斯乔德称 E 的外貌是 1989 年电影 《死亡诗社》中角色佩里先生的 “更刻薄的版本”。“他是一个邪恶的绝佳例子，”布林斯乔德说，但他补充说，他对这个人格化并不完全满意，可能会做出改变。
研究人员将 E 放置在他自己的虚拟世界中，并编写了一个程序，描述了一位研究人员的虚拟化身与 E 之间的一段脚本式访谈。在这个例子中，E 被编程为根据派克书中一个案例研究来回答问题，该案例研究涉及一个男孩，他的父母给了他一把枪，这把枪是他的哥哥用来自杀的。
研究人员为 E 编程了一定程度的人工智能，使其 “他” 相信是他（而不是父母）将手枪给了那个心烦意乱的男孩，然后向 E 提出了一系列问题，旨在探究他这样做的逻辑。结果是一个超现实的模拟，期间布林斯乔德的恶魔化身试图为其行为提出一个逻辑论证：男孩想要一把枪，E 有一把枪，所以 E 把枪给了男孩。
布林斯乔德和他的团队希望在年底前完成第四代 E，它将能够使用人工智能和有限的简单英语（例如，没有俚语）与计算机用户 “交谈”。
沿着一位真正的逻辑学家的道路，布林斯乔德对文学作品中对美德和邪恶的描绘的兴趣，导致了他对帮助作家发展想法和创作故事的软件的兴趣；反过来，这促使他开发了自己的软件来模拟人类行为，无论是好的还是令人憎恶的，巴里·史密斯 说，他是 纽约州立大学布法罗分校 的生物信息学和本体论杰出教授，他熟悉布林斯乔德的工作。“他被认为是哲学和计算机科学领域的边缘人物。”
布林斯乔德和史密斯都对寻找更好地理解人类行为的方法感兴趣，他们的工作已经引起了情报界的关注，情报界正在寻求方法来成功分析他们收集到的关于潜在恐怖分子的信息。“要解决情报分析中的问题，你需要更准确地表示人，”史密斯说。“塞尔默正试图构建真正出色的人类表示，涵盖他们所有的微妙之处。”
布林斯乔德承认，即使在软件程序中创造纯粹的邪恶，也确实会引发伦理问题，例如，如果研究人员将像 E 这样的人工智能角色放置在像 第二人生 这样的虚拟世界中，他们将如何控制 “他” ，第二人生是一个基于网络的程序，允许人们创建自己的数字表示，并让这些 虚拟化身 以多种不同的方式互动。
“即使在纯粹的虚拟环境中，我也不会在没有工程安全措施的情况下发布 E 或任何类似的东西，”布林斯乔德说。这些安全措施将是一套写入软件的伦理规范，类似于艾萨克·阿西莫夫的 “机器人三定律”，该定律阻止机器人伤害人类，要求机器人服从人类，并指示机器人保护自己——只要这不违反前两条定律中的任何一条或两条。
“因为我对这种方法充满信心，”他说，“E 将会受到控制。”