解码思维技术的进步引发希望(和担忧)

连接大脑与计算机的设备日益精密。新兴的“神经权利”运动能跟上步伐吗?

Artist's concept, illustration, a man standing inside the outline in the shape of a human head, shining a flashlight on a brain shaped maze

2020年5月的一个下午,德克萨斯大学奥斯汀分校计算机科学博士生杰里·唐恩坐在电脑屏幕前,盯着一串神秘的文字

“我还没有完成二十岁开始我的职业生涯,没有拿到驾照,我永远不必拉出来跑回家让父母送我回家。”

这个句子杂乱无章,语法错误。但对唐恩来说,这代表着一项了不起的成就:一台计算机从一个人的大脑中提取出一个想法,尽管这个想法是脱节的。


支持科学新闻报道

如果您喜欢这篇文章,请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅,您正在帮助确保未来能够继续讲述关于塑造我们今天世界的发现和想法的具有影响力的故事。


几个星期以来,自从疫情关闭了他的大学并迫使他的实验室工作转移到线上以来,唐恩一直待在家里调整一个语义解码器——一个 脑机接口,或 BCI,它可以从脑部扫描生成文本。在大学关闭之前,研究参与者已经提供了几个月的数据来训练解码器,在听数小时的故事播客时,一台功能性磁共振成像 (fMRI) 机器记录了他们的大脑反应。然后,参与者听了一个新的故事——一个没有用于训练算法的故事——这些 fMRI 扫描被输入到解码器中,解码器使用 GPT1,即无处不在的 AI 聊天机器人 ChatGPT 的前身,来吐出一个文本预测,预测参与者听到了什么。对于这段片段,唐恩将其与原始故事进行了比较

“虽然我二十三岁了,但我还没有驾照,当我需要的时候我就跳出来了,她说,那你为什么不回到我家,我送你一程。”

解码器不仅捕捉到了原文的要点,还产生了特定词语的精确匹配——二十,驾照。当唐恩与他的导师分享结果时,他的导师是一位名叫亚历山大·胡特的德克萨斯大学奥斯汀分校神经科学家,他已经致力于构建这样的解码器近十年了,胡特惊呆了。“我的天哪,”胡特回忆说。“这真的在起作用。” 到 2021 年秋季,科学家们正在测试该设备,完全没有外部刺激——参与者只是想象一个故事,解码器就吐出一个可识别的,尽管有些模糊的故事描述。“这两个实验都指向,”胡特说,“我们在这里能够解读出来的是真正的想法,就像那个想法一样。”

科学家们对这种设备的潜在的改变人生的医疗应用感到非常兴奋——例如,为患有 闭锁综合征的人恢复交流能力,他们的近乎全身瘫痪使说话成为不可能。但正如解码器的潜在益处突然显现出来一样,其使用所带来的棘手的伦理问题也随之而来。胡特本人一直是实验中的三位主要测试对象之一,而该设备的隐私影响现在看来很直观:“哦,我的上帝,”他回忆说。“我们可以看到我的大脑内部。”

神经科学家亚历山大·胡特(左)与计算机科学博士生杰里·唐恩(中)和前博士生莎莉·贾恩(右)讨论语义解码器项目。胡特已经致力于构建解码器近十年了。视觉效果:诺兰·祖克/德克萨斯大学奥斯汀分校

胡特的反应反映了神经科学领域及其他领域长期以来关注的一个问题:机器可能在未来某一天读取人们的思想。随着 BCI 技术的飞速发展,这种可能性以及其他类似的可能性——例如,未来的计算机可能会改变人类身份或阻碍自由意志——已经开始显得不那么遥远。“精神隐私的丧失,这是我们今天必须打的一场仗,”哥伦比亚大学神经科学家拉斐尔·尤斯特说。“这可能是不可逆转的。如果我们失去了精神隐私,还有什么可失去的?就这些了,我们失去了我们本质的自我。”

在这些担忧的刺激下,尤斯特和几位同事发起了一场国际运动,倡导“神经权利”——尤斯特认为应将一套五项原则写入法律,作为对抗神经技术潜在滥用和误用的堡垒。但他可能快要来不及了。

在过去的 10 年里,神经技术领域以惊人的速度发展。根据行业研究公司 NeuroTech Analytics 的一份报告,2010 年至 2020 年间,对该行业的年度投资增长了 20 多倍,升至每年超过 70 亿美元。超过 1200 家公司涌入该领域,而前总统巴拉克·奥巴马的 BRAIN 计划等大规模政府努力,已解锁数十亿美元的公共资金。事实证明,该领域的进步改变了帕金森病、脊髓损伤和中风等疾病患者的生活。因瘫痪而无法说话或打字的人重新获得了与亲人交流的能力,患有严重癫痫症的人的生活质量得到了显着提高,而失明的人已经能够感知到部分视觉。

“如果我们失去了精神隐私,还有什么可失去的?就这些了,我们失去了我们本质的自我。”

但是,在打开通往大脑的大门时,科学家们也释放出了一股新的伦理关注浪潮,引发了关于人性的根本问题,以及至关重要的是,它可能走向何方。尤斯特等科学家认为,社会今天选择如何解决神经技术的伦理影响,将对明天的世界产生深远的影响。“一项新兴技术正在出现,它可能是变革性的,”他说。“事实上,它可能导致人类物种的改变。”

对于胡特——一位自称的“科幻书呆子”——BCI 技术不断扩展的前沿领域是巨大的乐观来源。然而,在解码器实验之后的几周和几个月里,该设备令人不安的影响开始困扰他。“这意味着什么?”他回忆起当时的想法。“我们将如何告诉人们这件事?人们会怎么想?我们会不会被视为创造了什么可怕的东西?”

尤斯特非常了解被自己的研究弄得不安的感觉。2011 年,在胡特和唐恩构建他们的解码器十多年前,他已经开始使用一种称为光遗传学的技术在小鼠身上进行实验,这种技术使他能够像开关一样打开和关闭动物大脑中的特定回路。通过这样做,尤斯特和他的团队发现,他们可以通过简单地激活参与视觉感知的脑细胞,将人工图像植入小鼠的大脑。几年后,麻省理工学院的研究人员表明,可以使用类似的技术来植入虚假记忆。尤斯特意识到,通过控制特定的脑回路,科学家们几乎可以操纵小鼠体验的每个维度——行为、情绪、意识、感知、记忆。

从本质上讲,动物可以像木偶一样被控制。“这让我停了下来,”尤斯特回忆道,后来补充说,“小鼠和人类的大脑工作方式相同,我们今天可以对小鼠做的任何事情,我们明天都可以对人类做。”

尤斯特的小鼠实验是在神经技术取得显着十年成就之后进行的。2004 年,一位名叫马修·内格尔的四肢瘫痪男子成为第一个使用 BCI 系统 恢复部分功能的人;在他的大脑运动皮层中植入了一个小小的微电极网格,运动皮层负责随意肌运动等功能,内格尔能够用他的思想控制他的电脑光标、玩乓球以及打开和关闭机械手。2011 年,杜克大学的研究人员 分享,他们开发了一种双向 BCI,允许猴子控制虚拟手臂并从中接收人工感觉,所有这些都通过刺激体感皮层来实现,体感皮层处理包括触觉在内的感觉。这为可以感受的假肢铺平了道路。BCI 控制的机械臂可能实现的运动类型也得到了改进,到 2012 年,它们可以三维操作物体, 允许一位瘫痪妇女仅通过思考就能喝咖啡。

拉斐尔·尤斯特实验室中的一只基因工程小鼠展示了一个外科植入的头板,用于记录和操纵神经元活动。尤斯特使用光遗传学等技术进行实验,这些实验像开关一样打开和关闭动物大脑中的特定回路,使它们从本质上像木偶一样被控制。视觉效果:基特拉·卡哈纳为 Undark 拍摄

与此同时,其他研究人员开始研究使用 BCI 探测更广泛的认知过程的可能性。2008 年,由加州大学伯克利分校神经科学家杰克·加兰特和胡特的前导师领导的团队,朝着解码一个人的视觉体验迈出了第一步。研究人员使用来自 fMRI 扫描(通过评估流向不同区域的血液流量变化来测量大脑活动)的数据,能够预测研究参与者在大量图像中看到了哪个特定图像。该团队在一篇发表在《自然》杂志上的论文中 写道:“我们的结果表明,可能很快就可以仅从大脑活动测量中重建一个人视觉体验的图像。”

三年后,加兰特实验室的博士后研究员西恩吉·西莫托超越了加兰特的预测,他领导一个团队成功地从参与者的 fMRI 扫描记录中重建了电影片段。“这是朝着重建内部意象迈出的重要一步,”加兰特在当时的 加州大学伯克利分校新闻稿 中说。“我们正在打开一扇通往我们头脑中电影的窗户。” 仅仅一年后,由神谷之康领导的日本团队完全打开了那扇窗户,他们 成功解码 了参与者梦境的广泛主题。

但是,随着这些进步和其他进步推动该领域向前发展,并且随着他自己的研究揭示了大脑易受外部操纵的不安脆弱性,尤斯特发现自己越来越关注对这些技术的伦理关注不足。即使是奥巴马数十亿美元的 BRAIN 计划,这是一个旨在推进大脑研究的政府计划,尤斯特在 2013 年帮助启动并大力支持,似乎也大多忽略了其资助的研究的伦理和社会后果。“在伦理方面,没有任何努力,”尤斯特回忆说。

“小鼠和人类的大脑工作方式相同,我们今天可以对小鼠做的任何事情,我们明天都可以对人类做。”

尤斯特于 2015 年被任命为 BRAIN 计划的轮值顾问小组,在那里他开始表达他的担忧。那年秋天,他加入了一个非正式工作组来考虑这个问题。“我们开始开会,我非常清楚地意识到情况完全是一场灾难,”尤斯特说。“没有指导方针,没有做任何工作。” 尤斯特说,他试图让该小组为新型 BCI 技术制定一套伦理指导方针,但这项努力很快陷入了官僚主义的泥潭。他感到沮丧,退出了委员会,并与一位名叫萨拉·戈林的华盛顿大学生物伦理学家一起,决定独立地追求这个问题。“我们的目标不是助长或加剧对末日情景的恐惧,”这对搭档在 2016 年 《细胞》杂志文章中写道,“而是确保我们在为神经技术未来做好准备时,具有反思性和目的性。”

2017 年秋季,尤斯特和戈林在哥伦比亚大学晨边校区召集了一次会议,邀请了来自世界各地近 30 位专家,包括神经技术、人工智能、医学伦理和法律等领域。到那时,其他几个国家已经启动了自己的 BRAIN 计划版本,来自澳大利亚、加拿大、中国、欧洲、以色列、韩国和日本的代表与资深神经伦理学家和着名研究人员一起参加了晨边聚会。“我们把自己关起来三天,研究神经技术的伦理和社会后果,”尤斯特说。“我们得出的结论是,这是一个人权问题。这些方法将非常强大,能够访问和操纵心理活动,并且必须从人权的角度进行监管。那时我们创造了“神经权利”这个术语。”

12 月,拉斐尔·尤斯特在他的哥伦比亚大学办公室。随着他自己的研究揭示了大脑易受外部操纵的不安脆弱性,尤斯特发现自己越来越关注对这些技术的伦理关注不足。视觉效果:基特拉·卡哈纳为 Undark 拍摄

尤斯特正在阅读《世界人权宣言》的副本。他说,2017 年,尤斯特和近 30 位专家聚集在一起讨论“神经技术的伦理和社会后果”。“我们得出的结论是,这是一个人权问题。”视觉效果:基特拉·卡哈纳为 Undark 拍摄

尤斯特办公室的书架上放着一张他在 2019 年会见西班牙国王费利佩六世的照片。社会各阶层普遍缺乏对神经技术的了解,这在很大程度上使尤斯特扮演了全球教育者的角色。视觉效果:基特拉·卡哈纳为 Undark 拍摄

晨边小组,顾名思义,确定了四个主要的伦理优先事项,后来尤斯特将其扩展为五个明确定义的神经权利:精神隐私权,这将确保大脑数据保持私密性,并严格监管其使用、销售和商业转让;个人身份权,这将为可能扰乱一个人自我意识的技术设定界限;公平获得精神增强的权利,这将确保平等获得精神增强神经技术;免受神经技术算法开发中偏见的权利;以及自由意志权,这将保护个人代理权免受外部神经技术的操纵。该小组在 《自然》杂志上发表了他们的研究结果,这篇论文经常被引用。

但是,当尤斯特和其他人专注于这些新兴技术的 伦理影响 时,这些技术本身继续以狂热的速度向前发展。2014 年,世界杯的 第一脚球 是由一位使用意念控制的机器人外骨骼的截瘫男子踢出的。2016 年,一位男子使用一个机器人手臂 与奥巴马总统碰拳,该机器人手臂让他能够“感觉到”这个姿势。次年,科学家们表明,电刺激海马体可以改善记忆力,为认知增强技术铺平道路。长期以来对 BCI 技术感兴趣的军方,建立了一个系统,使操作员能够 部分用思想 同时驾驶三架无人机。与此同时,科学、科幻、炒作、创新和投机交织在一起的混乱漩涡席卷了私营部门。到 2020 年,已有超过 330 亿美元投资于数百家神经技术公司——大约是 NIH 设想的 BRAIN 计划 12 年跨度的七倍。

尤斯特和其他人在为这些新兴技术开发伦理框架方面取得了进展。但在创新的喧嚣声中,问题变成了:有人会关注吗?

当胡特和唐恩的语义解码器开始在德克萨斯大学的实验中产生结果时,胡特有两种冲突的反应。一方面,他为它的成功以及它作为交流辅助工具的前景感到高兴。但它也引发了对滥用这种技术的深刻担忧。他的脑海中浮现出反乌托邦的场景:思想警察、强迫审讯、不情愿的受害者被绑在机器上。“那是我们最初有点害怕的事情,”他说。

像之前的尤斯特一样,胡特和唐恩开始了一段对他们工作的伦理进行深刻反思的时期。他们广泛阅读了关于该主题的文章,包括晨边小组在 2017 年《自然》杂志上的文章和 2020 年论文,后者由牛津大学哲学家斯蒂芬·雷尼领导的团队撰写。虽然未来对这些技术的应用可能超出他们的控制范围,但他们仍然清楚地认识到,某些做法应该完全禁止——例如,从静息状态进行解码,当受试者没有积极执行任务时,或者在参与者不知情的情况下进行解码。他们确定,大脑解码不应在法律系统中使用,或任何其他过程中易错性可能产生实际后果的场景中使用;事实上,它应该只在解码信息可以由用户验证的情况下使用。(例如,对于患有闭锁综合征的人,应该问是或否的问题来验证解码信息是否正确。)此外,胡特和唐恩得出结论,雇主应被禁止在未经同意的情况下使用其员工的大脑数据,并且公司必须对其打算如何使用通过消费设备收集的大脑数据保持透明。

胡特和唐恩努力解决的伦理问题的核心是,他们的解码器与大约在同一时间开发的其他语言解码器不同,它是非侵入性的——它不需要用户进行手术。因此,他们的技术不受管辖医疗领域的严格监管的约束。(尤斯特表示,他认为非侵入性 BCI 比侵入性系统带来了更大的伦理挑战:“非侵入性、商业性,那才是战斗将要发生的地方。”)胡特和唐恩的解码器在广泛使用方面面临着其他障碍——即 fMRI 机器体积庞大、昂贵且固定不动。但研究人员认为,也许有一种方法可以克服这个障碍。

杰里·唐恩准备使用德克萨斯大学奥斯汀分校的 fMRI 机器收集大脑活动数据。使用大型昂贵的机器是胡特和唐恩的解码器广泛使用的障碍。视觉效果:诺兰·祖克/德克萨斯大学奥斯汀分校

fMRI 机器测量的血氧水平信息(指示血液在大脑中的流动位置)也可以通过另一种技术功能性近红外光谱 (fNIRS) 来测量。虽然分辨率低于 fMRI,但几款昂贵的、研究级的可穿戴 fNIRS 头戴设备确实接近与胡特和唐恩的解码器一起工作所需的分辨率。事实上,科学家们通过简单地模糊他们的 fMRI 数据以模拟研究级 fNIRS 的分辨率,就能够测试他们的解码器是否可以使用此类设备。“解码结果并没有变得那么糟糕,”胡特说。

虽然此类研究级设备目前对于普通消费者来说成本过高,但更简陋的 fNIRS 头戴设备已经上市。尽管这些设备提供的分辨率远低于胡特和唐恩的解码器有效工作所需的分辨率,但该技术正在不断改进,胡特认为,价格实惠的可穿戴 fNIRS 设备很可能在某一天提供足够高的分辨率,以便与解码器一起使用。事实上,他目前正与华盛顿大学的科学家合作研究此类设备的开发。

即使是相对原始的 BCI 头戴设备,当发布给公众时,也会引发尖锐的伦理问题。 依赖于 脑电图 (EEG) 的设备,这是一种通过检测电信号测量大脑活动的常用方法,现在已经变得非常普及——并且在某些情况下引起了警报。2019 年,中国金华市一所学校试用 EEG 头带监测学生的注意力水平后,受到了批评。(鼓励学生竞争,看看谁的注意力最集中,并向他们的父母发送报告。)同样,2018 年,《南华早报》 报道 ,数十家工厂和企业已开始使用“大脑监控设备”来监测工人的情绪,以期提高生产率和改善安全性。宁波大学当时的脑科学家金佳告诉记者,这些设备“起初引起了一些不适和抵制”。“过了一段时间,他们就习惯了这种设备。”

胡特和唐恩努力解决的伦理问题的核心是,他们的解码器与大约在同一时间开发的其他语言解码器不同,它是非侵入性的。

但即使是低分辨率设备的主要问题是,科学家们才刚刚开始了解信息实际上是如何编码在大脑数据中的。未来,强大的新型解码算法可能会发现,即使是原始的低分辨率 EEG 数据也包含有关一个人在收集时精神状态的大量信息。因此,当他们允许公司从他们的大脑中收集信息时,没有人可以明确地知道他们正在泄露什么。

因此,胡特和唐恩得出结论,大脑数据应该受到严密保护,尤其是在消费产品领域。在去年四月的一篇 Medium 文章 中,唐恩写道,“解码技术正在不断改进,一年后可以从脑部扫描中解码的信息可能与今天可以解码的信息大相径庭。公司必须对其打算如何处理大脑数据保持透明,并采取措施确保大脑数据得到仔细保护。”(尤斯特说,神经权利基金会最近调查了 30 家神经技术公司的用户协议,发现所有公司都声称拥有用户的大脑数据——而且大多数公司都声称有权将该数据出售给第三方。)然而,尽管存在这些担忧,胡特和唐恩仍然认为,只要建立适当的保护措施,这些技术的潜在益处就超过了它们的风险。

但是,当胡特和唐恩正在努力解决他们工作的伦理后果时,远在半个国家的尤斯特已经清楚地认识到一件事:这些对话必须走出理论、哲学、学术、假设的范畴——它们需要进入法律领域。

在 2019 年一个炎热的夏夜,尤斯特与他的挚友、着名的智利医生和当时的参议员吉多·吉拉迪坐在智利北部一家土坯酒店的庭院里,观察着阿塔卡玛沙漠浩瀚而明亮的天空,并像往常一样讨论着未来的世界。吉拉迪每年都会组织 未来国会,这是拉丁美洲最重要的科技盛会,他长期以来一直对技术的加速进步及其对社会范式转变的影响感兴趣——正如他所说,“以光速生活在世界上”。尤斯特一直是该会议的常客,两人都坚信,科学家们正在孕育足够强大的技术,以颠覆人类的本质概念。

大约在午夜,当尤斯特喝完他的皮斯科酸酒时,吉拉迪提出了一个有趣的建议:如果他们一起努力通过一项智利宪法修正案,该修正案将精神隐私保护作为每个智利人不可侵犯的权利写入宪法,会怎么样?这是一个雄心勃勃的想法,但吉拉迪在参议院推动大胆立法方面经验丰富;多年前,他率先提出了智利着名的食品标签和广告法,该法律 要求公司 在垃圾食品上贴上健康警告标签。(此后,该法律启发了数十个国家寻求类似的立法。)在 BCI 方面,这里有另一个成为开拓者的机会。“我对拉斐尔说,‘好吧,我们为什么不制定第一个神经数据保护法呢?’”吉拉迪回忆说。尤斯特欣然同意。

当他们允许公司从他们的大脑中收集信息时,没有人可以明确地知道他们正在泄露什么。

在接下来的几年里,尤斯特多次前往智利,担任吉拉迪政治努力的技术顾问。他的大部分时间都花在了简单地提高对这个问题的认识上——他在大学发表演讲、参加辩论、举行新闻发布会,并会见了关键人物,包括尤斯特所说的,与当时的智利总统塞巴斯蒂安·皮涅拉进行了三个小时的坐谈。然而,他的主要作用是为起草立法的律师提供指导。“他们对神经科学或医学一无所知,我对法律一无所知,”尤斯特回忆说。“这是一次美妙的合作。”

与此同时,吉拉迪领导了政治推动,推动一项旨在修改智利宪法以保护精神隐私的立法。这项努力在政治光谱中获得了令人惊讶的认同,这在一个以政治两极分化而闻名的国家中是一项了不起的成就。2021 年,智利国会一致通过了宪法修正案,皮涅拉迅速将其签署成为法律。(第二项立法,将为神经技术建立监管框架,目前正在智利国会审议中。)“左翼或右翼之间没有分歧,”吉拉迪回忆说。“这可能是智利唯一一项获得一致投票通过的法律。” 智利因此成为世界上第一个将“神经权利”写入其法律法规的国家。

智利在立法上的巨大胜利是新兴的神经权利运动令人鼓舞的第一步。但尤斯特和吉拉迪也意识到国家层面法律保护的局限性。吉拉迪解释说,未来的技术很容易跨越国界——或者完全存在于物理空间之外——并且发展速度太快,民主制度无法跟上。“民主国家是缓慢的,”他说。通过一项法律需要数年时间,“我们正在看到世界变化的速度。它是指数级的。” 尤斯特和吉拉迪意识到,国家法规可以提供一些有用的法律保障,但它们本身是不够的。

前智利参议员吉多·吉拉迪在 12 月圣地亚哥的办公室里。吉拉迪和尤斯特共同努力修改智利宪法以保护精神隐私。“民主国家是缓慢的,”他说。通过一项法律需要数年时间,“我们正在看到世界变化的速度。它是指数级的。”

早在智利宪法修正案通过之前,尤斯特就已经开始定期与国际人权律师贾里德·根瑟会面,根瑟曾代理过德斯蒙德·图图、刘晓波和昂山素季等备受瞩目的客户。(《纽约时报杂志》曾根瑟为“提取者”,因为他为政治犯工作。)尤斯特正在寻求关于如何制定国际法律框架以保护神经权利的指导,而根瑟虽然对神经技术只有粗略的了解,但他立刻被这个话题吸引住了。“可以公平地说,他在第一次讨论的一个小时内就让我大开眼界,”根瑟回忆道。此后不久,尤斯特、根瑟和一位名叫杰米·戴维斯的私营部门企业家成立了神经权利基金会,这是一个非营利组织,其网站显示,该基金会的首要目标是“保护所有人的人权,使其免受神经技术的潜在误用或滥用。”

为了实现这一目标,该组织力求动员社会各界,从联合国和美洲国家组织等区域管理机构,到国家政府、科技行业、科学家和广大公众。根瑟说,如此广泛的做法“或许是我们的疯狂之举,或者是狂妄自大。但即便如此,你知道,当谈论这些全球性问题时,这绝对是狂野西部,因为很少有人知道事态发展到什么程度,未来的方向是什么,以及什么是必要的。”

普遍缺乏对神经科技的了解,存在于社会各个阶层,这在很大程度上使尤斯特扮演了全球教育者的角色——例如,他曾多次与联合国秘书长安东尼奥·古特雷斯会面,讨论新兴神经科技的潜在危险。这些努力开始产生效果。古特雷斯2021年的报告《我们的共同议程》为未来的国际合作设定了目标,其中敦促“更新或澄清我们对人权框架和标准的适用,以解决前沿问题”,例如“神经技术”。根瑟将报告中包含这些措辞归功于尤斯特的倡导努力。

但更新国际人权法是困难的,即使在神经权利基金会内部,对于最有效的方法也存在意见分歧。对于尤斯特来说,理想的解决方案是创建一个新的国际机构,类似于国际原子能机构——但却是为了神经权利。“我的梦想是就神经技术达成一项国际公约,就像我们曾经就原子能和某些事物达成公约一样,并有自己的条约,”他说。“也许还有一个机构可以基本上监督世界在神经技术方面的努力。”

然而,根瑟认为,没有必要制定新的条约,通过扩展对现有国际人权法的解释以涵盖神经权利,可以最有效地将神经权利编纂成法典。《公民权利和政治权利国际公约》例如,已经确保了一般的隐私权,而对该法律的更新解释可能会明确,该条款也扩展到精神隐私。

根瑟解释说,扩展对现有法律解释的优势在于,这些条约的签署国将有义务立即使其国内法律符合新的解释——这是一种在国际和国家层面同时刺激神经权利行动的方式。在《公民权利和政治权利国际公约》的案例中,根瑟说,“对于所有缔约国——170多个缔约国来说,这将有一个明确的暗示,即他们现在需要提供国内精神隐私权,以遵守其在条约下的义务。”

但即使根瑟认为这条途径将为在国际法中确立神经权利提供最快捷的途径,但这个过程仍然需要数年时间——首先是各个条约机构更新他们的解释,然后是各国政府努力使其国内法律符合规定。法律护栏总是落后于技术进步,但这在神经技术加速发展的步伐下可能会变得尤其成问题。

这种滞后对于像吉拉尔迪这样的人来说是非常麻烦的,他们质疑制度是否能够承受即将到来的变化。毕竟,当人类以光速生活在这个世界上时,法律如何才能跟上步伐呢?

虽然尤斯特和其他人继续努力解决国际法和国家法的复杂性,但胡思和唐发现,至少对于他们的解码器来说,最大的隐私护栏并非来自外部机构,而是来自更贴近自身的东西——人类的思想本身。在他们的解码器最初获得成功之后,随着两人广泛阅读关于这项技术伦理影响的文章,他们开始思考评估解码器能力边界的方法。“我们想测试一些精神隐私的原则,”胡思说。简而言之,他们想知道解码器是否可以被抵制。

2021年末,科学家们开始进行新的实验。首先,他们好奇是否可以将在一个人的数据上训练的算法用于另一个人。他们发现不能——解码器的有效性取决于数小时的个性化训练。接下来,他们测试了是否可以通过简单地拒绝合作来阻止解码器。参与者没有专注于戴着耳机在功能性磁共振成像 (fMRI) 机器中播放的故事,而是被要求完成其他心理任务,例如说出随机动物的名字,或在脑海中讲述不同的故事。“这两种方法都使其完全无法使用,”胡思说。“我们没有解码他们正在听的故事,也无法解码他们正在思考的任何内容。”

结果表明,至少目前,非自愿读心术的噩梦场景仍然遥远。随着这些伦理担忧的减弱,科学家们已将重点转移到他们发明的积极方面——例如,它作为恢复沟通工具的潜力。他们已开始与华盛顿大学的一个团队合作,研究与他们的解码器兼容的可穿戴式近红外光谱 (fNIRS) 系统的可能性,这或许为不久的将来具体的医疗应用打开了大门。尽管如此,胡思欣然承认反乌托邦式预测的价值,并希望它能继续下去。“我确实赞赏人们不断提出新的糟糕情景,”他说。“这是我们需要继续做的事情,对吧?思考‘这些事情会如何出错?它们会如何走上正轨,但又会如何出错?’这很重要,我们需要知道。”

然而,对于尤斯特来说,像胡思和唐的解码器这样的技术可能仅仅标志着人类历史上一个令人难以置信的新篇章的开始,在这个篇章中,人类大脑和计算机之间的界限将被彻底改写——或者完全抹去。他说,未来是可想象的,人类和计算机将永久融合,从而导致技术增强的赛博格人的出现。“当这场海啸袭击我们时,我会说这并非不可能,而是肯定会发生,人类最终会将自己——我们自己——转变成也许是一种混合物种,”尤斯特说。他现在专注于为这个未来做准备。

“即使现在还很初级,五年后会发展到什么程度?五年前可能实现什么?现在可能实现什么?五年后会发展到什么程度?十年后会发展到什么程度?”

在过去的几年里,尤斯特走访了多个国家,会见了各色各样的政治家、最高法院法官、联合国委员会成员和国家元首。他的倡导开始产生成果。8月,墨西哥开始考虑一项宪法改革,该改革将确立精神隐私权。巴西目前正在考虑一项类似的提案,而西班牙、阿根廷和乌拉圭也表示了兴趣,欧盟也是如此。9月,神经权利正式纳入墨西哥的数字权利宪章,而在智利,一项具有里程碑意义的最高法院裁决认定,可穿戴式脑电图 (EEG) 头盔制造商 Emotiv Inc 违反了智利新近制定的精神隐私法。该诉讼是由尤斯特的朋友和合作者吉多·吉拉尔迪提起的。

尤斯特倡导工作的快节奏或许源于一种信念,即行动的窗口正在迅速关闭,明日世界不再遥遥无期。“他们过去常常问我,‘你认为我们什么时候应该开始担心精神隐私?’”他回忆道。“我会说‘五年’。‘那担心我们的自由意志呢?’我说‘从现在起10年’。好吧,你猜怎么着?我错了。”

胡思同意现在是采取行动的时候了。他解释说,这些技术可能仍处于起步阶段,但与其等待可怕的事情发生,不如积极主动地建立精神保护机制。

“这是一件我们应该认真对待的事情,”他说。“因为即使现在还很初级,五年后会发展到什么程度?五年前可能实现什么?现在可能实现什么?五年后会发展到什么程度?十年后会发展到什么程度?我认为合理的可能性范围包括一些——我不想说足够可怕——但像足够反乌托邦,以至于我认为现在绝对是我们思考这个问题的时候了。”

本文最初发表于Undark。阅读原文

© . All rights reserved.