最近，Facebook 的母公司 Meta，连同 IBM 和其他 50 多个创始成员，宣布成立了一个 人工智能联盟，旨在“推进开放、安全、负责任的人工智能”。该组织将致力于“开放科学和开放技术”，推广标准和基准，以降低先进模型可能造成的危害风险。
这些都是至关重要的目标，因为许多科技公司在快速发展的人工智能军备竞赛的驱动下，已经推出了可能颠覆许多人的生活和生计的产品，并对整个人类构成生存威胁。鉴于美国科技行业近乎绝对的公司统治地位，联邦政府对替代人工智能渠道和非专有知识形式的支持，是实现该行业多元化的关键，利用这种多元化作为危险技术的民主护栏。
该联盟的阵容令人印象深刻：美国国家航空航天局和国家科学基金会；欧洲核子研究中心和克利夫兰诊所；以及一组刻意不拘一格的大学：包括耶鲁大学、加州大学伯克利分校、德克萨斯大学奥斯汀分校和伊利诺伊大学，以及东京大学、印度理工学院、耶路撒冷希伯来大学和阿卜杜斯·萨拉姆国际理论物理中心。鉴于所代表机构的范围及其在目标和方法上的多样性，该联盟可以首先奠定人工智能素养的共同基础，发起关于可以开发的不同类型模型、它们可以用于的不同用途以及确保开发者和受其用途影响的人能够参与其设计和运营所需的开放程度的公共对话。
关于支持科学新闻业
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻业 订阅。通过购买订阅，您正在帮助确保有关塑造我们当今世界的发现和想法的具有影响力的故事的未来。
一般来说，“开放”在计算机领域意味着源代码或基础技术可以自由地检查，甚至可以自由地使用和扩展。但对于最近人工智能模型的制造者来说，在激烈的市场竞争下，这个词已经变成了一个自相矛盾的说法。这在 ChatGPT 的制造商 OpenAI 中尤其明显。该公司一直对创建其产品所涉及的内容秘而不宣。像 ChatGPT 这样的大型语言模型 (LLM) 需要在从互联网上抓取的 PB 级数据上进行训练。由于互联网上充斥着种族主义、极端主义和厌女症，人工智能训练的关键部分需要明确标记有害材料，以防止其助长类似的有害表现。《时代》杂志 披露，这项劳动密集型且常常令人痛苦的工作是由肯尼亚工人完成的，OpenAI 给他们的报酬不到每小时 2 美元。这种隐藏的、不可接受的劳动行为是其魅力和技术魔力的重要组成部分。
另一层隐藏的、不可接受的行为在一系列诉讼中曝光，最近一次是 《纽约时报》 对 OpenAI 和微软提起诉讼，以及早些时候约翰·格里沙姆和乔治·R·R·马丁等作者提起的诉讼，指控其侵犯版权，并在 LLM 训练中未公开和无偿使用人类创作。
OpenAI 的成功是其隐瞒信息而非透明度的结果。现在回归开源将告诉我们关于当前模型我们需要了解的事情，包括它们的碳足迹和环境影响。开放性还将把劳资关系和公平报酬的伦理问题摆在桌面上。
在领导该联盟时，Meta 和 IBM 声称自己站在道德制高点上，但在这方面，它们也并非完全光明磊落。正如最近肯尼亚内容审核员提起的诉讼所表明的那样，Meta 也一直在使其外国工人遭受不可接受的薪酬和工作条件。“效率年”导致 Meta 在 2023 年前五个月裁员 10,600 人，此前在 2022 年 11 月裁员超过 11,000 人，而 IBM 冻结了 数千名“后台”员工的招聘，因为他们知道这些工作将被人工智能取代。尽管如此，这两家公司在与竞争对手 OpenAI、微软和谷歌及其对其产品的狂热专有保密性保持距离方面可能是有道理的。
然而，随着对更开放性的推动，新的风险也随之而来。Yann LeCun，Meta 的首席人工智能科学家，坚持认为 OpenAI 没什么好保密的，ChatGPT 背后的技术是公共财产，已经由“六家初创公司”开发出来，并且不属于任何人。Meta 已经发布了一系列开源模型 Llama，其前提是将代码提供给开发者社区，供他们随意使用。OpenAI 和谷歌反击，反过来指责 Meta 将强大的软件置于危险之手。在发布几天后，Llama 就被泄露到了 4Chan 上，这是一个 极端分子聚集的网站。
毫无疑问，开源可能存在风险。然而，最近几个月在 OpenAI 的董事会中发生的、正在显现的新危险可能超过了这种风险。首席执行官萨姆·奥特曼的戏剧性罢免和迅速复职，以及监督委员会的解散，表明非营利组织 OpenAI 现在可能正在屈居其营利性部门之下，将未宣布的市场加速置于超人工智能可能造成的任何生存威胁之上。根据非商业许可发布并向数百万眼球开放检查的 Llama，可能最终证明是两者中较不安全的一个。
其他最近的进展也为人工智能联盟提供了背景。Imagine是 Meta 在人工智能联盟成立一天内宣布的新型文本到图像生成器，它预先在 11 亿张 Facebook 和 Instagram 照片上进行了训练。“开放性”在这里可能意味着对用户隐私和财产的毫不掩饰的剥削。与此同时，具有里程碑意义的 欧盟人工智能法案中的一项临时条款——豁免某些开源模型于管辖商业产品的严格法规——对该联盟崇高的原则提出了另一种解读。尽管如此，欧盟在“开源”和“商业”之间做出的区分可能是一个值得努力实现的目标，一条通往更加多元化、更加民主化的技术生态系统的路线图。只有当存在与企业统治地位相抗衡的力量时，才有可能出现代表整个人类的护栏。只有当人工智能素养得到广泛普及， “开放”这个词才能发挥作用，而不仅仅是装饰。
这是一篇观点和分析文章，作者或作者表达的观点不一定代表《大众科学》的观点。