本文发表在《大众科学》的前博客网络中，反映了作者的观点，不一定反映《大众科学》的观点
“人是产品”这句话已经变得老生常谈。 这告诉你有些不对劲。它暗示着一些相当可恶的想法的正常化。买卖人让人想起奴隶制。它把人贬低为事物、物体、资源或仅仅是手段。正如我们中的一人（德文·德赛）写道：“把人当作一种资源是[一个根本的]错误。” 不知何故，在我们看来，当交换媒介是数字数据和人类注意力时，这些负面联想就会神奇地消失。
我们需要审视个性化在将人编程为产品中所起的作用。因此，让我们考虑一下输入（刺激、选择架构、信息、诱因）的个性化如何实现输出（反应、行为、信念，甚至人）的标准化。
一些熟悉的例子表明，个性化如何导致同质行为。假设我们想诱导一群人表现出相同的行为。我们可能会个性化诱因。例如，如果我们希望诱导人们为救灾基金捐款 100 美元，我们可能会个性化发送给他们的消息。如果我们希望促使人们去看医生进行年度体检，或者我希望让他们点击广告，情况也是如此。有效的个性化广告会产生相当机械的反应：点击。简而言之，个性化刺激可能是产生同质反应的有效方法。
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。 通过购买订阅，您正在帮助确保未来有关塑造我们当今世界的发现和想法的有影响力的故事。
这种个性化输入到同质输出 (“PIHO”) 的动态在数字网络环境中非常普遍。 数字科技公司希望产生什么样的同质输出？ 通常，公司将他们的目标描述为“参与”，这听起来很不错，好像用户正在非常重要的活动中积极参与。但他们的意思要狭隘得多。“参与”通常指的是一套狭隘的做法，这些做法直接或通过其与广告商、数据经纪人、应用程序开发商、人工智能培训师、政府等方面的辅助协议，为公司产生数据和收入。
例如，Facebook 在一个经过优化的平台上提供高度个性化的服务，以产生和加强一系列简单的响应——滚动提要、点击广告、发布内容、点赞或分享帖子。这些操作会产生数据、广告收入和持续的关注。并不是说人们总是执行相同的操作；这种程度的同质性和社会控制对于 Facebook 的利益或我们的担忧来说都不是必要的。相反，对于很多人来说，大部分时间里，行为模式都符合 Facebook 设计的“参与”脚本。
许多其他平台、服务和应用程序也可以讲述一个非常相似的故事。当然，商业模式、策略甚至“参与”的含义各不相同，但 PIHO 仍然是一种始终如一的逻辑。它是弗雷德里克·泰勒的“对人类进行科学管理”、B.F. 斯金纳的操作性条件反射和现代行为工程方法（例如助推）的有力结合。
PIHO 需要个人数据和足够的手段将这些数据转化为有效的诱因和强化。换句话说，从收集的数据中获得的关于一个人的任何智能都必须是可操作的，并且会影响这个人的行为。
某些类型的数据对于诱导和强化所需的响应/行为比其他数据更有用，并且不同数据类型的相对效用可能因人而异，也可能因情境而异。毫不奇怪，许多数字科技公司尽可能多地收集数据，要么直接从消费者那里收集，要么间接从数据经纪人或与他们有辅助协议的合作伙伴那里收集。他们对消费者进行实验。他们使用各种数据处理技术来识别模式、测试假设，并了解人们的行为方式、他们与谁互动、他们说什么和做什么，以及什么最能塑造他们的行为以符合公司的利益。
例如，公司会绘制用户的社交图谱，以了解他们的关系，包括对个人产生不同影响的强度。正如想要推动人们投票或报税的选择架构师可能会让他们知道有多少邻居已经这样做了，社交媒体公司可以利用社交图谱见解来诱导人们登录、创建帖子、阅读帖子、分享帖子等等。刺激可能很简单，一封个性化的电子邮件告诉用户，朋友在帖子中标记了他们。目标是让用户访问网站（或应用程序），以便用户发表评论、发帖或标记。希望用户看到广告并点击，阅读并分享帖子，玩游戏。简而言之，他们的理想是用户做任何能够加深保持登录状态和使用服务的行为的事情。如果发生这种情况，公司就成功了。它已经诱导并加强了参与。
当数字科技公司提供个性化服务和内容时，总会有一个反馈循环。他们不断收集数据并了解你，以为服务提供动力。但这只是需要注意的第一个循环。其他反馈循环跨越各个领域并跨越网络环境；数字科技公司之间通常有辅助协议。你是否注意到你访问的网站上的那些 Facebook、Twitter 和其他按钮？你是否曾经使用你的社交媒体凭据登录其他网站？（如果你真的想查看反馈循环以及数据如何流动，请查看你在 Facebook 上的广告偏好。）
数字平台上 PIHO 的棘手之处在于，个性化的刺激在某种程度上确实满足了用户的利益。换句话说，个性化直接使用户受益，因为他们获得了根据自己的偏好定制的新闻、状态更新、视频和其他刺激。毕竟，诱导“参与”需要用户获得他们想要的东西。但这并不意味着个性化的好处完全或主要流向用户。个性化使得服务和编写行为都更便宜、更容易。
它甚至可以更深入。反馈效应和重复和持续的参与可以（但不是必须）塑造信念、期望和偏好。当与主要由行为数据（不一定是个性化的）指导的设计和工程实践相结合时，就会出现成瘾、依赖和一系列其他问题。在当下，人们可能会感到满足，但这并不意味着当他们反思自己的行为时，他们会喜欢自己成为什么样的人或什么东西。
参与可能意味着更多，对人类来说是伟大的事情，数字网络技术可以追求这种参与，但这并不是我们在现代数字网络世界中真正得到的。理论上，数字科技可以以符合你兴趣的方式个性化商品和服务。相反，他们主要追求自己的利益，并迎合市场另一方的利益——即那些支付账单的人——广告商、收集数据和训练人工智能的合作伙伴、政府等。有人可能会说，这只是资本主义在起作用，这没错。但这并不能证明这种做法是合理的。也不能为将人视为需要标准化的产品而可能造成的非人化后果开脱责任。数字科技公司采用——更糟糕的是，延续——一种贫乏的观点，认为人类是可预测的、被动的消费者，他们（可以被训练成）按照标准化脚本行事。在那个世界里，我们只不过是可编程的齿轮。
我们需要改变不仅允许而且还促成和鼓励这种做法的社会脚本。