2006年，数学家克莱夫·亨比将数据称为“新石油”——一种原材料，一旦提炼，将为数字经济提供燃料。从那时起，大型科技公司花费了巨额资金来磨练算法，这些算法收集用户的数据并对其进行筛选以寻找模式。其中一个结果是精准定位在线广告的蓬勃发展。另一个是一些专家称之为“算法个性化定价”的做法，它使用人工智能为个人消费者量身定制价格。
联邦贸易委员会对此使用了更具奥威尔色彩的术语：“监视定价”。
7月，联邦贸易委员会向八家公司发出了信息征询命令，这些公司“公开吹捧他们使用人工智能和机器学习进行数据驱动的目标定位”，该机构首席技术官斯蒂芬妮·阮说。这些命令是旨在了解这种做法的规模、正在收集的用户数据类型、算法价格调整可能对消费者的影响以及是否可能涉及串通或其他反竞争行为的一部分。“使用监视技术和私人数据来确定价格是一个新的领域，”阮说。“我们希望让更多关于这种做法的信息公之于众。”
支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您正在帮助确保有关当今塑造我们世界的发现和思想的具有影响力的故事的未来。
这些命令可以像传票一样强制执行，要求这八家公司在9月2日前提交报告，概述其监视定价 практики。收到命令的公司之一Revionics，构建了人工智能驱动的系统，其网站称之为“价格优化解决方案”。Revionics公司全球传播副总裁克里斯汀·米勒表示，Revionics“绝不开展与监视消费者相关的业务”。受到审查的其他公司包括万事达卡、摩根大通、电子商务平台Bloomreach、咨询公司埃森哲和麦肯锡公司，以及软件公司TASK Software和PROS。这八家公司均未被联邦贸易委员会指控有任何违法行为。
该机构正在进行的调查是由人们日益认识到，公司正在使用人工智能和机器学习来跟踪某些类别的用户数据——例如年龄、位置、信用评分或浏览历史——而许多人可能不会故意分享这些数据而引发的。
“令人恐惧的是，一家公司可能会知道一些关于我的事情，而我根本不知道他们可以找到，而且我永远不会授权，”芝加哥大学布斯商学院营销学教授让-皮埃尔·杜贝说。“这些是联邦贸易委员会可能真的有所发现的事情。”他说，如果公司正在部署人工智能来收集消费者不知情的情况下分享的信息，那么价格可能会沿着“不可接受的维度”进行个性化。
阮补充说，消费者监视不仅限于在线购物。“公司正在投资基础设施，以实时监控实体店的顾客，”她说。例如，一些价格标签已经数字化，旨在根据有效期和顾客需求等因素自动更新。零售巨头沃尔玛——未受到联邦贸易委员会的调查——表示，其新的数字价格标签可以在几分钟内远程更新。电子商务平台Instacart提供人工智能驱动的“智能购物车”：可以用来扫描商品的实体购物车，并配备了显示个性化广告和优惠券的屏幕。
电影票和抵押贷款
监视定价是更古老 практики“个性化定价”的现代迭代——根据对顾客支付意愿的估计来调整价格。公元前2000年，在集市上卖水果的商贩可能会向富裕的地主收取比农民更高的价格，就像现代汽车销售员不太可能向开着保时捷来的人提供与骑着破旧自行车来的人相同的交易一样。灵活地根据个人顾客的预算调整价格可以最大化利润，并且可以为可能因价格过高而被排除在市场之外的低收入消费者打开大门。教育就是一个说明性的例子：大学有时会为来自不同背景或社会经济地位较低的学生提供更强大的资助方案，以最大限度地提高公平性和多样性。进一步的潜在消费者利益证据来自杜贝进行的一项研究，该研究涉及两家电影院，这两家电影院都向靠近竞争对手的顾客提供折扣。（A电影院会向住在B电影院附近的影迷提供廉价电影票，反之亦然。）结果是双赢：两家电影院最终都吸引了更多顾客，而顾客又通过减少电影票支出而省钱。
然而，这种方法在其他市场中并不总是奏效。当个性化定价应用于房屋抵押贷款时，低收入人群往往支付更多——而且算法有时会使情况更糟，例如，根据对借款人风险评级的无意歧视性自动估计，提高利率。
算法现在正在将个性化定价从可观察的领域带到一个更加阴暗的领域。从历史上看，这种做法主要基于可观察的特征和通过面对面互动收集的信息。因此，顾客可以尝试玩弄系统：为了寻求更好的交易，一个更富有的人在购买新车时可能会把保时捷和阿玛尼西装留在家里。但在一个基本上不受监管的数据收集（至少在美国）和人工智能处理能力的世界中，品牌可能会以更隐蔽的方式调整价格，这些方式更难绕过。
例如，假设您正在一个利用人工智能来个性化顾客所看到价格的网站上在线购买新的咖啡机。该算法可能会考虑您的浏览历史（您一直在搜索很多新的咖啡机）、您最近的购买记录（您是经常喝咖啡的人，并且两年前购买了一台意式咖啡机）、一天中的时间（现在是深夜，您的历史记录显示您更容易冲动购物）以及您的位置（您所在地区没有很多销售咖啡机的实体店）。总而言之，这些因素可能意味着您此时更有支付意愿——因此，您看到的价格略高。与此同时，另一个正在购买他们的第一台咖啡机并且可能对深夜消费有点节俭的人可能会看到同一台机器的价格更低。
换句话说，您的支付意愿可以根据精细的人口统计信息和微妙的行为模式来衡量，其中一些您可能没有意识到是公开可用的。哈佛法学院教授奥伦·巴尔-吉尔l说：“即使这种现象本身非常古老，算法也允许卖家达到他们以前从未能够达到的差异化水平。”他曾研究过算法在消费者市场中的影响。
但这是否是反乌托邦？
一些专家反对联邦贸易委员会使用“监视”一词，认为这可能暗示对隐私的无视。尽管该机构的命令以其五名两党专员罕见的一致投票通过，但有些人对这种措辞持保留态度。“这个术语的负面含义可能暗示个性化定价必然是一种邪恶的做法，”联邦贸易委员会专员梅丽莎·霍利约克在一份官方声明中写道。“在我看来，我们应该小心使用中立的术语，不要暗示对难题的任何预先判断。”
一些为本文接受采访的专家也呼应了这一谨慎态度，他们同意联邦贸易委员会在对待监视定价时应保持开放的心态。也许这种情况需要更多地强调透明度，而不是全面打击所有使用算法来个性化价格的做法。这种做法甚至可能具有该机构尚未完全理解的优势。通过米勒，Revionics辩称，它使用人工智能来寻找对消费者和零售商都有利的价格。
哈佛法学院教学研究员哈盖·波拉特说：“数据以某种方式使用可能意味着我们应该告知消费者，以便他们知道，并且他们[可以]决定是否要同意……并与该卖家互动。”他曾研究过算法个性化定价的影响。“但这不应导致我们得出结论，认为这种做法本身对消费者必然是不利的。”