也许你对《星际迷航：下一代》中的Data很熟悉，他是一个拥有先进人工智能但没有情感的机器人——他无法感受快乐或悲伤。 然而，Data渴望更多。 他想成为一个人！ 因此，他的创造者开始了长达数季的探索，以开发能够实现梦想的“情感芯片”。
当你看这部剧时，很难不去思考这个探索的终点。 Data会先做什么？ 安慰悲伤的人？ 分享船员的喜悦？ 对笑话一笑？ 讲一个笑话？ 机器学习已经产生了可以处理人类情感的软件，它读取微表情的能力比人类更好，并且通常可以仅通过扫描一个人的脸来 cataloguing 一个人内心可能发生的事情。
广告商和营销人员立即抓住了这项技术。 例如，可口可乐公司聘请了一家名为Affectiva的公司，该公司销售情感识别软件，以微调广告。 像往常一样，金钱正在驱动这项并不高尚的追求：研究表明，与使用理性或信息性方法相比，触发强烈情感反应的广告更能促使我们消费。 原则上，情感识别还可以用于以前无法实现的定价和营销方式。 当你站在自动售货机前时，你看起来有多渴？ 价格可能会因此而改变。 饿了吗？ 热狗可能会变得更贵。
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。 通过购买订阅，您正在帮助确保有关当今塑造我们世界的发现和想法的有影响力的故事的未来。
这项技术几乎肯定会与面部识别算法一起使用。 当你走进商店时，摄像头可以捕捉你的面容，识别你并调出你的数据。 销售人员可能会获得关于如何让你购买那件毛衣的谨慎提示——迎合你的自尊心？ 利用你的不安全感？ 提供配饰和配套单品？——同时，为你量身定制的优惠券开始在你的手机上闪烁。 数据库知道你明天有面试吗？ 好的，这里有一张西装外套或领带的优惠券。 你是否被标记为只逛不买或财务状况有限的人？ 你可能会被忽视，甚至被可疑地跟踪。
情感识别软件的一个潜在且几乎不可避免的用途是识别具有“不良”行为的人。 像往常一样，最初的应用可能与安全有关。 例如，在最近的泰勒·斯威夫特演唱会上，据报道使用了面部识别技术来试图发现潜在的滋事者。 该软件已经在美国机场部署，并且可能很快就会开始做更多的事情，而不仅仅是识别已知的安全风险或跟踪者。 谁太紧张了？ 谁表现得心虚？
在更专制的国家，该软件可能会转向识别不满分子。 在中国，一个由共产党推动的应用程序拥有超过1亿注册用户——是该国苹果数字商店中最受欢迎的应用程序。 在一个已经以数字监控和“社会信用体系”而闻名的国家，该体系根据行为奖励和惩罚人们，而这些行为是党赞成或不赞成的，《纽约时报》将其描述为“致力于宣传习近平主席”的应用程序如此受欢迎也就不足为奇了。 很快，中国的人们可能甚至无法在使用该应用程序时翻白眼：手机的摄像头可以衡量他们在阅读习近平的最新语录时的活力和幸福感，然后对那些显得不够热情的人扣分。
不仅仅是中国：欧盟正在其边境试行一种“虚拟代理”，有些人称之为“人工智能测谎仪”。 美国政府也在部署类似的系统。 公司要多久才会开始衡量客户服务代理是否笑容足够？ 从销售汽水到强制执行情感合规，这似乎是一个巨大的飞跃，而且这些技术肯定会有一些积极的用途。 但是，推动它们的人倾向于强调积极方面，而淡化潜在的负面影响。 还记得Facebook早期的美好时光吗？
如果Data能够感受到人类的情感，他可能会对贪婪和权力在人类社会中的重要性感到惊讶——而“情感人工智能”，除非得到适当的监管，否则可能成为社会控制的关键工具。 这应该让我们所有人都不高兴。