本文发表于《大众科学》的前博客网络，反映了作者的观点，不一定反映《大众科学》的观点
如今，几乎所有企业都依赖某种类型的软件，很少有人会质疑新技术带来的生产力提高。然而，拥抱先进技术也存在负面影响，并且具有重大意义。
这个问题是相对较近才出现的。仅仅十年前，新软件功能的引入实际上并没有影响现实世界——毕竟，没有人会在升级拼写检查器后变得潦倒。今天的情况不同了，复杂软件的设计正以令人震惊和意想不到的方式影响着人们。
例如，考虑一下高度自动化的在线招聘广告世界。卡内基梅隆大学两年前进行的一项研究发现，女性的职位广告显示高薪工作的可能性明显低于男性。
支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您正在帮助确保有关当今塑造我们世界的发现和想法的具有影响力的故事的未来。
这令人不安，但或许不如某些美国州使用的辅助法官量刑的软件的影响那样改变人生。调查新闻机构ProPublica研究了其中一个系统，发现其用于预测可能再次犯罪的算法存在巨大偏差。在比较佛罗里达州2013年和2014年7000人的风险评分时，ProPublica发现，该软件预测黑人被识别为有未来暴力犯罪风险的可能性比白人高77%。
越来越多的此类例子意味着，不再可能只指出几个案例就驳回这个问题。软件开发中缺乏伦理的影响现在已扩展到广泛的应用，包括世界上最常用的软件——Facebook。
虽然很少有Facebook用户真正了解该软件，但他们中的许多人了解它要求的注意力水平。“要求”这个词的使用很重要，因为像许多其他社交媒体公司一样，Facebook已将其软件构建为相当于您口袋里的成瘾性赌场。
特里斯坦·哈里斯曾在谷歌担任了三年的设计伦理学家，并且是了解社交媒体如何控制您的注意力的专家。他指出，软件设计师创建的应用程序利用心理技巧来确保您不断查看手机，而Facebook也不例外。
在去年的一次采访中，著名媒体评论员道格拉斯·拉什科夫表示，越来越多地使用这些技术可能会产生重大后果。“我看到的不是旨在使人类更好地驾驭世界的技术，而是旨在帮助公司更好地驾驭和操纵人类行为的技术。”
像Facebook这样的公司之所以操纵人类行为，是因为他们通过销售广告获利，而且人们使用其软件的频率越高，公司就能吸引更多的广告商。
为了说明这一点，2015年诺丁汉大学的一项研究发现，人们每天使用手机高达80次。这些使用几乎都不是为了拨打电话。
智能手机上的软件对您的注意力进行的永无止境的竞争是一个值得关注的问题，因为研究表明，您使用像Facebook这样的软件越多，您就越不快乐。
珍·特文格是圣地亚哥州立大学的心理学教授，也是《iGen：为什么当今超级互联的孩子长大后变得不那么叛逆、更宽容、更不快乐》一书的作者。她研究世代差异已有25年，并且看到青少年孤独感和抑郁症自2012年以来急剧上升——就在智能手机问世后不久。特文格指出，研究表明，13岁的社交媒体重度用户患抑郁症的风险增加了27%。她还指出，社交媒体的使用还与其他因素有关，包括自杀率显着增加以及青少年睡眠水平降低。
虽然这令人担忧并且需要关注，但真正让我担心的是接下来会发生什么。
技术发展就像进化——最终，优势生命形式必须进化或灭亡。许多技术观察家指出，智能手机已经处于其进化周期的顶峰，下一代个人计算正在迅速兴起。最有可能取代智能手机的竞争者可能是混合现实环境——包括虚拟现实和增强现实。
这些技术令人兴奋和身临其境的性质有可能使今天令人上瘾的社交媒体软件看起来像木制幼儿园积木。如果您担心青少年将自己关在房间里花时间在社交媒体上，那就等到软件开发出来，其反馈机制令人上瘾，以至于孩子们宁愿留在虚拟世界也不愿退出到现实世界。
那么，解决这些问题的最佳方法是什么？
从公司的角度来看，编程队伍需要有更大的多样性。在科技巨头中，苹果公司可能是最多样化的公司，但即使如此，其统计数据也令人沮丧。苹果公司最新的数据显示，其员工中有68%是男性，56%是白人。一个更加多元化的技术队伍将是开始解决软件中出现的一些性别和种族偏见的一种方法。
完全责怪程序员是不公平的，因为软件还可以提供确保在偏见开始影响人们之前检测到偏见的方法。其中一种工具称为Themis，这是一款免费软件，使程序员能够使用数千个虚假用户（每个用户都有不同的配置文件）来测试他们的作品，以检测歧视。显然，对于任何具有现实世界影响的软件（例如金融服务和司法领域的软件），都应定期应用此过程。
监管机构也需要紧急行动，但这存在问题。詹姆斯·邓肯是独立咨询公司Stance Global的联合创始人，并在去年年底之前在英国内阁办公室担任高级技术顾问职务。他亲身观察到了政策问题，并指出我们世界的基石正在被数字世界的地基所取代。
邓肯说：“社会能够跟上步伐，是因为技术需要能够落地。“我们的政府并非如此，要解决这个问题将需要付出努力和深思熟虑，而目前的情况并非如此。”
解决这些问题需要技术领导者对世界有更广阔的视野。该行业不需要更多的程序员，它迫切需要更多的女性、伦理学家和哲学家。