人工智能在多领域表现出对女性的“偏见”(2)

　　很多人都认为，人工智能比人类更公正，冷冰冰的机器只相信逻辑和数字，没有感情、偏好，也就不会有歧视，不像人类的决策，混乱且难以预测。但实际上，人工智能“歧视”起来毫不含糊，比人类更严重。

　　当前的人工智能没有思考能力，它能做的，是寻找那些重复出现的模式。所谓的“偏见”，就是机器从数据中拾取的规律，它只是诚实地反映了社会中真实存在的偏见。它会积极“迎合”人类的性骚扰，是因为人类希望它迎合，它之所以会“歧视”，是因为人类把它训练成了这样。

　　小米公司研发的语音助手小爱就曾被曝出存在歧视同性恋的言论。小米公司为此致歉，并解释称，小爱的回答都是从网络公开数据中学来的，不代表公司和产品的态度，公司已经进行了干预处理。

　　亚马逊研究后发现，因为在科技公司中，技术人员多数是男性，让人工智能误以为男性特有的特质和经历是更重要的，因而将女性的简历排除在外。斯坦福大学的研究人员则发现，图片识别率异常的原因是，“喂”给AI的图片大多是白人、男性，缺乏少数族裔，而包含女性的图片里，往往会出现厨房等特定元素。

　　换句话说，机器不过是“学以致用”。

　　这看起来很难有改善的可能，现有的训练方式甚至会加深“偏见”。你一定有过这样的经历，刚在购物网站上购买了洗发水，就在各类软件的开屏广告、“你可能喜欢”里看到10个品牌的30种其他洗发水，仿佛自己要开杂货店。

　　一项研究表明，如果初始数据中，“下厨”与“女性”联系起来的概率是66%，将这些数据喂给人工智能后，其预测“下厨”与“女性”联系起来的概率会放大到84%。

　　并不是每个人都会平等地出现在数据里。现实生活中，女性往往被认为不擅长数学，不适合学习理工科，这导致相应领域的女性从业者人数偏低。前述报告显示，女性只占人工智能研究人员的12%。

　　美国心脏及中风基金会发布的《2018年心脏病报告》显示，三分之二的心脏病临床研究仍然重点关注男性。因为招募的志愿者都是年轻人，一家血液检测机构的人工智能误将老年人的血液都判断为不健康。

　　比尔·盖茨也曾在2019年年度公开信中抱怨，健康和发展方面，目前有关妇女和女童的数据缺失严重，这使基金会和决策者难以有针对性地制订政策、评估效用。

　　目前，我们还无法理解人工智能如何运算和预测结果，但让技术人员上几门统计学、社会学课程，就能消除数据带来的误会。2015年起，盖茨基金会开始投入资金，致力于填补这些数据上的空白。

　　这些错误和“偏见”看起来显而易见，但对从出生起就在人工智能环境下生活的人来说，习惯会慢慢变成自然。美国一家人工智能公司的创始人偶然发现，自己4岁女儿与亚马逊的AI语音助手Alexa对话时，发布指令的方式“无论从任何社会习俗角度看，都很无礼”，才意识到，Alexa给孩子树立了一个糟糕的榜样。

　　当谎言重复一千次，它就变成了真理。在被偏见同化前，我们的眼睛不仅要盯着机器，还要盯着我们自己。