亚马逊AI在7k7k小游戏简历筛选中歧视女性AI犯错不是第一次了

更新时间: Jun 28, 2020  作者:刘  来源:

亚马逊的AI招聘工具触动了人类敏感的神经,据路透社报道,亚马逊机器学习专家发现他们的AI招聘工具有一个明显的倾向——在筛选简历过程中,重男轻女。

这事得追溯到2020年,亚马逊那会儿便开始尝试用人工智能筛选简历,帮助公司挑选出合适的员工。对于一个大公司来说,筛选简历是一项浩大的工程,每天的面试者可能来自五湖四海,要从堆积如山的简历中挑选出面试者的优点,并确认其符合公司标准,难上加难。不仅耗费精力,还很花时间。

图源:Pixabay

不用我赘述,我想面试经验丰富的人应该对一些大公司的面试周期记忆深刻。

通过系统的机器训练,让AI代替HR筛选简历,无疑能帮助公司节省大量的7k7k小游戏劳动力,并且更有效地挑选出合适的人才。万万没想到的是,亚马逊的AI却戴上了有色眼镜。

类似人类的情感倾向出现在了AI上,本身就有悖于人类训练AI的目的。我们希望人工智能是中立、结果导向的,甚至在理性的前提下,会带有一丝无情。

好在亚马逊自己也发现了这个问题,去年已将负责该项目的团队解散。

人工智能 性别歧视 的起因

在亚马逊AI招聘歧视事件的最后,大家把问题归咎于人工智能训练样本上。因为在具体的训练方法上,亚马逊针对性开发了500个特定职位的模型,对过去10年的简历中的5万个关键词进行识别,最后进行重要程度的优先级排序。

因此简单来说,AI的工作还是抓取关键词。然而在这些简历中,大部分求职者为男性,他们使用诸如 执行 这样的关键词更加频繁,而女性相关的数据太少,因此AI会误以为没有这类关键词的女性简历不那么重要。

图源:Reuters

类似的事情同样发生在了Google身上。早在2020年,Quartz报道了一篇题为《The reason why most of the images that show up when you search for "doctor"are white men》的文章,如果你在GoogleImage上搜索 doctor ,获得的结果中大部分都是白人男性。

一项来自普林斯顿大学的研究表明,这一搜索结果与潜在的社会现状有关。在普通人眼中医生总是与男性相连,而护士总是与女性相连。

正如一些数据科学家所言,什么样的输入就有什么样的产出,没有好的数据,算法也做不出正确的决策。

Google意识到了这一点,调整了搜索算法。目前 doctor 的搜索结果中,女性与男性的比例基本平等。

现在的搜索页面经过优化,并有多种搜索可选项

人工智能发展到现在,应用到实际的时间并不长。如果把它比作婴儿,那它的成长有很大一部分依靠人类给予的养分与教育。人工智能在机器训练的过7k7k小游戏程中,所输入的数据便是养分。科学家尽力将算法调整到中立、客观,但最终影响其输出的还是数据。

(责任编辑:7k7k小游戏)

本文地址:/dejia/20200628/8043.html

上一篇:AI引发网络信任危机!我们还能相信什么 下一篇:这个网约车用区块链技术来搭建系统 让乘客挣工分

 

更多精彩内容

扫描二维码, 收看更多新闻

 

百度新闻独家出品

  1. 1. 新闻由机器选取每5分钟自动更新
  2. 2. 百度新闻搜索源于互联网新闻网站和频道,系统自动分类排序
  3. 3. 百度不刊登或转载任何完整的新闻内容
责任编辑:7k7k小游戏 违法和不良信息举报电话:400- 918 - 5523