人工智能逆天:竟已学会种族和性别歧视
英国媒体《卫报》今日发表评论文章指出,人工智能已经开始出现了种族和性别偏见,但是这种偏见并非来自机器本身,而是计算机在学习人类语言时吸收了人类文化中根深蒂固的观念。科学家呼吁,应当建立一个监管机构,去纠正机器的这种行为。
让计算机具备理解人类语言的人工智能(AI)工具已经出现了明显的种族和性别偏见。
这些发现令人担忧现有的社会不平等和偏见正在以新的、不可预知的方式得到强化,因为影响人们日常生活的大量决策正越来越多地由机器人做出。
在过去的几年里,谷歌翻译等程序的语言翻译能力有了显著提高。这些成就要得益于新的机器学习技术和大量在线文本数据的使用,并在此基础上对算法进行训练。
然而,最新研究显示,随着机器越来越接近于掌握人类的语言能力,它们也在吸收隐藏于语言中的根深蒂固的偏见。
巴斯大学的计算机科学家、论文合著者乔安娜·布莱森(Joanna Bryson)说:“很多人都认为这表明人工智能(AI)存在偏见。不,这表明我们有偏见,人工智能正在有样学样。”
但布莱森警告说,人工智能有可能强化现有偏见,因为算法与人类不同,可能无法有意识地抵制学到的偏见。
“危险在于,你拥有的人工智能系统没有一处零部件明确需要依靠道德观念驱动,这就不好了。”她说。
微软去年推出的Twitter机器人因不当言论而紧急下线
上述研究发表在《科学》杂志上,重点关注一种名为“单词嵌入”机器学习工具,后者已经改变了计算机解读语音和文本的方式。有人认为,下一步科技发展将自然而然地涉及到开发机器的类人化能力,如常识和逻辑。
“我们选择研究单词嵌入的一个主要原因是,近几年来,它们已帮助电脑在破解语言方面取得了巨大成功。”这篇论文的资深作者、普林斯顿大学计算机科学家阿尔文德·纳拉亚南(Arvind Narayanan)说。
这种方法已经在网络搜索和机器翻译中使用,其原理是建立一套语言的数学表示式,依据与每个单词同时出现的最常用单词,将这个词的意思提炼成一系列数字(也就是词向量)。也许令人惊讶的是,这种纯粹的统计方法似乎能够捕捉到每个词所在的丰富的文化和社会背景,这是字典无法定义的。
例如,在数学“语言空间”,与花朵有关的词汇往往与描绘心情愉悦的话语聚集在一起,而与昆虫相关的词汇则往往与心情不愉快的词汇同时出现,反映出人们对昆虫与花朵的相对特点所达成的共识。
最新的文件显示,人类心理实验中一些更令人不安的隐性偏见也很容易被算法捕获。“雌性”和“女性”与艺术、人文职业和家庭的联系更紧密,“雄性”和“男性”与数学和工程专业更为接近。
而且,人工智能系统更有可能将欧美人的名字与诸如“礼物”或“快乐”之类的愉快词语联系在一起,而非裔美国人的名字通常与不愉快的词语联系在一起。
研究结果表明,算法与隐式联想测试拥有同样的偏见,也就是把表示愉快的单词与(美国和英国的)白人面孔联系起来。
这些偏见会对人类行为产生深远的影响。一项先前的研究表明,相对于非洲裔美国人,如果申请者的名字是欧洲裔美国人,即使简历内容相同,后者所能获得的面试邀请将比前者多出50%。最新的研究结果表明,除非采用明确的编程来解决这个问题,否则,算法将与现实社会一样,充斥着相同的社会偏见。
“如果你不相信种族主义与姓名存在联系,这就是例证。”布莱森说。
研究中使用的机器学习工具是在被称为“通用爬虫”语料库的训练数据集中接受训练的,其中的8400亿个词语都是从网上公布的材料中选取的。当研究人员把训练数据集换成谷歌新闻的数据对机器学习进行训练时,也出现了类似结果。
牛津大学数据伦理和算法领域的研究人员桑德拉·沃彻(Sandra Wachter)说:“世界存在偏见,历史数据存在偏见,因此,我们得到带有偏见的结果,不足为奇。”
她补充说,算法不仅代表一种威胁,也可能为采取适当方式解除和对抗偏见提供机会。
“至少利用算法,我们可能知道算法会在什么时候出现偏差,”她说,“例如,人类会在解释为何不雇佣某人时说谎,与此相反,算法不会撒谎,不会欺骗我们。”
然而,沃彻说,问题在于如何从旨在理解语言的算法中消除不恰当的偏见,同时又不剥夺它们的解读能力,这将是具有挑战性的工作。
“原则上,我们可以建立一些系统对带有偏见的决定进行检测,然后采取行动,”沃彻说,并与其他人一起呼吁建立一个人工智能监管机构。“这是一项非常复杂的任务,但作为一种社会责任,我们不应回避。”
相关文章
-
腾讯、阿里员工福利居然是这样:真是逆天!
虽然压力很大,但依然有太多人愿意去互联网公司上班,高额的薪水还有逆天的福利,怎么能拒绝?...
2017-04-14 12:37:51阅读全文 -
人工智能发威了 语音转化文字准确率高达95%
4月9日,第五届中国电子信息博览会人工智能产业发展高峰论坛上,一款由国内智能语音企业开发的会议系统现场将嘉宾演讲转化为文字,准确率高达95%...
2017-04-12 10:36:03阅读全文 -
续航17小时 LG这款轻薄本续航真的逆天了
前段时间LG发布了一款只有1.09公斤的轻薄本产品,主打轻薄。目前其所属的LG Gram系列笔记本今天正是在美国开卖,包括六款配置型号,它们共同的卖点就是:重量和续航时间...
2017-04-11 13:49:49阅读全文 -
这造型也是逆天了!惠普发布两款全新台式机
最近一段时间,有很多品牌都推出了自家的新品,而作为全球大厂的惠普自然也不会甘居人后。最近,惠普全新推出了两套新颖的台式机新品...
2017-04-06 22:34:11阅读全文 -
人工智能已走出实验室 渗透生活方方面面
最近一年,人工智能持续占据了各大新闻网站科技话题的头条位置。目前,在人工智能领域有较为成功的突破,并且形成具体产品的,大多是企业,例如谷歌的AlfaGo...
2017-03-30 15:10:16阅读全文 -
ZEALER王自如请来苍井空跨界测评:尺度之大辣眼睛
今晚,科技测评人同时也是ZEALER创始人王自如在微博正式预告,定于23号(周日)晚20点与苍井空一块来场跨界直播,对象是;安全套...
2017-07-21阅读全文 -
蚂蚁金服的这六步棋 要让全国人民再次惊呼!
大家都知道支付宝近期一直致力于推动社会进入无现金化,从老家杭州一路北上和武汉天津等城市签约共建无现金城市之后,现如今取得了哪些进展?又还打算在哪些地方继续发力?...
2017-07-21阅读全文 -
无敌!全球最赚钱的公司一览:四大银行完秒苹果
昨天,财富中文网放出了全球500强公司,其中中国上榜公司数量连续第十四年增长,今年达到了115家,当然排在前列的还是那几个熟悉的身影。 现在财富中文网又汇总了一个更有趣的榜单...
2017-07-21阅读全文 -
惨遭封杀!天天快递怒怼京东:理由荒谬
菜鸟和顺丰的大战刚过去没多久,京东和天天快递也开撕了。昨天,京东发布公告称,为了确保用户和商家在使用物流服务当中的体验,京东将从7月31日起,暂停天天快递服务。 ...
2017-07-21阅读全文 -
苹果和高通打架 科技巨头全都力挺苹果齐怼高通
高通向苹果提供调制解调器芯片,有了这种芯片,iPhone和iPad才能实现通信和移动数据网络的连接。 ...
2017-07-21阅读全文