您的位置: 钦州信息港 > 时尚

机器人也会造假有偏见原因在这儿

发布时间:2019-04-11 05:14:05

前段时间,Facebook将人类解雇,并让人工智能担任热门榜单的。然而,在上任之后,该机器学习算法连续几天将几条不实以及不雅视频推上热门榜单,其中包括宣称福克斯炒掉了知名主持人MegynKelly并称其为“叛徒”,没过多久此则就得到了当事人及相关人员辟谣。

此外,在今年3月23日,微软悄悄的推出了一款聊天机器人Tay。Tay初是以一个清新可爱的少女形象出现,但是由于她的算法设定是通过学习友的对话来丰富自己的语料库,很快她被友充斥着激烈偏见的话语“带坏”,变成了一个彻底的仇视少数族裔、仇视女性、没有任何同情心的种族主义者。

种种现象看来,机器学习也不是那么的完美,这到底是如何造成的?而且,在智能汽车领域,研究人员意图将机器学习运用到人工智能车载系统上,并让其学会车主的驾驶习惯。但是,在看了上面的例子之后,为了打造更好的机器学习算法,我们应该做些什么?

为何机器学习总是出错?

简单来说,机器学习的原理就是用大量的数据对算法进行训练,从而达到理解人、学习人的目的。从中我们可以知道,这其中重要的就属算法的“学习”过程。

以Tay的偏见为例,关于这个,在一个月前,谷歌的一个数据库貌似给出了答案。

两年前,谷歌的几个研究员启动了一个神经络项目,目标是找出单词相邻组合的各种模式,而所要使用的语料库来自谷歌文本中的300万个单词。虽然结果很复杂,但团队人员发现可以用向量空间图来展示这些模式,其中大约有300个维度。

在向量空间中,具有相似意义的单词会占据同一块位置,而单词间的关系矿用绞车
,可以通过简单的向量代数来捕捉。例如,“男人与国王就相当于女人与王后”,可以使用符号表示为“男人:国王::女人:王后”。相似的例子有,“姐妹:女人::兄弟:男人”等等。这种单词之间的关系被称为“单词嵌入”。

,蕴含了诸多单词嵌入的数据库被称为Word2vec。之后的几年内,大量研究人员开始使用它帮助自己的工作,比如机器翻译和智能页搜索。

但是有一天,波士顿大学的TolgaBolukbasi的和几位来自微软研究院的人员发现,这个数据库存在一个很大的问题:性别歧视。

比如说,你在数据库里询问“巴黎:法国::东京:x”时,系统给你的答案是x=日本。但是,如果问题变为“父亲:医生::母亲:x”时,给出的答案是x=护士;再比如问题“男人:程序员::女人:x”,答案为x=主妇。

这种答案在一定程度上已经算是一种性别歧视了。而据分析,个中原因是Word2vec语料库里的文本本身带有性别偏见,之后的向量空间图随之也受到影响。

由此我们可以看出,机器学习之所以会出错,某种程度上还是归于“学习资料”的“不太正经”,以及算法那种什么都学的性质。

这种错误是否可以避免西安废铜回收

讲真,以当前的技术来讲,这种现象是很难杜绝的。如果要杜绝这种情况的出现,那不仅涉及到技术层面,还有社会道德层面。

先看社会道德层面。机器学习算法的数据来源于人们的语言、行为习惯等柴油脱色砂
,以软银计划打造的人工智能汽车为例。7月份,软银与本田达成合作,联手打造一辆能够阅读驾驶员情绪并与之交流的汽车,在行驶过程中,系统中的机器学习算法可以学习驾驶员的驾驶习惯,从而在无人驾驶模式开启时,能够给予驾驶者舒服、毫无违和感的的驾驶体验。但是,如果该驾驶员有不良驾驶习惯,那将会对算法的学习提供错误的示范。

这仅仅是驾驶习惯,而在语言方面,其中可能包括暴力、侮辱等等字眼,相比于驾驶习惯,这些更难以约束。因而,在学习对象都不能“正经”的情况下,又怎么将机器学习算法调教完美?

再看技术层面,这也得从数据方面下手。如果想要好好的训练算法,研究人员就得剔除数据中的不良信息和隐藏的逻辑,再让算法分别识别。但从这里我们就可以了解到,这是对于研究人员而言,将是一项极其繁重、极具难度的工作。而且,抠字眼还是比较简单的了,难搞的还是字里行间的逻辑关系,一不小心就是一个大坑。不管是人类,还是机器,对于这种识别都是一个难以跨越的坎儿。

以此种种来看,机器学习固有它的好处,但我们还是不能过于依赖,尤其是涉及到一些复杂的工作,比如开车、聊天等情形。不过,虽然当前这个问题很难解决,但随着人工智能技术的发展,说不定哪天研究人员就能想到一个法子,从而彻底解决这个问题。

猜你会喜欢的
猜你会喜欢的