sbf123胜博发娱乐--信息创造价值,科技驱动未来!

关于我们 合作联系:QQ:732968440

sbf123胜博发娱乐

Google联想功能Bug多,是算法无情还是人性本恶?

时间:2018-02-12 16:52:51    作者:量子位    来源:创事记

美国科技媒体Wired说:Google的自动联想功能,至今Bug多多。

比如当你搜索“伊斯兰主义者”时,Google给出的自动联想是“伊斯兰主义者不是我们的朋友”,或“伊斯兰主义者是邪恶的”。

对于“黑人是”,Google给出的自动联想是“黑人不被压迫”。

更可怕的是“希特勒是”,其中有一条自动化联想是“希特勒是我的英雄”。

“女权主义者”则能引出“女权主义者是性别歧视”的说法。

各种政治不正确的例子还能举出更多。比如搜索“白色至上”,自动联想的第一位结果是“白色至上是好的”,而“黑人生命”则出现了“‘黑人生命事件’是一个仇恨组织”的引导,还有“气候变化”,Google提供的潜在导向均是否定性论调。

总之,虽然Google的“人品”有口皆碑,但这样有图有真相的事实面前,还是引人思考:

这到底怎么了?

算法无情

这种自动化联想填充的建议,当然并非出自Google强制编码,这是Google对SBF胜博发娱乐官网上整个内容世界进行算法扫描的结果,也是对人们日常搜索关键词的具体评估。

于是有一些搜索自动联想看起来标题党。

比如“‘黑人生命事件’是一个仇恨组织”,搜索指向的最高结果,是一个贫困法律援助中心的联系网页,其中解释了为啥它不认为“黑人生命”是一个仇恨组织。

但“希特勒是好人”却并非类似的标题党了,如果你接受自动联想并搜索,真能去到一个介绍“希特勒是好人”的内容网页。

虽然那啥自由,但这种大是大非问题如果置之不顾,想想就令人后怕。

Google也不是没有动作。

在回应自动联想的声明中,Google表示将删除上述一些特别违反其政策的搜索提示,但没有指出具体删除了哪些搜索。

也有其他发言人表示,Google过去一直在努力提高搜索质量,去年还为用户添加了一种标记自动联想结果的方式,如果你发现自动联想的结果不准确或令人反感,可以直接在列表底部反馈。而且,行之有效的方法似乎也只有发动人民群众了。

“因为算法不会永远是完美的,Google自动联想参考了其他用户的搜索数据。”

这句话来自Google新闻副总裁Richard Gingras,在上周四于华盛顿举行的听证会上,他告诉大家:尽管我们的算法是完美的,但我不相信它们会永远完美。

最主要的原因,Google自动联想背后的参考数据库,是一个每天都在变化的语料库。

人民的汪洋大海太大,大到Google的技术也hold不住。

实际上,早在2016年12月,Google就官方宣布过一次人为修复搜索联想的事件。当时用户输入“犹太人是”时,Google自动联想的问题是:“犹太人是邪恶的”?

所以犹他大学的数据科学伦理方面的教授Suresh Venkatasubramanian就表示,如果自动联想是人们搜索情况的一个反映,那它就不会存在道德底线。

言下之意是:技术没有价值观,会变得非常可怕——毕竟世界大了啥人都有。

然而通过技术解决问题也并不容易。比如Google确实出手对“希特勒”和“犹太人”等搜索的自动联想结果进行了修改限制,但如何能让这种“修改限制”规模化、技术化?

这就要让技术模型“有思想”或者“有原则”。

Google还不够努力?

目前,Google的尝试是制定了一揽子方案,比如暴力、仇恨、性暴露或危险的相关联想预测被禁止。但还是被认为标准太过模糊,机器对于一些常识的理解难于登天,比如“希特勒是我的英雄”出自希特勒自己,是当时这位狂人对自我的一种预言,但历史进程告诉我们:这是恶的。

此外,Google也确实在遭遇现实挑战。每天都在有新的搜索出现,而且每天都有高达15%的全新搜索内容,每一个新问题都可能突破Google解决方案的既有设定。

那么是Google还不够努力吗?Wired认为是。

Wired质疑Google已经有足够的付出去解决当前面临的挑战,而只是在纠正个别问题。即便这家母公司市值超过7000亿美元的企业,宣称有7万名以上的全球员工在不断审查评估搜索结果,但随便搜索十几次,就能发现七八个显然不受欢迎的自动联想。

Wired不否认自动联想的价值,但需要解决它正在损害公共认知和价值的问题。

而且自动联想也不止于Google搜索本身。在Google产品全家桶体系内,都存在这样的问题。

比如2015年奥巴马任职总统期间,如果你在Google地图上搜索“ina house”,就会被自动联想引导至白宫。

去年11月,Buzzfeed News则发现,如果你在YouTube上搜索“how to have”时,给出的自动化联想竟然是“如何与你的孩子发生X关系”。

还有,去年拉斯维加斯大规模射击事件后,Google搜索的结果中还出现了一个“4chan”页面,一个无辜的人在这个页面里被当做了杀手。

毫无疑问,类似的自动化系统接下来如何发展,并不单单是Google或Alphabet面临的问题。比如去年公益调查机构ProPublica就发现,Facebook允许商可以定向投放对“犹太人”感兴趣的用户,尽管Facebook声称并没有人为创造这个类别——而是智能化工具根据用户信息创造的。

所以是时候管一管这些算法了吗?

Wired最后说:Google有一系列的价值观来提供公平公正,但对搜索结果缺乏仲裁。

Wired认为,算法再好,也不该被授予价值判断的责任。因为算法不知道哪些问题粗俗无理、政治不正确,或者并不知道希特勒是一个种族灭绝的疯子。算法只知道从Google搜索的结果中挑选,却让Google搜索的算法创造者们反受其限。

实际上,这样的亏早就吃过了,虽然并不是在英语世界中。

【责任编辑:黄轩】
频道精选
百万梦想破碎兄弟反目成仇 起底车智汇7级金字塔经销模式

百万梦想破碎兄弟反目成仇 起底车智汇7级金字塔经销模式

广州亚美公司现在经常将车联网与车智汇的理念混在一起谈,进来的人都觉得,自己在做一个国家认可的大项目。也许这就是所谓的自欺欺人。
车智汇
高管内讧,一点资讯上演控制权“罗生门”

高管内讧,一点资讯上演控制权“罗生门”

1月22日,一点资讯原CEO李亚声称此前的罢免不具法律意义,这距离一点资讯宣布任旭阳接任CEO不到24小时。李亚同时还印证了此前业内人士对内讧的猜测。
一点资讯 高管内讧
这看的动人,看的温暖 啥是佩奇?为啥是佩奇?

这看的动人,看的温暖 啥是佩奇?为啥是佩奇?

睡前聊一会,梦中有世界。昨晚,仿佛忽然之间,很多人的朋友圈被短片《啥是佩奇》刷屏了。
佩奇 头条 小猪佩奇
网易考拉深陷信用危机 加拿大鹅赴东莞实物鉴定“真假难辨”

网易考拉深陷信用危机 加拿大鹅赴东莞实物鉴定“真假难辨”

加拿大鹅(Canada Goose)事件一波三折,网易考拉到底卖的是真鹅还是假鹅,至今尚未有一个权威鉴定。 1月15日,网易考拉与浙江省杭州市东方公证处的公证人员一同前往广东
加拿大鹅 网易考拉售假
从“移动SBF胜博发娱乐官网第一股”到被纽交所除名退市 网秦都经历了什么

从“移动SBF胜博发娱乐官网第一股”到被纽交所除名退市 网秦都经历了什么

纽交所正式通告美国证券交易委员会(SEC),其认为凌动智行已不再适合继续上市及交易,因此计划于今年1月22日将凌动智行除名退市。
头条 移动SBF胜博发娱乐官网 网秦 凌动智行
汽车之家四面楚歌:合作伙伴纷纷解约 封杀风波骤起

汽车之家四面楚歌:合作伙伴纷纷解约 封杀风波骤起

对于两大经销商集团解约造成的影响,外界预估汽车之家的损失将达上亿元。李竑在社交媒体发文的配图上称,“第一块多米诺骨牌倒下,2019中升即将贡献的过亿元预算
汽车之家 头条 运通集团
继权健后“天狮”被爆传销 已致155人死亡!

继权健后“天狮”被爆传销 已致155人死亡!

2009年以来,全国以“天津天狮”名义进行的传销活动引发各类刑案2781例,除了以“组织、领导传销活动罪”定罪的案件,其他案件主要表现为非法拘禁、故意杀人等,共
权健 天狮 传销
趣头条的2018:下沉市场的“高光”与“走光”

趣头条的2018:下沉市场的“高光”与“走光”

在资本市场上,属于趣头条的高光时刻并不长,从高位跌到“破发”也仅仅用了7天时间,虽然其股价在2018年末出现了一波回暖,目前已回到发行价上方,但仍未回归“高
趣头条 头条
锤子科技被法院冻结266万元 因有转移财产的企图

锤子科技被法院冻结266万元 因有转移财产的企图

近日,北京市大兴区人民法院冻结了北京锤子数码科技有限公司(简称“锤子科技”)在招商银行账户内的存款人民币265.84万元。
锤子科技 资产冻结
高通胜利!苹果从德国官网下架iPhone 7/8 宣告停售

高通胜利!苹果从德国官网下架iPhone 7/8 宣告停售

在慕尼黑地区法院做出裁决后,苹果公司已从其德国官网和商店下架iPhone7和iPhone 8。法院裁决称,这两款iPhone侵犯了高通在智能手机节能技术方面的专利。
高通 网络设备 苹果 iPhone 停售

2017-2018 Copyright © 古都科技网 豫ICP备18040629号

技术支持:沿亮科技 www.yanliangcloud.com