别再谴责谷歌搜索存偏见了！这是算法复制放大现实世界偏见所致

　　网易科技讯9月1日消息，据CNBC报道，首先，我们需要澄清下：美国总统唐纳德·特朗普（Donald Trump）本周针对谷歌的指控是毫无根据的。特朗普宣称，这家搜索引擎出于政治原因，在其搜索结果中更多显示反对特朗普的新闻内容。此外，特朗普还声称，谷歌在其主页上推荐了前总统巴拉克·奥巴马(Barack Obama)的国情咨文演讲，而没有推荐他的演讲。这也是错误的，因为截图显示谷歌确实链接到了特朗普今年的演讲。

图：2018年5月8日，谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)在美国加州山景城举行的谷歌I/O开发者大会上发表讲话

　　但这就是本文为“谷歌辩护”得出的结论。因为，不管特朗普是否知道，他的错误指控引发了对谷歌、其偏见及其影响力的一系列长期担忧。顺着特朗普的指控扩展开来，你会发现一系列令人不快的事实，它们对谷歌和社会来说都是不舒服的，因为它们突显了我们是如何受制于这家公司的，以及我们对它许多影响全球的隐形方式制衡如此至少。

　　特别值得一提的是，大量研究表明，谷歌还有另一种偏见值得担忧。特朗普所谓的“赤裸裸的党派偏见”不太可能发生，但它有个隐藏潜在问题、普遍而经常未被意识到的偏见，比如搜索“黑人女孩”谷歌会导向色情网页链接，输入短语“黑人女性为何如此”总会伴随着“愤怒”和“喊叫”的场景，或者搜索“大猩猩”会显示黑人照片等。

　　在《压迫算法：搜索引擎如何强化种族主义》（Algorithms of Oppression: How Search Engines Reinforce Racism）这本书中，举了许多上述类似例证。虽然谷歌已经为之道歉并修复了这些例子，但这些场景的变体不断涌现。该书作者、南加州大学安嫩伯格交流学院教授萨菲亚·

　　诺布尔博士（Safiya U. Noble）认为，许多人对谷歌有错误的认识。我们曾认为搜索引擎是个中立的甲骨文，就好像该公司以某种方式整合电脑和数学，客观地从垃圾中筛选出真相。

　　但谷歌实际上也是由有偏好、有自己观点以及有盲点的人创建的，他们在具有明确财务和政治目标的公司结构中工作。更重要的是，由于谷歌的系统越来越多地由从现实数据中学习的人工智能（AI）工具创建，它放大社会中存在的许多偏见的可能性也越来越大，甚至其创造者都不知道这些偏见。

　　谷歌表示，它意识到搜索结果中可能存在某些偏见，并已采取措施加以预防。谷歌搜索排名团队的负责人潘杜·纳亚克(Pandu Nayak)说:“我们已经做出承诺，要不断改进搜索结果，以有效、可扩展的方式不断解决这些问题。我们没有坐下来忽视这些问题。”

　　多年来，诺布尔博士、其他研究隐藏偏见的人以及许多对谷歌影响力持批评意见的企业，比如经常与之作对的Yelp，始终在试图就这家搜索公司如何影响在线言论和商业展开公开讨论。现在，人们担心特朗普的错误指控可能会破坏这种工作。弗吉尼亚大学媒体研究教授希瓦·瓦伊德哈亚纳桑(Siva Vaidhyanathan)专门研究谷歌和Facebook对社会的影响，他说:“我认为特朗普的抱怨毁掉了很多好的、复杂的想法，这些想法开始影响公众对这些问题的意识。”

　　诺布尔博士认为，更具建设性的对话对于“控制信息领域的垄断”有好处。所以，我们应该就此展开建设性对话。

　　谷歌最重要的决定是保密

　　在美国，大约80%的网络搜索是通过谷歌进行的。在欧洲、南美和印度，谷歌在搜索领域所占份额甚至更高。谷歌还拥有YouTube和Gmail等主要通信平台，并控制着Android操作系统和应用店。它是全球占主导地位的互联网广告公司，通过这项业务，它还塑造了数字新闻市场。

　　谷歌的力量本身并不具有破坏性。重要的问题是它如何管理这种力量，以及我们如何监督它。这就是批评人士所说的失败之处。谷歌对公共话语的影响主要是通过算法产生的，其中最主要的是决定你在其搜索引擎中看到哪些结果的系统。这些算法是秘密的，谷歌称这是必要的，因为搜索是它的“金鹅”(它不想让微软旗下必应知道谷歌为何如此伟大)，还因为解释算法的精确工作方式会让它们容易被操纵。

　　但这种最初的保密造成了令人不安的不透明。因为搜索引擎在搜索的时候会考虑时间、地点和许多个性化因素，所以你今天得到的结果不一定和我明天得到的结果匹配。这使得外界很难对谷歌的结果进行偏见调查。本周，很多人取笑特朗普为了支持自己的主张而提出的证据太少。但研究人员指出，如果谷歌以某种方式失控，并决定支持某个受青睐的候选人，那么只需要改变一小部分搜索结果就可以做到。如果公众确实发现了这类事件的证据，可能也无能为力。

　　马里兰大学法学院教授弗兰克·帕斯夸里(Frank Pasquale)说：“对于如何调查和识别这些说法，我们真的必须有更复杂的认识。”在2010年发表在《法律评论》的文章中，帕斯夸里概述了联邦贸易委员会(FTC)和联邦通信委员会(FCC)等监管机构获取搜索数据的方式，以监控和调查有关偏见的指控。没有人接受这个想法。Facebook最近草拟了一项计划，允许学术研究人员访问其数据，以调查偏见等问题。

　　谷歌没有类似的项目，但纳亚克博士说，该公司经常与外部研究人员共享数据。他还认为，谷歌的搜索结果不像人们想象的那样“个性化”，这表明搜索偏见出现时很容易被发现。纳亚克指出：“我们所有的工作都是公开的，任何人都可以评估它，包括我们的批评者。”

　　搜索偏见反映了现实世界的偏见

　　特朗普声称的那种地毯式的、故意为之的偏见，必然会涉及到谷歌的许多员工。而谷歌当前也在许多热点问题上纠缠不清，比如多样性或者是否与军方合作等，有政治头脑的雇员向媒体提供了重要信息。如果有传言说谷歌的搜索团队正在扭曲政治目的，我们很可能会在媒体上看到这种阴谋的证据。

　　这就是在研究算法偏见问题的研究人员看来，为何更紧迫的问题不是谷歌故意对某个主要政党存在偏见，而是对那些在社会中尚未掌权的人存在偏见。这些人包括女性、少数族裔以及其他缺乏经济、社会和政治影响力的人，他们被这家由加州富人经营的公司所忽略。正是在这些盲点上，我们发现了谷歌存在的最具问题的偏见，比如它曾经建议对搜索“自学微积分英语专业”中的女性反身人称代词（herself）更正为男性（himself）。

　　谷歌的解释一点儿都不奇怪，因为网上用后者更普遍，所以谷歌的电脑认为这就是正确的。换句话说，社会上长期存在的结构性偏见在网络上得到了复制，这反映在谷歌的算法上。最终，这个错误被修复了，但是在谷歌中还隐藏了多少这样的错误呢？我们同样不知道。

　　谷歌表示理解这些担忧，并经常解决这些问题。2016年，有些人注意到谷歌将否认大屠杀的网站列为搜索“大屠杀发生过吗?”的结果顶部，这让该公司开始着手解决仇恨言论和网上的错误信息。纳亚克博士说，这种努力表明：“当我们看到现实世界的偏见使搜索结果变得更糟糕时，我们就会试图触及问题的核心。”

　　谷歌最近逃脱了审查

然而，我们应该担心的不只是这些意外的偏见。研究人员还指出了其他问题：谷歌的算法倾向于时效性和活跃性，这就是为什么在重大新闻事件发生后，谷歌的算法往往容易受到操纵，容易受误导和谣言的影响。谷歌表示，它正致力于解决错误信息。谷歌的许多竞争对手指责说，在搜索结果中，谷歌更喜欢自己的内容，而不是第三方网站内容。例如，它会突出显示谷歌的本地评论，而不是Yelp对本地搜索查询的回应。

　　欧洲监管机构已经因为这种搜索偏见对谷歌处以罚款。2012年,美国联邦贸易委员会的反垄断调查人员在谷歌发现了不公平搜索行为的可信证据。然而，该机构委员一致投票反对提起诉讼。谷歌也否认有任何不当行为。谷歌面临的危险是，无论特朗普的指控多么不实，都为讨论这些合法问题创造了机会。此前，犹他州共和党参议员奥林·哈奇(Orrin Hatch)呼吁联邦贸易委员会重启谷歌调查。可能还会有更多类似情况。在过去的几年里，Facebook经受住了社会对大型科技公司的质疑。现在，谷歌被推上了风口浪尖。（小小）

　　原标题：别再谴责谷歌搜索存偏见了！这是算法复制放大现实世界偏见所致|特朗普|搜索引擎|脸书