AI人工智能 | 人工智能机器人【中国人工智能网】

滚动新闻

算法是如何加剧不服等的?

时间:2018-07-16 12:14来源:网络整理 作者:AI人工智能

焦点提示:跟着投入民众信息资源建树的经费一连削减,诺布尔催促人们思考,我们越来越依赖告白公司“来查找有关民族、文化、思想和小我私家的信息”会带来什么影响。在大科技公司的主导职位使越来越多人号令“要引起存眷和采纳掩护法子,以造福公家”,诺布尔的概念在这些呼声中显得独具匠心。

算法是如何加剧不平等的?

数字化东西常被称颂为透明、民主化的“颠覆者”(disrupter)。两本新书主张,这种乐观的观点是错误的,就此刻利用的算法来说,它们对边沿群体的人权组成了重大威胁。

加州大学洛杉矶分校(University of California, Los Angeles)信息学研究助理传授萨菲娅•乌莫亚•诺布尔(Safiya Umoja Noble)在先容她研究的主题的时候,报告了促使她写作《压迫性算法》(Algorithms of Oppression)的一件事。2011年9月,诺布尔想相识她十岁出面的继女和来家里玩的侄女们会喜欢什么,为了找灵感,她在谷歌(Google)上搜索了要害词“黑人女孩”。她原本是想查黑人女孩这个群体大概感乐趣的对象;相反,搜索出的功效页面充斥着色情内容。诺布尔诙谐地评论道:“凭据搜索功效排名摆列出来的最佳信息,对我可能我爱的孩子们来说显然不是最佳信息。”

诺布尔认可,任何搜索功效很快城市酿成汗青:一年后她又搜索了这个要害词,发明色情内容获得了节制。但诺布尔主张,这种工作应该被视为系统性问题,而不是一次性的“小妨碍”。尽量诺布尔并未以提供种族主义内容或性别歧视内容为由状告谷歌,但她不愿苟同一种观点,即谷歌搜索功效反应其用户的民主倾向,尽量这种倾向大概令人遗憾。她质疑谷歌对其算法发生的功效存在失职。

就如诺布尔指出的那样,人们很容易健忘谷歌不是民众信息资源,而是一家跨国告白公司。尽量谷歌搜索机制的本质是对互联网用户的“引用”,但其专有的算法大概左袒可以或许带来收入的客户的网页。同时,搜索引擎优化行业致力于哄骗特定网页,将它们放入令人艳羡的首页功效中。因此,谷歌更像是一个“思想超市”,而不是被认为对民主至关重要的“市场”。就如在现实糊口中的超市里,一些物品被摆在显眼的位置不必然是因为它们的品质和性价比,而是取决于零售商和出产商的贸易好处和经济影响力。假如说只牵涉到烤豆子摆在那边,这照旧一种可以接管的布置:但假如,被摆放的是社会身份呢?

谷歌搜索的无处不在反应出其算法能很是精确和快速地找到我们想要的信息。但在《压迫性算法》中,我们进入的是这样一个信息超市,走进标着“黑人女孩”的这条通道,立即进入眼帘的那一排“货架”上摆满了色情内容。在“传授”的货架上陈列着一排又一排的白人男性。黑人青少年男孩与“犯法配景观测”产物摆在一起。一堆关于“黑人对白人犯法”的白人至上主义“统计”掩盖了精确的当局数据源。

跟着投入民众信息资源建树的经费一连削减,诺布尔催促人们思考,我们越来越依赖告白公司“来查找有关民族、文化、思想和小我私家的信息”会带来什么影响。在大科技公司的主导职位使越来越多人号令“要引起存眷和采纳掩护法子,以造福公家”,诺布尔的概念在这些呼声中显得独具匠心。

探讨有关谁是受益者的问题也是《自动化不服等》(Automating Inequality)一书的写作念头。纽约州立大学奥尔巴尼分校(University of Albany, SUNY)的政治科学助理传授弗吉尼娅•尤班克斯(Virginia Eubanks)通过三个有关美国民众处事机构利用自动化和算法的案例研究,展现“始自19世纪20年月、以说教和处罚为手段的贫穷打点计策获得(数字化)延续和扩张”。每一个政治人士、公事员和软件工程师都应该阅读《自动化不服等》这本书。尽量认可如今的技能较以前的系统有所改造,这本书揭破出一个骇人的事实——那些埋没的代价观和双重尺度很容易被嵌入自动化系统并因此获得助长。

印第安纳州的一个自动福利系统甚至将自身常常呈现的错误归入“未能相助”一类,在3年中拒绝了100万份福利申请。错误地拒发食品券的比例从1.5%飙升至12.2%。同时,为了提高效率和淘汰欺骗财,自动化系统代替了会运用同情心和伶俐来辅佐弱势群体应对贫困、疾病、赋闲和丧失亲友等巨大处境的社会事情者。

在洛杉矶,数万名无家可归者向一个168个组织都可调阅的数据库提供了小我私家隐私信息,以便算法能将他们分类并分别序次。这不是一桩划算的互换,因为高出5万名洛杉矶住民依然无家可归,但警方却可以不经授权调阅他们的小我私家书息。尤班克斯指出,洛杉矶的有房住民不只享受着按揭贷款税收减免的福利,法律部分在未获授权的环境下也不能随意审查或调取他们的小我私家书息。对比之下,在什么环境下,同样寻求当局援助的无家可归者的小我私家书息就可以被“全盘调阅”?尤班克斯指出,只有在一个“把贫困和无家可归与犯法行为画等号”的系统下这种事才说得通。

    标签: