不知性别也能歧视 苹果信用卡额度差异揭算法歧视“隐变量”
来源：腾讯新闻
杰米·汉森比丈夫大卫·汉森的信用分数高，夫妇俩是均等份额共有房产，也是联合报税。然而，大卫的苹果信用卡额度竟是妻子的二十倍。不免让人质疑苹果信用卡对女性的性别歧视。
而这不是特例。据BBC11月18日报道，近日，连苹果公司联合创始人斯蒂夫·沃兹尼亚克也在社交媒体上发声称，他们夫妇的额度也相差了多达10倍，尽管夫妻俩压根就没有个人单独的银行账户或任何个人资产。
人们误以为计算机并不存在偏见和歧视。图据BBC
美国监管部门已经对此启动调查，运营苹果信用卡的高盛银行也受到了批评。这一事件让人们再次关注机器学习和算法存在的问题，他们在当代生活中扮演的角色，和“无意识”的性别、种族等歧视。
算法歧视如何影响我们
从交通、购物到生活的方方面面，算法的使用无疑已经渗透进了我们的日常生活。当代人的生活因算法而改变，很多情况下是更为便利快捷，得到了改善和提升，却也不免承担其弊病。
人们一度误以为，计算机并不存在偏见，不会有歧视。然而，事实上，哪怕是无意识的，那些设立算法的人，那些给算法提供数据供其学习的人，还有那些数据本身，就存在偏见。因此，机器也能得出歧视性判断。
斯蒂夫·沃兹尼亚克在大卫·汉森推文下评论称，他们夫妇的苹果信用卡额度也相差了多达10倍。
要说算法的歧视和弊病，最典型的就是财务生活。银行使用机器学习技术来审批贷款申请，保险公司也主要以机器来衡量申请人的风险程度。对消费者来说，算法决定了他们付多少钱(如保险费)，甚至决定了他们是否能得到这个产品或服务。
以保险为例，国外所谓的“邮编彩票”就是指两个申请条件一模一样的人为房屋保险付的钱却不一样，如同买彩票。算法会用房屋所在的邮编来获得其所在地的犯罪率，进而评估房屋被盗窃等风险的几率，并以此设定保费的金额。
在苹果信用卡案中，用户并不知道算法具体使用了哪些数据，是如何决定其额度，但很可能是使用了一些历史数据，而这些数据将一些人列为风险更高的族群。
没具体信息也能导致歧视的“隐变量”
据报道，负责苹果信用卡运营的高盛公司称，他们甚至根本没问过申请人的性别、种族、年纪等具体信息，因为询问这些信息是违法的。因此，信用卡额度的决定并不是基于申请人的性别。
苹果今年8月和投行高盛合作推出信用卡，却被指控背后演算法存在性别歧视。图据BBC
然而，这种说法忽略了“隐变量”。旧金山USF应用数据伦理中心主任瑞秋·托马斯指出：“即使你的算法没设置种族和性别数据，它依然可以在这些方面存在歧视。”
例如，一个算法可能并不知道用户的性别，但它可能知道你是个小学老师——以女性为主导的行业。此外，算法获得的历史数据，可能是来自于警察或法官还在严重受种族影响而做出司法决定的时期。机器会从这些存在歧视的历史数据中学习，进而复制具歧视的决定。
此外，在遇到一些没处理过的数据时，算法的表现可能会更糟糕。例如，面部和语音自动识别软件大多数都是来自于没口音的白人数据。因此，当它遇到那些不是白人，或有地方口音的人时，就会遭遇识别困难。如果你在打电话的时候遇到“智障”机器语音系统，难以沟到令人发怒的话，就会明白算法的这种漏洞。
算法歧视，可有破解之法?
算法的公正性早成了热议话题，但至今没能达成共识。
方式一：让这些大公司公开其算法。然而，这些算法是价值很高的商业资产，是那些公司付着高薪，请专业人才花费数年才开发出来的。没有公司想把自家苦练的绝技免费公之于众。例如，要是能免费得到亚马逊的算法，大多数零售商都会高兴死了，但亚马逊愿意吗?
另一个方式是提高算法的透明度。公司告知客户哪些数据是对其算法最为重要的，而其算法又是为什么做出某种决定。然而，在透露这些信息的最佳方式上，也没能达成共识。
还有一个方式，让算法不基于具体的信息。为保险业提供软件服务的查尔斯·泰勒保险科技公司CEO杰森·萨侯塔指出，现在群体性保险政策越来越多，保险公司通过雇主向某一类工作人员提供群体性的健康保险政策，被保人不需要填写个人信息，因为保险公司会整体考量这部分人的风险。但杰森·萨侯塔也指出，如果去除太多具体数据，保险申请人之间很难辨别区分度，这会导致产品的均质化。因此，他认为，人们应该知道为什么算法需要某些信息，而这些信息又会被如何使用。
一旦发现了无意识造成的偏见，人们不能简单责怪这些数据，更重要的是找到方法解决偏见或歧视等问题。
红星新闻记者蒋伊晋林容编译
编辑张寻
信息转载自网络，更多相关信息请点击：营销推广http:///
相关文章
-
拼多多商品关联推荐的商品卖完了会怎样？
您好，对于未设置、已售罄、已下架的关联商品位，将由算法推荐，且所有关联商品由算法自动排序。,并且使用算法智能推荐，可为消费者提供更加精准的个性化推荐。,您可以点击：商品关联推荐，了解更多详情。
2024-03-18 10:49 -
拼多多设置商品关联推荐有什么用？
1、关联推荐商品展示在主商品购买详情页中的店铺推荐位模块。,2、店铺推荐模块中支持商家手动设置3个商品，其余由算法智能推荐。,3、未设置、已售罄、已下架的关联商品位，将由算法推荐，且所有关联商品由算法自动排序。
2024-03-18 10:49 -
头条推荐量低怎么回事？如何提高？
现在头条认证一旦通过,发布的作品尽量是认证领域的范畴,这样领域垂直度就非常高,头条的推荐量和阅读量也会很高那么头条推荐量为什么低怎么回事?第一，标题关键词生僻有的人喜欢卖弄文采还是出于什么目的，取标题时会出现一些生僻字，比如什么“魑魅魍魉”,或是说什么现在连人都不一样懂的火星文“yyds”，这种情况下，算法扫描到你的文章时，它压根不理解你要说的是什么东西，这样肯定就没办法给你推荐第二，标题堆砌了很
2024-03-22 19:09 -
抖音视频算法考虑哪些特征？具体是什么机制？
对于抖音用户来说，如果想要运营好账号，一定要掌握抖音的推荐算法，掌握了这些算法以后，可以做的更好，那么抖音视频算法考虑哪些特征?下面为大家进行解答。1、中心化推荐所有内容创作者去创造内容，然后提交到平台。由编辑人工审核后，决定把谁的内容放在哪个版块，把谁的内容放在首页。所有用户打开网站首页后，看到的内容是一样的，用户看到的内容不是自己选择的，而是平台推荐的。早期的百度，谷歌，淘宝，京东，雅虎，搜狐
2024-03-22 17:16 -
学会淘宝seo，还怕网店没流量吗
淘宝SEO，即是确定某一个关健词下商品如何排名的方法。,于是，很多人醉心于窥探淘宝宝贝搜索排序的算法。,其实最主要的影响因素基本上有：类目属性图片标题优化服务等，但要如何做，还是自己研究吧。
2024-03-22 10:46 -
外媒称YouTube打击政治激进视频 平台不向用户推荐
新浪科技讯北京时间12月30日早间消息，据外媒报道，在过去一年中，两名研究者对数百万条YouTube推荐视频进行了研究，他们发现这个平台其实正在打击政治激进主义。,这两位研究人员表示，截止到2019年底，YouTube的推荐算法似乎更加符合主流媒体和有线新闻内容，而不是独立YouTube内容创造者。,独立数据科学家马克·莱德维奇(MarkLedwich)和加州大学伯克利分校博士后研究员安娜·扎伊采
2024-03-22 09:00 -
人工智能还是人工智障？——大型算法翻车现场
文/卫夕来源：卫夕指北(ID:weixizhibei)你相信算法吗?无论你的答案是什么，我们的生活已经被算法彻底改变了——我们聊微信、刷短视频、逛淘宝的背后都是无数个算法在支撑，算法从开始简单的If、then、else规则变成了越来越复杂以至于连程序员也不清楚内部运作规则的深度神经网络，它在变得复杂的同时也在彻底的变革每一个产业，人们离不开算法，媒体喜欢算法，在一个个故事的渲染下，算法似乎变得无所
2024-03-22 08:54 -
淘宝新手开网店没有流量应该如何学习淘宝seo优化？
淘宝SEO，即是确定某一个关健词下商品如何排名的方法。,但可以预见的是，用不了一年，最终结果也将是和百度竞价一样，因“流量的进价高于售价”而做不下去。,于是，很多人醉心于窥探淘宝网店宝贝搜索排序的算法。
2024-03-22 08:33 -
量子的海市蜃楼，和机器学习的嗅觉
前人的工作是利用近藤效应来实现量子海市蜃楼，只能在费米能级附近进行探测。,逻辑非门(NOTgate)：(a)在椭圆量子围栏左焦点放置1个Fe原子的形貌图。,目前IMB、HRL实验室、高通等科技巨头都投入了相当大的精力在神经形态芯片方面，相信其发展速度也会极其可观。
2024-03-22 08:28