波士顿禁用人脸识别：该技术导致严重的种族歧视
作者半听星冰乐
波士顿也宣布禁用人脸识别技术了。
6月24日，美国马萨诸塞州的首府和最大城市波士顿的市议会以13票赞成、0票反对的结果通过了《波士顿禁止人脸监控技术条例(OrdinanceBanningFaceSurveillanceTechnologyinBoston)》。
条例规定，波士顿市的任何市政机关和公务员均不得获取、保留、拥有、使用人脸监控系统及通过此类系统获得的信息，而且不能通过与第三方合作绕过条例。违反条例规定获取的人脸监控数据将被视为违法数据，一经发现会被删除。
市政府官员表示，波士顿警察局此前并未使用过该技术，但警局目前使用的一款名为BriefCam的视频分析软件，它的升级版确实有人脸识别功能。波士顿警方在市议会的工作会议上表示，他们不会注册这部分软件更新。
此次条例通过，等于从源头掐灭该项技术在波士顿的使用。
目前，在禁用人脸识别的城市里，波士顿城市规模排第二，仅次于旧金山。
而旧金山和波士顿，一个是推特、爱彼迎和优步的总部所在地;一个是哈佛、MIT等知名高校的所在地。都是充满了科技活力的地区，为什么会自己禁止人脸识别这种先进的人工智能相关技术?
反对者们提出了两个原因：
第一，他们认为这项技术将威胁到公民权利，第二，他们认为面部识别技术存在缺陷，将导致严重的种族问题。
在种族抗议活动愈演愈烈的当下，第二条原因更为重要。
提出了该法案的波士顿市议员里卡多·阿罗约(RicardoArroyo)与市议员吴弭(MichelleWu)指出，这项技术对于有色人种来说是非常不准确的。
"它有明显的种族偏见，这很危险，"阿罗约在听证会前说。
法案中称，“已有证据表明，人脸识别技术在识别非裔和亚裔人群体时准确率更低。人脸识别监控中的种族偏见有可能伤害有色人种群体，而有色人种本身就已经受到更多的监控和骚扰。”
在周三的会议上和投票前，吴弭表示，波士顿不应该使用种族歧视的技术。"我们正在努力结束系统性的种族主义，所以，结束对有色人种社区的过度监视需要成为其中的一部分。"
值得一提的是，吴弭是美籍华裔议员，父母从台湾移民至美国，她也是波士顿第一个当上市议员的亚裔女性。
纽约时报曾在一篇文章中提到，人脸识别在针对有色皮肤时错误率明显增大。
MIT媒体实验室(MITMediaLab)研究员JoyBuolamwini与来自微软的科学家TimnitGebru合作的一篇研究论文《性别图谱：商用性别分类技术中的种族准确率差异》(GenderShades:IntersectionalAccuracyDisparitiesinCommercialGenderClassification)中，作者将微软、IBM和旷视科技三家人脸识别技术进行对比，结果显示，AI应用人脸识别针对黑人女性的错误率高达21%-35%，而针对白人男性的错误率则低于1%，不同种族的准确率差异巨大。
纽约时报称，该项研究也引发了关于“AI是否存在社会不公甚至种族歧视问题”的探讨，但显然并不是。肤色较深女性较难识别，除了天然人脸特征更难提取之外，可供训练的数据集较少也是影响因素之一。
文章表示，当下的人工智能是数据为王，数据的好坏和多少会影响AI的智能程度。因而，如果用来训练AI模型的数据集中，白人男性的数据多于黑人女性，那么系统对后者的识别能力就会不如前者。
现有的数据集中存在这一现象，比如根据另一项研究的发现，一个被广泛使用的人脸识别数据集中，75%都是男性，同时80%是白人。
旷视回应表示，深色人种数据集比较难获得，所以会差一些;另外，使用RGB摄像头进行人脸识别时，深肤色人的人脸特征比较难找，特别是在暗光条件下，这也是一方面的原因。
图源纽约时报图源纽约时报
也是因为如此，今年6月初，IBM致信美国国会议员，宣布公司将退出通用的面部识别业务，并表示反对将这种技术用于大规模监控和种族定性分析。
在本月早些时候的听证会上，波士顿警察局长威廉·格罗斯说，目前的技术并不可靠，而且该部门也没有使用这项技术。
"在这项技术100%准确之前，我对它不感兴趣，"他说。"我没有忘记我是非洲裔美国人，我也会被误认。"他补充道。
不过，波士顿的禁令并不会影响私人公司或联邦机构(如FBI)使用该技术。
除了波士顿和旧金山外，马萨诸塞州的其他五个社区——萨默维尔，布鲁克林，北安普顿，斯普林菲尔德和剑桥也有此条禁令。美国公民自由联盟马萨诸塞州分会推动了这些地方的禁令，并正在游说州立法者采取行动。
目前还没有全州范围内的禁令，不过一项暂停使用人脸识别系统的法案目前正在马萨诸塞州联合司法委员会待审。
相关文章
-
京东金融贷款需要人脸识别吗？贷款方法有哪些？
最高可借款额度为30万元，还款方式灵活，最长可以分24期，支持随借随还。,线上提交申请、线下验车面签，额度高达75万，获得贷款资金后，车辆可供车主继续使用。,7、京保贝京东金融为供应商推出的保理融资服务，供应商可凭采购、销售等数据快速获得融资，从申请到放款最快3分钟就可以完成，额度可达企业应收款项的50%-80%。
2024-03-13 17:51 -
京东白条借钱需要人脸识别吗？可靠吗？
2.京东白条主要是让用户在京东消费时享受先用后付和分期购物服务，其更类似于信用卡，和支付宝的花呗差不多，所以额度主要用于消费。,不过如果京东白条暂不具备取现功能，用户却执意要将额度提出来使用的话，那就相当于套现，而套现行为是违规的，很可能会导致账户风险上升，从而引发系统风控，让白条后续功能使用受限。,总而言之，大家如果要使用京东白条购物的话是必须要符合开通条件的，一般来说，只要信用良好，经常在京东
2024-03-13 17:51 -
企业支付宝人脸识别怎么关闭？附注意事项
目前企业支付宝在认证或是在需要时会有人脸识别，对于个人用户来说人脸识别还比较不错，但是企业用户在使用时，就比较不方便了那么企业支付宝人脸识别开启要注意什么?企业支付宝人脸识别怎么关闭?1、登手机支付宝，点击进入我的在界面的右上角,点击设置2、进入设置，点击账户与安全3、进入账户与安全界面,点击下面安全中心4、下一步点击安全保护工具，其中里面有指纹，刷脸，手势等安全保护措施，选择刷脸5、界面出现的是
2024-03-22 15:05 -
开淘宝店要人脸识别吗？如何认证？
淘宝平台日渐发展壮大，在淘宝开店的商家可以说是越来越多了，既然决定在淘宝开店那么开淘宝店要不要人脸识别?怎么认证?下面给大家讲述一下开淘宝店要不要人脸识别?淘宝开店是需要淘宝商家本人进行人脸识别认证的，因为这会在后面开通认证支付宝的时候用到，所以商家最好是不要使用他人的身份证件去开店怎么认证?1、设备建议首先，准备的照片务必要足够的清晰，只有这样才能够迅速通过审核，因此建议大家使用500像素以上的
2024-03-22 13:11 -
企业支付宝人脸识别怎么关闭（开启要注意什么） 支付宝
企业支付宝在认证或是在需要时会有人脸识别，对于个人用户来说人脸识别还比较不错，但是企业用户在使用时，就比较不方便了，所以，怎么关闭?这对于企业用户来说也是非常重要的，大家也需要知道一、企业支付宝人脸识别怎么关闭?1、登手机支付宝，点击进入我的在界面的右上角,点击设置2、进入设置，点击账户与安全3、进入账户与安全界面,点击下面安全中心4、下一步点击安全保护工具，其中里面有指纹，刷脸，手势等安全保护措
2024-03-22 09:44 -
企业支付宝（人脸识别不了怎么办） 支付宝
现在人脸识别是很方便的，我们使用支付宝软件为了更快的打开软件，甚至是更快的去付款，是可以开通人脸识别的这样操作起来都非常的方便了，企业支付宝人脸识别不了怎么办?一、企业支付宝人脸识别不了怎么办?所有人脸识别都做不100%，目前的技术，识别不了就用支付宝的备用方式登陆，例如验证短信登陆虽然现在人脸识别进入了金融级应用场景，技术算是相当成熟，但仍有不少可以提升的空间一方面，我们需要不断的优化算法，继续
2024-03-22 09:44 -
未来人脸识别，将引爆智能营销？
专家预计，取消了指纹识别，FaceID不用动手就可以解锁以及支付等方式或许成为全球手机厂商下一步跟随的热点。,就具体解决方案来讲，银瀑人脸识别营销分为硬件、家云端管数据管理平台、App层面三个部分，核心就是3D摄像头和拥有仿生计算技术的芯片处理器。,此次见福携引入微软的MicrosoftAzure技术，进行人脸识别销售，顾客挑选好商品后，走到收银台前，只需对着摄像头看一眼，系统即提示“可以了，买单
2024-03-22 09:20 -
刷脸识别背后有风险 人脸识别要守何种游戏规则？
联合国网络安全与网络犯罪问题高级顾问吴沈括接受新京报记者采访时则表示，人脸识别技术一旦被普及，可以定位某人而该人却毫不知悉。,如果一些技术的使用，使得民众或一般人在短时间里难以辨识，就可能存在风险，例如对新闻联播主播进行换脸，然后制造假新闻。,但是，一旦人脸信息这种易获取的“生物密码”丢失或者被人随意更换，那么利用人脸识别技术验证真实身份，也成了无稽之谈。
2024-03-22 09:18 -
AI换脸视频、校园门禁系统：人脸识别应用引民众担忧
新京报记者了解到，目前北京大学、清华大学、中国传媒大学等北京高校，均配有人脸识别的门禁或设备。,上述报告还指出，中国在生物识别技术领域研究已处于世界先进水平，但目前应用规模和渗透率与欧美市场相差还很大，加之目前行业增速稳定，估计国内未来将有较大发展空间，预计2020年生物识别市场规模将突破300亿元。,”郭兵对新京报记者表示，面部特征等个人生物识别信息属于个人敏感信息，一旦(被)泄露、非法提供或者
2024-03-22 09:18 -
黑产盯上人脸识别！花百元探探上可变脸明星艺人
随人脸识别概念的不断走红，刘涛也变得忙碌起来，一天要向十几个“徒弟”传授或者指导“技术”。,不管是司法解释，还是立法层面，均应引起重视，尽快对非法提供人脸认证行为做出更为严格的法律规定。,”据了解，目前人脸识别技术主要应用在金融和安防两大B端领域，诸如机场安检、学校等。
2024-03-22 09:18