IBM宣布退出人脸识别，是道德楷模还是商业投机？
记者|吴洋洋
编辑|陈锐
上周，IBM、亚马逊和微软相继发表声明，宣布不再向警方提供人脸识别技术。其中，亚马逊表示将对向警察出售人脸识别工具的业务暂停一年;微软把禁售期设置在了“监管人脸识别技术的联邦法律出台之前”;IBM最先表态也最彻底，声称将永久停止提供其人脸识别软件作“大规模监控或种族归纳”之用。
对包括人脸识别在内的AI侵犯隐私的声讨由来已久，但它并不是这些技术公司此次表态的直接原因。
5月25日，非裔美国人乔治·弗洛伊德(GeorgeFloyd)在明尼苏达州涉嫌使用假钞被捕，并被警察以压颈执法致死。事件引发美国社会以“BLM(BlackLivesMatter，黑人的命也是命)”为口号的反种族歧视运动。
美国民众抗议警察暴力执法。|图片来源：视觉中国美国民众抗议警察暴力执法。|图片来源：视觉中国
在美国，IBM、亚马逊、微软等公司都曾不同程度地向美国执法机构交付过人脸识别工具。通过这类工具，警察可以在街头巡逻时快速比对他们手机摄像头中的图片，还能将其与警察数据库中的数十万张照片做匹配。这种人脸识别工具强化了警察的能力，也自带偏见。
在科技公司站出来之前，以价值观著称的Nike、星巴克等消费品公司都已发声，Nike在一支广告片中将其品牌口号“Justdoit”临时性地改成了“Don’tdoit”;星巴克也从6月12日起允许员工穿戴BLM相关的服饰，并发放了25万件相关配饰给员工。
为什么是IBM开了这个头?
在写给国会议员的那封信中，CEO克里什纳的具体表述为，IBM将不再提供基于通用目的的人脸识别技术和分析软件。
这一表述被认为模棱两可，比如位于伦敦的名为国际隐私(PrivacyInternational)的NGO在接受BBC采访时，对其的一种解读就是：那么是否还可以继续提供基于定制的人脸识别技术和分析软件?
IBM在该领域的行业地位是外界质疑其出发点的主要原因——在人脸识别领域，IBM的市场份额其实很小。
准确说，包括人脸识别在内的人工智能技术本身并不是独立的产品，只是一种底层技术——其前端需要诸如智能摄像头、智能手机、智慧门铃等终端设备，后端需要云计算设施存储和处理数据。
在美国，拥有这项技术的技术公司比如亚马逊、微软等之所以出售这项技术，主要是为了销售它们的终端产品和辅助的云计算服务，而IBM在这两个场景中的市场份额都很小。IBM的人脸识别主打产品Watsonvisualdetection的主要使用场景为安防领域，主要客户则是政府安保部门或其他安防机构。
根据市场研究机构Gartner的数据，2019年，全球云计算市场中份额最高的公司是亚马逊(45%)，其次是微软(17.9%)和阿里云(9.1%)，Google拥有5.3%的份额，剩余23.7%的份额由“其他”数家公司共享——IBM属于“其他”这部分。
IBM在这一领域其实失意已久，尽管它原本算得上人工智能时代的领头羊。早在2008年，时任CEO彭明盛就提出了“智慧地球”这一概念，并建议当时的奥巴马政府投资新一代的智慧型基础设施。这个概念成为后来“智慧城市”的雏形，其标配就是智能摄像头、传感器、图像识别以及人脸识别。
而在更早的1997年，IBM的人工智能程序“深蓝”就战胜了国际象棋冠军卡斯帕洛夫。
但IBM一直缺乏为这些技术寻找落地场景、将它们进一步商业化的能力。
与其对照，亚马逊通过不断在新拓展的场景中应用新技术，拿到了从云计算到人工智能的实际市场份额。就人工智能而言，这个零售商除了可以直接向警察销售的人脸识别软件Rekognition，还有面向普通消费者的智慧门铃Ring、智能音箱Echo等。
被回避的问题：
AI滥用及其对隐私的侵犯
IBM在信中呼吁对用于执法的人工智能系统做“偏见测试(biastest)”。不过，尚没有证据表明5月25日当天警察之所以执法过当，跟GeorgeFloyd曾有的犯罪记录或者警察是否使用了相应的AI工具有什么关联。
IBM下了一步险棋。它表现了一家老牌技术公司在消除歧视方面的社会责任，将反思之火烧到比人脸识别、比偏见更深远的领域，直到到达问题的核心——人们对AI滥用及其侵犯隐私的担忧。
当今美国最严厉的隐私法是《加利福尼亚消费者隐私法》(CaliforniaConsumerPrivacyAct)，这项法律刚刚于2020年1月1日生效。根据法律，加利福尼亚的消费者不仅有权知道自己的数据是出售还是转让给第三方，而且他们还有权阻止交易。
但是交易只是数据价值的一部分，即使这项“最严厉”的法律也没有对技术公司可以如何获取数据、使用用户数据做出规定。更遑论执法上的难度，技术作者CharlieWarzel在《纽约时报》今年1月的一份评论中称：有关公司只是虚假地声称他们遵守隐私法，因为他们知道监管机构根本不会对其审查。
并不中立的AI
在BLM运动爆发前，有关AI偏见、AI歧视的研究和讨论已持续数年。
AI并不像外界料想的那般中立，“它能增强现有偏见和歧视。”普华永道咨询公司的AI道德专家(AIethicsexpert)MariaAxente说。
这种被强化的偏见危害深远。使用AI推荐Spotify上的歌曲或Netflix上的电影，即使推荐不合口味也不会有多糟糕的后果，但如果一个AI可以决定贷款给谁、或者对患者究竟患了何种疾病做出诊断，那它是否有偏见就事关生存和生命。
2017年，算法正义联盟(AlgorithmicJusticeLeague)创始人JoyBuolamwini对IBM、微软、旷视3家公司的人脸识别算法做了偏见测试。他收集了来自3个非洲国家和3个欧洲国家的1270张人脸照片，交给三家公司的产品识别，结果显示，三个产品对女性的识别率低于男性、对深色人种的识别准确率远低于白种人。其中，IBM的算法准确率误差最大，其对浅肤色男性和深肤色女性的错误率相差达到了34.4%。
造成算法“偏见”的原因很简单——主要是由数据量不足造成的。美国国家标准技术研究所和德克萨斯大学达拉斯分校的研究人员在2010年发表的一项研究就指出，东亚设计和测试的算法在识别东亚人方面更好，而西方国家设计的算法在发现高加索人方面更准确。造成这种结果的直接原因是它们能收集到的数据种类及其规模。
但算法偏见也不纯粹是个技术问题。2017年，微软旗下的人工智能聊天机器人Tay在Twitter上线，这款机器人推出的目标是与18-24岁的年轻人互动，并通过这种互动学习、训练。然而24个小时后，Tay就因辱骂用户、发表种族主义评论等表现被迅速撤下。事故之后，微软换上了经过内容审查的版本Zo，但它并没有找到根本性地解决问题的办法。
机器人Tay的账号已经被撤销。
不会停止的博弈：
激进分子、道德主义与技术中立者的博弈
对于究竟哪些数据算隐私、哪些可以被冒犯而哪些又可以妥协，社会并没有一致意见。
如果将对隐私的态度画出一条光谱，技术极客和激进的人权组织、保守的立法者会分立这条光谱的两端，技术公司则居于中间——他们大部分都是技术中立者。
欧盟市场竞争事务与反垄断委员维斯塔格(MargretheVestager)认为，在人脸识别技术变得“无处不在”之前，政府需要对这项技术做出限制。
2018年5月，欧盟《通用数据保护条例》(GDPR)开始实施。根据条例，凡在欧盟运营或处理欧盟数据的公司，都必须在收集数据之前获得用户同意。同时，公司还必须向用户提供“被遗忘的权利”——根据要求删除其信息。
亚马逊网络服务部的一位负责人曾对BBC称，应该由政治家决定是否应该对AI实施限制措施。这种说法代表了绝大多数技术公司及其股东的立场。
亚马逊的部分股东曾试图反对亚马逊向警方出售人脸识别技术，但在2019年5月举行的一次股东大会上，股东们就该议题投票，希望禁止政府使用Rekognition软件的提案获得了将近830万张选票，但支持既有业务维持下去的票数达到3.27亿张，另有大约550万弃权——反对向警方出售Rekognition软件的股东仅有2.4%。
无论接受与否，隐私在消逝。商业就是这样。
相关文章
-
京东金融贷款需要人脸识别吗？贷款方法有哪些？
最高可借款额度为30万元，还款方式灵活，最长可以分24期，支持随借随还。,线上提交申请、线下验车面签，额度高达75万，获得贷款资金后，车辆可供车主继续使用。,7、京保贝京东金融为供应商推出的保理融资服务，供应商可凭采购、销售等数据快速获得融资，从申请到放款最快3分钟就可以完成，额度可达企业应收款项的50%-80%。
2024-03-13 17:51 -
京东白条借钱需要人脸识别吗？可靠吗？
2.京东白条主要是让用户在京东消费时享受先用后付和分期购物服务，其更类似于信用卡，和支付宝的花呗差不多，所以额度主要用于消费。,不过如果京东白条暂不具备取现功能，用户却执意要将额度提出来使用的话，那就相当于套现，而套现行为是违规的，很可能会导致账户风险上升，从而引发系统风控，让白条后续功能使用受限。,总而言之，大家如果要使用京东白条购物的话是必须要符合开通条件的，一般来说，只要信用良好，经常在京东
2024-03-13 17:51 -
企业支付宝人脸识别怎么关闭？附注意事项
目前企业支付宝在认证或是在需要时会有人脸识别，对于个人用户来说人脸识别还比较不错，但是企业用户在使用时，就比较不方便了那么企业支付宝人脸识别开启要注意什么?企业支付宝人脸识别怎么关闭?1、登手机支付宝，点击进入我的在界面的右上角,点击设置2、进入设置，点击账户与安全3、进入账户与安全界面,点击下面安全中心4、下一步点击安全保护工具，其中里面有指纹，刷脸，手势等安全保护措施，选择刷脸5、界面出现的是
2024-03-22 15:05 -
开淘宝店要人脸识别吗？如何认证？
淘宝平台日渐发展壮大，在淘宝开店的商家可以说是越来越多了，既然决定在淘宝开店那么开淘宝店要不要人脸识别?怎么认证?下面给大家讲述一下开淘宝店要不要人脸识别?淘宝开店是需要淘宝商家本人进行人脸识别认证的，因为这会在后面开通认证支付宝的时候用到，所以商家最好是不要使用他人的身份证件去开店怎么认证?1、设备建议首先，准备的照片务必要足够的清晰，只有这样才能够迅速通过审核，因此建议大家使用500像素以上的
2024-03-22 13:11 -
企业支付宝人脸识别怎么关闭（开启要注意什么） 支付宝
企业支付宝在认证或是在需要时会有人脸识别，对于个人用户来说人脸识别还比较不错，但是企业用户在使用时，就比较不方便了，所以，怎么关闭?这对于企业用户来说也是非常重要的，大家也需要知道一、企业支付宝人脸识别怎么关闭?1、登手机支付宝，点击进入我的在界面的右上角,点击设置2、进入设置，点击账户与安全3、进入账户与安全界面,点击下面安全中心4、下一步点击安全保护工具，其中里面有指纹，刷脸，手势等安全保护措
2024-03-22 09:44 -
企业支付宝（人脸识别不了怎么办） 支付宝
现在人脸识别是很方便的，我们使用支付宝软件为了更快的打开软件，甚至是更快的去付款，是可以开通人脸识别的这样操作起来都非常的方便了，企业支付宝人脸识别不了怎么办?一、企业支付宝人脸识别不了怎么办?所有人脸识别都做不100%，目前的技术，识别不了就用支付宝的备用方式登陆，例如验证短信登陆虽然现在人脸识别进入了金融级应用场景，技术算是相当成熟，但仍有不少可以提升的空间一方面，我们需要不断的优化算法，继续
2024-03-22 09:44 -
未来人脸识别，将引爆智能营销？
专家预计，取消了指纹识别，FaceID不用动手就可以解锁以及支付等方式或许成为全球手机厂商下一步跟随的热点。,就具体解决方案来讲，银瀑人脸识别营销分为硬件、家云端管数据管理平台、App层面三个部分，核心就是3D摄像头和拥有仿生计算技术的芯片处理器。,此次见福携引入微软的MicrosoftAzure技术，进行人脸识别销售，顾客挑选好商品后，走到收银台前，只需对着摄像头看一眼，系统即提示“可以了，买单
2024-03-22 09:20 -
刷脸识别背后有风险 人脸识别要守何种游戏规则？
联合国网络安全与网络犯罪问题高级顾问吴沈括接受新京报记者采访时则表示，人脸识别技术一旦被普及，可以定位某人而该人却毫不知悉。,如果一些技术的使用，使得民众或一般人在短时间里难以辨识，就可能存在风险，例如对新闻联播主播进行换脸，然后制造假新闻。,但是，一旦人脸信息这种易获取的“生物密码”丢失或者被人随意更换，那么利用人脸识别技术验证真实身份，也成了无稽之谈。
2024-03-22 09:18 -
AI换脸视频、校园门禁系统：人脸识别应用引民众担忧
新京报记者了解到，目前北京大学、清华大学、中国传媒大学等北京高校，均配有人脸识别的门禁或设备。,上述报告还指出，中国在生物识别技术领域研究已处于世界先进水平，但目前应用规模和渗透率与欧美市场相差还很大，加之目前行业增速稳定，估计国内未来将有较大发展空间，预计2020年生物识别市场规模将突破300亿元。,”郭兵对新京报记者表示，面部特征等个人生物识别信息属于个人敏感信息，一旦(被)泄露、非法提供或者
2024-03-22 09:18 -
黑产盯上人脸识别！花百元探探上可变脸明星艺人
随人脸识别概念的不断走红，刘涛也变得忙碌起来，一天要向十几个“徒弟”传授或者指导“技术”。,不管是司法解释，还是立法层面，均应引起重视，尽快对非法提供人脸认证行为做出更为严格的法律规定。,”据了解，目前人脸识别技术主要应用在金融和安防两大B端领域，诸如机场安检、学校等。
2024-03-22 09:18