网络暴力黑产化，网络暴力的形成与频发个人和社交平台如何守住防线
2月17日，中央网信办更新了一篇来自半月谈的文章，称“新型网络暴力形成一门黑产生意”。弹幕刷屏、视觉冲击、恶意剪辑、恶意“锤人”、词条侮辱、私信轰炸，网络暴力的形式不断扩充。
当下多数网民对网络暴力应该都不陌生，本届冬奥会期间，网络上也出现过针对部分运动员及教练员的语言暴力现象;而就在1个月前，在对寻亲男孩刘学洲去世事件的诸多讨论中，反思和抵制网络暴力也成为一大焦点;此外，新冠大流行背景下，对少数确诊者的网络暴力依然存在，普通人如果感染，不仅要面对病毒，还可能有“社死”风险。
网络暴力由来已久，十几年前，互联网还没有像今天这样普及和渗入日常生活的时候，“警惕网暴蝴蝶效应”就已经是公共讨论中常呼吁的口号。
不过，现实的情况是，上网人数增加、技术进步、网络生活不断丰富的同时，网络暴力也逐渐黑产化。《中国青年报》2021年针对全国2397名高校大学生的调查显示，超过7成的受访者自认受到过网络暴力影响。[1]
就社会交往中的信息传播暴力来说，这是一个人类社会自形成以来就如影随形的问题，而加上“网络”，进入线上交往的语境，暴力似乎更加多发。
网络暴力从何而来?在知网中搜索发现，关于网络暴力的研究发端于1999年，在2006年开始呈显著上升态势，并在近些年被持续讨论。有学者研究表示，网络暴力真正触及社会舆论的兴奋点，也始于2006年。[2]
以“网络暴力”为主题的研究文章在2006年到2010年间快速增加，此后保持稳定，从2018年开始又有明显上升，超过150篇。图片来源:知网
回顾过去十几年间的热门网络暴力话题，无论是现实生活中还是虚构作品里，案例都比较多了。
例如，2006年，名为“锋刃透骨寒”的游戏玩家在猫扑论坛发帖，称自己妻子与一个名为“铜须”的人发生外遇，引起众多网友声讨，“铜须”遭到人肉搜索，相关照片、工作单位、学校、姓名等详细资料被公开。
再例如，2012年，陈凯歌导演的电影《搜索》中，刚查出癌症的女主叶蓝秋，因为拒绝在公交车上给老人让座，被偷拍上电视新闻，引发网络谩骂潮，最终自杀。
真实事件和影视作品都记录下了早些年网络暴力事件的典型特征:
时间拉到今天，移动互联网快速普及，上网渠道空间日益丰富，多重因素作用下，网络暴力不再是偶发的洪流，而是成为了不安定的网络痼疾。
这个过程中，网络暴力的滋生也从社会扩散到娱乐、文化等多个领域，遭受暴力的主体亦扩大到新闻当事人和公众人物等。
从传播渠道和模式的变化来看，网络暴力常态化的10多年间，社交媒体、个性推荐平台取代了传统门户网站、搜索引擎成为主要的传播渠道，社交化的信息传播，成为了网络暴力的助燃剂。
在社交媒体中，个人存在的表现是账号ID、头像，虚拟的展示削弱了对真实性的感知，心理压力减小，人们更可能说出、做出现实中不会选择的暴力举措。同时，线上以简单、碎片符号为信息的传播也让交流歧义丛生，容易滋生矛盾。
更重要的，在于社交媒体参与机制本身。
第一，公共空间互动的转发、点赞与评论，都青睐更情绪化的内容。纽约大学的研究者WilliamBrady发现，在Twitter上，如果一条推文用了情绪化的、道德评价的语言，那么每一个情绪化的、道德评价的词都会让这条推文获得的转发数增长20%。[3]
第二，在广告为主的商业利益驱动下，社交媒体的内容推送以最大化流量为导向，而带来流量的，正是能够促使更多人更大程度投入的情绪内容。
第三，网络日益成为生活不可或缺的部分，通过话题、群聊、小组等形式，越来越多人在网络上成块成块地聚集，并发生意见的同化与撕扯。于是，个体的网络暴力行为越来越容易煽动起群体性的推波助澜，导致负面传播行为的频发与难以遏制。
当下，越来越多专业人士和机构呼吁，对待网络暴力需要有更严格的处理手段。
而作为一个与每个人都相关的现实问题，网络暴力的特殊之处还在于，当提及它时，人们通常会持谴责态度;但在很多具体情境中，人们可能被情绪裹挟。无论是参与网暴，还是被网暴，有些人常常是无意识、不自知的。
因此，我们或许可以讨论一个新的问题:如何辨别网络暴力?
作为一个概念，网络暴力涉及法律、心理、传播等多学科领域，没有严格定义。根据对网络霸凌有深入研究的加拿大学者BillBelsey的定义，网络暴力是“一种涉及对信息及通信技术的应用，以支援针对个人或群体进行恶意的、重复的、敌意的行为，以使其他人受到伤害”。[4]
经典的学术研究中，学者将其界定为“网络技术风险与网下社会风险经由网络行为主体的交互行动而发生交叠，继而可能致使当事人的名誉权、隐私权等人格权益受损的一系列网络失范行为”。[5]
根据联合国儿童基金会的定义，网络欺凌(cyberbullying)是利用数字技术进行的欺凌，是一种反复的行为，目的是恐吓、激怒或羞辱那些被瞄准的人。[6]
在诸多界定中，“恶意”“反复”“伤害他人”“匿名”“公开当事人信息”是网暴比较典型的特点。由此出发，可以思考如何加深对网络暴力的认识和辨别。
开放的网络环境本不该拒绝理性的批驳，但问题是，即便当事人行为本身存在道德问题，甚至涉及违法，其是否又应当承受以没顶之势涌现的赛博暴力?在刘学州去世之后，部分声音在反思网络暴力的同时，是对其父母、个别媒体的强烈谩骂，新的暴力又产生了。
很多时候，网络暴力是带着正义的面具走向极端的。
热剧《三十而已》播出期间“林有有”扮演者被骂，一些站在道德高地对“小三”“绿茶”进行批判的网友反而成了网暴实施者。图片来源:微博
于是，暴力不断反复、叠加，形成强大的、难以估量的群体声音，而面对这些，被施暴的个体又是极其脆弱的。
寻找目标、人肉搜索、制作侮辱性文案视频和弹幕、用机器人账号推送控评……产业化的暴力也给我们提了醒:在网络中，信息环境可能是受污染的，你以为的“正义同盟”亦可能是别有用心。
除了侮辱谩骂、人肉、骚扰、恐吓等表现外，一些边界模糊的行为也需要仔细审视。
例如，在网络中，有时很难判断某人是开玩笑还是想伤害你(尤其是非陌生人之间)，有时对方会一笑而过，但如果你感到受伤，或者认为别人在嘲笑，那这个玩笑就过火了。如果在要求对方停止后，行为还在继续，而你仍然感到不安，那这可能就是网络暴力。
学会鉴别网络暴力，归根结底，是在提醒每一个人，在这一现象已经相对高发的当下，我们都是潜在的“施暴者”与“被施暴者”。而在所有可能的解决途径中，至少可以学着控制自己和保护自己。
当然，在任何时候，即便认识到何为网络暴力，仅靠个体的力量也很难承受暴力的恶性伤害。已有的讨论大多聚焦在法律、家庭、个人等层面，而作为网络暴力的载体之一——社交媒体平台，也应该主动发挥更多作用。
目前，针对网络暴力，不少平台已经有了不同的举措，在此进行简单归纳与说明。
许多平台会出台专门的预防网络暴力指南，通常包括如何识别、预防和应对网络暴力。例如，Twitter对“暴力威胁”进行了细化——要求用户不能表现对特定的人或群体施加暴力的意图，包括“我会”“我要去”或“我计划去”，以及“如果你做xx，我就会做xx”这样的语句。
很多平台也都在相关指南中强调了对青少年的保护。TikTok对16岁以下用户，有默认为私有账户、无法使用私信功能等设置。Instagram则设有“家长指引”(Parent'sGuide)，为父母、监护人和值得信任的成年人提供建议。
Instagram设有专门的“家长指引”。图片来源:Instagram
平台会主动检测暴力内容，在发布前进行提示和过滤。比如，Instagram上经由AI标记，潜在冒犯或意图骚扰他人的评论将被“隐藏冒犯性评论”过滤器过滤，这属于默认设置。同时，当发布的内容被检测到有潜在冒犯性时，用户会收到提示，要求其重新编辑。
在个人隐私上，一些平台会给予用户在时间、对象等不同维度的控制权。比如，微博可以在时间上设置仅半年可见，关注7天、100天可评论。
图片来源:微博
抖音可开启“私密账号”功能，只有经过授权才能关注及查看用户的视频，还可选择“仅好友”发送私信，或直接关闭私信;快手也有“禁止陌生人评论”“禁止陌生人私信”等类似功能。
较特殊的有Instagram的Restrict功能，支持用户隐藏特定对象的留言及相关通知，能帮助用户在保护自己账号的同时，持续关注特定用户的霸凌行为。
图片来源:Instagram
在特殊时候，支持用户以更高效的方式远离暴力。如，微博曾宣布拟上线两个功能:一键开启“防暴模式”，开启后用户能够在可选时间内，隔离未关注人的评论和私信攻击，当用户收到大量非正常评论时，将弹窗提示用户是否开启隐私防护功能。2021年，Twitter就小范围测试过“安全模式”功能，激活新安全模式的用户，不会看到标记为可能包含仇恨言论或侮辱的信息。
多数社交媒体都设有专门投诉举报渠道，可对暴力行为进行反馈。在Facebook或Instagram上，用户可以随时通过帖子、评论或story向团队发送报告，且是匿名的;Twitter也鼓励用户举报可能违反规定的账号。
投诉也可用于帮助其他用户免受暴力侵扰。在TikTok中，如果认为自己的朋友受到欺凌或骚扰，可以通过保密报告的方式保护朋友安全。
一方面，用户自己可以永久删除或拉黑特定账号;另一方面，平台会根据自己的社区准则，定期处理违反规定的暴力内容和账号。例如，在刘学州事件后，微博先后发布多条公告，对泄露当事人隐私、挑动矛盾纠纷的内容、账号进行排查清理;“抖音安全中心”也清理了数万条网暴信息，禁言或封禁帐号两千多个。
微博对部分用户的处置方式。图片来源:微博@微博管理员
平台也会结合相关政策的要求，对网暴进行集中整治，完善程序。例如，在上个月，针对人肉搜索、曝光隐私、欺辱谩骂等不良内容，抖音宣布成立网络暴力专项治理团队，重点整治借疫情、社会热点事件等挑动网民对立、进行人肉搜索、辱骂攻击等网络暴力行为。
可以看到，目前平台已有的，更多是干预性的应对措施，而在事件曝光、升级以及平息阶段，还有日常的社交互动中，可以做的还有很多，也应该更多。
平台的应对不仅在于隐私保护、暴力信息屏蔽、非法账号处理等内容生态方面，也在于从改进算法推送机制、反对唯流量论等方面入手，平衡商业竞争与社会责任的整体关系。
在更大范围上，也期待平台以及政府有关部门、学校、家庭、企业等多元主体，将网络暴力置于更长期、更重要的待解决位置上，毕竟，它早就与每个人息息相关，也正在深刻影响当下和未来的网络生活。
相关文章
-
网络社群需要的不是摇旗呐喊而是理性
前段时间有一句话特别流行：雪崩发生时，没有一片雪花是无辜的。,无论在现实社会中，还是在网络社群里，也许都无法彻底消除暴力因素，但把暴力逼到见不得人的死角，是每一个社会建设者的美好愿望。,在互联网上贩卖“毒鸡汤”，则远远不是意见领袖应有的本分，在某种意义上说，迎合网络情绪而不是提供独立思考意见的部分大V也要对网络暴力负责。
2024-03-22 09:11 -
报告：Facebook在打击歧视方面做得还不够 偏袒政客
”据悉，Facebook委托美国公民自由联盟(AmericanCivilLibertiesUnion)立法办公室前主任劳拉·墨菲(LauraMurphy)领导了这次审计工作，主要审查其民权政策。,此举旨在回应外界对Facebook的指责，涉及到数据隐私、选民压制、煽动暴力和政治广告缺乏透明度等问题。,”审计报告称，Facebook过于愿意免除政客遵守其规则，允许他们传播错误信息、有害和分裂的言论，
2024-03-22 07:32 -
更新“武器库”运作假舆情：新型网络暴力已成黑产生意
随着互联网对现实社会的介入和冲击，类黑社会型暴力顺势渗透倒灌网络，并呈现出爆发态势。作为不正当竞争的手段，升级版新型网暴日益呈现出组织化、群体化、利益化、产业化、规模化等苗头，不仅网暴时间大幅拉长，而且已很难“网络事网络毕”。被网暴者不仅个人遭受难以估量的心理和权利损害，其亲友乃至无关路人亦会被无辜牵连。施暴及策划者的目的常常也不是简单的情绪发泄，而是有着各种利益诉求。他们以网暴制造舆情，诱导甚至
2024-03-22 07:27 -
网暴黑产化：对这类“生意”必须零容忍！
有人说，人类21世纪的主要工作，就是把现实中的东西陆续搬到网上。但被搬到网上的有“良”也有“莠”。网络暴力就是这里面的“不好的东西”。近年来，很多网络暴力横行网络，还在“升级迭代”。据《半月谈》调查报道，如今，新型网络暴力花样翻新，已经发展为文、图、视频等全方位攻击：弹幕刷屏(辱骂字眼填满弹幕)、P照侮辱(制作给当事人抬棺为主题的图片)、恶意剪辑(故意丑化，传谣抹黑)、恶意“锤人”(煽动性指控)、
2024-03-22 07:26 -
键盘上的“如刀网语”伤害有多大？
来源法制日报记者赵丽都市情感热播剧《三十而已》因为情节设置接地气，人物性格带入感强，这段时间，成为网友热议话题。,目前《剑网3》(即《剑侠情缘网络版叁》)游戏中存在较为严重的网络暴力问题，其中大多为言语辱骂。,泄露信息致人自杀网络暴力危害不浅值得注意的是，除了公众人物以外，还有很多普通人也饱受网络攻击。
2024-03-22 07:07 -
遇到有人上门暴力讨债该如何处理（春节前创业失败没钱还）
那么，作为负债者，面对暴力讨债上门，在真诚解决问题的基础上，可以选择先礼后兵，不要一味地懦弱和退让，特别是对于第三方催收机构或者是具有黑社会性质的犯罪行为，可以果断予以反击。,充分协商作为一名负债者，面对春节期间的上门讨债行为，不能表现得跟大爷一样，还是要真诚说明情况并表示歉意。,毕竟任何人不能从自己的违法行为中获取利益，这是基本准则，不可逾越。
2024-03-21 21:14 -
tiktok更新内容政策有哪些？有哪些内容是不可以发布？
tiktok平台上面很多的玩法，有一些朋友是通过发布优质的视频吸引粉丝成为网红博主，还有一些卖家是通过发布视频来卖货，大家在更新视频的时候，有必要了解清楚tiktok更新内容政策有哪些？,TikTok还将允许用户举报应用程序上与投票相关的虚假信息。,如果出现了违规行为的话，那么对tiktok账号是会有一些不好的影响。
2024-03-19 16:42