资讯 业界
此为临时链接,仅用于文章预览,将在时失效

技术+人文,抖音防网暴管理能力升级

作者:赵青晖
2022/02/22 23:02

文/赵青晖 方查理

“网络暴力”由来已久,在十几年前的PC时代,互联网还没有像如今这样渗透到人们生活的方方面面,关于网络暴力的话题就已经引起了人们的关注与警惕,随着技术的进步,移动互联网时代的到来,近些年“网民”数量急剧攀升,网络暴力的影响范围也越来越大,甚至逐渐黑产化。

防网暴势在必行。

防网暴成抖音下一个持续关注领域

移动互联网为人们生活带来便利的同时,也给网暴黑产造就了温床,社交平台、短视频平台等多个公共网络场所成为了网暴行为的高发地,评论、私信也成为了网络暴力的主要手段,所谓“能力越大,责任越大”,对于网暴乱象,除了舆论呼吁外,各大网络平台也应当承担起帮助用户防止网络暴力的责任。

如在近期火热的冬奥会期间,就有不少人通过网络平台的评论和私信功能对冬奥选手进行诋毁、侮辱攻击、散布不实谣言,对冬奥观赛和社区氛围造成了极大的伤害,前不久,短视频平台抖音就针对冬奥会的情况对331个网暴冬奥选手的账号进行了禁言或封号的处罚处理。

近几年来,作为国内最大短视频平台之一的抖音看上去对“能力越大,责任越大”这句话有极为深刻的理解:过去一年中,抖音的公开课、曲艺、乡村相关视频内容高速增长;也大力推动了老年化适配,有专属的老人专线;此外还做了最用心的青少年模式,雷峰网(公众号:雷峰网)还曾对世面上视频平台的青少年模式做过横向对比,结果显示抖音各项产品综合最优。

而抖音的另一个长期持续关注的领域,则选在了“防网暴”方面。

正如2018年更新的抖音品牌slogan“记录美好生活”一样,抖音里“每个人既是内容创作者,又是内容消费者”。每天伴随海量的内容创作和消费,也有大量的评论、私信产生。抖音每天会有8亿条评论产生,其中,被处理的视频里,“谩骂,人身攻击”占比32.79%。

这样海量的负面评论内容,如果只是在事后处理,一方面会让平台面临巨大的治理压力,另一方面,对于用户来说,网络暴力行为已经发生,受到的创伤很难得到平复。

所以,抖音在今年1月更新了用户风险提醒、负面内容过滤等系列功能,通过8大功能,成为国内首个在各个场景下提供预防网暴服务的平台。从评论和私信两个维度出发,从主动管理发送者到接收者自我管理,从前期的评论发送警示,到中期的私信分层管理,再到后期平台小助手提供“心情关怀”,打通了预防网暴前中后的整个流程。

雷峰网也针对抖音全新的防网暴功能,进行了全面的评测。

技术+人文,抖音防网暴管理能力升级

抖音防网暴的评测

雷峰网此次对抖音全新防网暴的功能评测,主要在两方面,一方面是面向创作者的新权限与功能评测,看新的功能是否可以直接为创作者带来更好的体验,另一方面从人文关怀方面出发,探寻抖音是如何尝试从本质上减少网暴行为的。

1、面向创作者的新权限与功能

抖音中最基础的私信对象限定功能,早在2017年12月就已经上线,用户可以设置为所有人/互关好友/关闭三种状态中选择,是最彻底和基础的私信过滤。

但对于“大V”、流量主、商用账号等需要面对大量陌生人、单向关注者的用户,他们无法一刀切地限制私信对象,所以这些特殊人群在此前经常会遇到广告、谩骂、骚扰等问题。

技术+人文,抖音防网暴管理能力升级

而1月底上线的“用户风险提醒和负向内容过滤”功能,对前述问题进行了很大程度的优化。

用户风险提醒是系统引导用户去管理,对陌生人或单关人消息进行识别,并提供“拉黑/举报/移除粉丝”的弹窗。负向内容过滤是利用了算法自动处理,识别谩骂/骚扰信息后,自动折叠到陌生人垃圾信息中。

根据抖音官方的数据,该功能上线后,日均对25万次会话发出风险提示,日均近9万条消息被列入垃圾信息,日均超过7万用户受益。

技术+人文,抖音防网暴管理能力升级

而对于评论方面,抖音上线了“谁可以评论”的选项。其默认选择“所有人”,但另外有“所有人”、“仅粉丝”、“仅互关朋友”、“仅自己”四个选项可选,对新视频和旧视频都可以选择,简单、粗暴、有效。

2、面向内容消费者的人文关怀

抖音里的创作者和消费者是一体两面的。

线上网暴者,很多都是线下的弱势群体,可能是因为抑郁等心理问题才会对他人实施网暴行为,当然,这不是为了给网暴人开脱,而是需要我们关注施暴者部分群体所面临的问题,引导其走向正轨。如果说针对创作者的防网暴功能是“治标”,那抖音针对对违规用户进行引导和帮助,则是在尝试“治本”。

技术+人文,抖音防网暴管理能力升级

在防网暴升级后,抖音现在会对评论进行模型匹配和校验,发布违规或低质评论之后,会立即收到评论弹窗警示,提示“该评论可能对他人造成负面影响”,给用户一个回心转意的机会。

当然,弹窗可以跳过并继续发布评论,但将不会被其它人看见,此时评论会进入正常审核逻辑,真正的违规评论依然会被处理。

技术+人文,抖音防网暴管理能力升级

抖音在新的防网暴系统中新增了名为“心情暖宝宝”的平台助手,如果用户多次违规发布私信、评论,算法可以自动匹配触发“心情暖宝宝”,用消息对话尝试缓解用户的抑郁情绪,甚至引导用户去人工求助、线下就诊。

更具体一点来说,用户会收到类似“您好,我们关注到您最近在站内发表的内容,担心您的心理状态。生活虽不完美,但我们仍可疗愈自己,如果您想找个人倾诉,可以在XX时间段选择转人工,小助手很愿意倾听您的心声”之类的文案。此外,用户也可以自主在推荐、搜索、评论等场景减少负面内容推荐。

其实,这不是抖音第一次用算法帮助弱势用户了,在2021年抖音也为上千位有自杀倾向的用户提供过救助,在这一点上,作为国内头部的平台,抖音并没有仅仅利用技术和算法对网暴人群粗暴地进行处理,而是在技术的基础上,增加了更多的人文关怀,尝试从根源处解决问题,这是所有大型网络平台都值得学习的方式。

应对、甚至消除网暴是平台的责任

在移动互联网时代,网络暴力变得更加频发,在网上对他人施暴的成本也越来越低,这些暴力事件对于受害者来说,都是无可磨灭的伤痛,而在某些偶发的舆论事件中,无数施暴者在并不了解内情的情况下,会被情绪引导,参与到大规模的网暴中。

而多年来,关于停止网暴的呼吁有很多,但收效甚微,也就是说,仅仅寄希望于网民提升自我认知和素质来消除网暴,于现阶段是不现实的事情,所以,不论是抖音,还是其他的网络平台,更应该承担起防网暴的重任。

此次抖音升级的防网暴系统就是一个非常不错的标杆案例,在技术上,实现了对无论是视频创作者还是普通用户,都有更好的保护措施。在人文关怀上,更深层次的考虑到施暴者的心理行为可能,从而引导更多人消除戾气,共建良好网络社交环境。

利用技术的方式,从评论和私信入手,对于还未进入网暴阶段的用户进行监督、引导,预防网暴事件的发生,能够更好的缓解平台的治理压力,也能够让受害者免于网暴侵袭,此外,对于已经触犯网暴行为的账号进行严肃处理,建立一个良好的网络生态环境,是未来各个平台都需要去做的事情。

抖音的防网暴升级,一方面体现了作为短视频头部平台的科技能力和责任心,另一方面也为未来其它平台利用技术治理网暴行为做了一个不错的范例。

雷峰网原创文章,未经授权禁止转载

长按图片保存图片,分享给好友或朋友圈

技术+人文,抖音防网暴管理能力升级

扫码查看文章

正在生成分享图...

取消
相关文章