抖音上线国内首个评论发文警示功能：预防网暴

近几年，网络暴力成了一种很常见的社会现象，敲敲键盘这种数字化的暴力行为其实会对当事人造成极大的伤害，而施暴者却只当心情轻松地抒发情绪。

针对这种行为，近日抖音正式宣布全面升级平台预防网暴能力，即将上线国内首个“发文警示”功能，包括“风险提醒”等8项功能，成为国内首个为用户提供多场景下预防网暴能力的平台。

其中，针对评论的“发文警示”功能会引导用户友善评论。该功能下，若系统模型判定已经发送的评论存在问题，则会推送弹窗提醒，建议发送者重新编辑，去除不当言论。

如果发送者坚持发送，则该条评论不会在评论区出现。 

在私信方面，抖音新增“用户风险提醒”和“负向内容过滤”两大功能。在“用户风险提醒”功能下，当系统模型识别发现，用户刚接收的陌生人私信存在风险时，会对用户推送弹窗，提示其“是否认识该用户”。

如果用户选择“不认识”，系统会再次弹窗，提示用户可进行“拉黑、举报、移除粉丝”等操作，确保自身安全。目前，该功能日均会对 25 万次会话发出风险提示，引导用户自主管理社交对象。

在“负向内容过滤”功能下，当模型判定用户收到的私信消息为“谩骂或骚扰”，该消息会被直接放入“陌生人盒子—垃圾信息”中。该功能已日均为 7 万用户服务。

数据显示，抖音每天产生 8 亿条评论，其中，被投诉、举报并最终处理的不当评论中，“谩骂，人身攻击”占比 32.79%。

此外，抖音还推出了“心情暖宝宝”助手，以根据用户内容情绪倾向，通过消息对话的交互方式，缓解用户负向情绪。