知乎通过AI算法整治社区中的“阴阳怪气”评论


凤凰网科技讯(作者/花子健)6月25日消息,互联网知识分享平台知乎举办了一场“阴阳怪气”主题书法展,现场知乎社区治理团队对外分享了知乎在识别阴阳怪气类内容上的探索。

知乎运营总监孙达云表示,在过去一年里,知乎不断优化算法机器人“瓦力”,以解决识别社区讨论中的阴阳怪气这一难题,通过综合使用情感模型、用户亲密度模型和文本识别模型,其识别准确率得以大幅优化,已超过大部分人工判断。

过去一年,知乎全力探索对阴阳怪气类评论的解决方案。阴阳怪气可用“杠精”这个词来指代,通常以“不针对发言内容,而是批评对方的语气”以及“提出反对意见,但不给或给出极少数论据支持”这两类常见言论为代表,此类评论极大了伤害创作者和交流者的体验,但难以解决。

解决阴阳怪气类评论的难点核心主要在于网络语言的复杂性,情感分析不同于普通文本分析,例如经典的“呵呵”,由于双方不同关系、说话的不同场景和时间都会带来迥然不同的表意。即便是人工判定都存在标准化难度,算法模型的训练挑战就更为艰辛。

目前,知乎借助AI技术,并辅以人机结合和多元的产品举措,多重手段加强对社区氛围的维护。知乎表示,算法已实现对95%以上的违法违规、广告导流和不友善等内容的主动打击、覆盖和筛查。

内容质量管理团队技术负责人刘兆来表示,知乎还将在近期对该技术进行产品化尝试,向用户提供“瓦力”阴阳怪气智能过滤选项,同时,还将对“瓦力”进行更多训练,不断提升准确率和召回率,最终将阴阳怪气识别技术全面应用到社区治理中。

刘兆来详细介绍了“瓦力”最新的阴阳怪气技术方案:首先通过知乎社区里的举报、反对等负向用户行为收集训练数据。然后通过各种同义替换、规则模版方式对训练数据进行扩展,以缓解训练数据稀疏的问题。同时,“瓦力”提取文本、句法、表情符等特征,并利用一个带attention的CNN和LSTM的融合模型进行分类,最终判断出内容是否为阴阳怪气。

优化技术方案后,“瓦力”已能实现对“暗藏玄机夸奖”(忍不住关注答主了,你的答案很有水平!你博士快毕业了吧!)、“好为人师”(我觉得你挺惨,虽然长这么大了,还真应该回小学改造)、“强行反驳”(你开心就好、请开始你的表演)等数类阴阳怪气内容的识别。而根据知乎社区治理团队的调查,用户最反感的阴阳怪气言论大多属于这些类型,这意味着,“瓦力”在处理网络言语暴力上取得了阶段性进展。

刘兆来表示,未来将不断优化“瓦力”的识别能力,提高模型泛化能力,同时不断迭代更新模型,紧跟学术前沿的同时,适应网络语言的变化潮流。


发表回复