内容安全审核 | 共建网上美好精神家园，网晴科技助力网络文明建设

时间：2023-06-01 04:36:02 | 来源：网站运营

时间：2023-06-01 04:36:02 来源：网站运营

内容安全审核 | 共建网上美好精神家园，网晴科技助力网络文明建设：弘扬时代新风，建设网络文明。8月29日，2022年中国网络文明大会在杭州落下帷幕。会上紧紧围绕网络内容建设、网络生态建设、网络法治建设、网络文明社会共建、算法治理、网络谣言治理等方面进行了深入研讨交流，发布了2021年度中国网络诚信十件大事、《中国网络诚信发展报告2022》和网络文明主题歌曲《敬长风》等。

值得关注的是，与首届大会相比，今年大会新增了新时代中国网络文明建设成果展示。其中，互联网企业展区主要展示网信企业助力网络文明发展所取得的成果。多家企业参展，以大量生动鲜活的案例，对新时代网络文明建设的丰富实践经验作了系统性总结。

每个网络主体都是网络文明共建共享的贡献者和受益者，尤其作为网络空间主要建设者的互联网企业，是历届中国网络文明大会的重要参与者。

在2021年首届中国网络文明大会上，近百家互联网企业就曾现场共同签署了《互联网企业切实履行主体责任建设文明网络生态承诺书》，承诺将切实履行主体责任，营造良好网络生态，共筑清朗网络空间。

加强网络文明建设，网站平台需做好内容审核

网络文明是新形势下社会文明的重要内容，是建设网络强国的重要领域。加强网络文明建设、鼓励优质内容生产传播是时代赋予各网站平台的重大课题。

作为信息内容生产传播的重要渠道，网站平台需充分发挥信息内容管理第一责任人作用，自觉遵守国家法律、法规和政策，把准内容导向，规范内容管理，及时清理平台不良信息，打击网络违规违法行为，自觉净化网络文化环境，做网络文明建设引领者，构建网络文明环境。

这就对网站平台的内容审核能力提出了更高的要求。然而不管网站平台规模多大，自身都很难确保在内容审核方面的专业性。尤其随着用户和内容数量的继续增长，监管力度越来越强，内容审核的挑战也越来越严峻。

“AI+人工”，高效应对海量审核任务

在行业的需求和政策的引导下，内容审核行业应运而生。作为专业内容安全服务商，网晴科技专业人工内容审核团队协同“网晴内容安全大脑”，以“AI+人工”的审核方式，为多家央媒、主流媒体、政企用户及互联网用户提供全方位的内容安全服务，用专业度为用户筑牢“兜底防线”，营造强有力的内容安全屏障。

“网晴内容安全大脑”是网晴科技自主研发的全能力智能审核平台，覆盖涉政专项模型、人脸检测模型、涉政人物检测模型、旗帜检测模型、声纹库识别能力、LOGO检测模型、劣迹艺人检测、二维码/条形码识别、OCR文本识别等数十种算法模型，可以实现音、视、图、文全类型审核，有效识别出有误内容。

文本内容审核功能基于自研内容安全大脑，结合亿级自有敏感词库，根据不同场景使用不同的策略模型、语义推理模型，能够满足多场景使用需求，提高审核效率，有效避免涉政违规、暴恐、色情、违禁、不良价值观、广告等多种内容安全风险。同时也提供包括音似字、形似字错误等字词校对问题识别，以及多字、少字、语法冗余、重叠词错误、地名地域搭配错误等句法校对问题识别。

图片内容审核功能基于自有涉政专项敏感图库，适用于各类文章图片审核、封面图审核、图集审核等场景，可以精准鉴别涉政违规、涉黄、暴恐、违禁、不良价值观、广告等内容安全风险。

音频内容审核可以实现音频到文本快速转换，采用ASR识别、声纹识别等技术精准甄别是否有涉政违规、涉黄、暴恐、违禁、不良价值观、广告等内容安全风险。

视频内容审核为业界首创实时逐帧审核，在不影响识别率的情况下做到对视频内容审核的快速响应，有效甄别视频中是否有不良画面，检测视频是否有内容安全风险。

直播内容审核在直播过程中进行切片机审，实现机审结果快速辅助人工审核。支持对接主流直播平台，并且具备弹幕审核、评论审核的能力，对问题直播可进行一键下线操作。

“网晴内容安全大脑”会将所有的检测结果综合展示在审核平台中。不同威胁等级的内容会以不同的颜色标识，从而形成多层级、多维度的立体审核展示。

若需要进一步审核，“网晴内容安全大脑”会依据内部调度策略将内容分派给人工，进行单审、双审或三审。

网晴科技的人工审核团队包括新闻、出版相关专业人才，还配有主流媒体资深编辑组成的专家团队，深度介入时政、财经、文史等方面的内容，把关完善审核策略。此外，人工审核团队7×24小时在线，能及时处理审核问题，全力确保审核的时效性。

此外，针对大规模内容安全审核场景，网晴科技为客户提供降本增效的多种解决方案。客户可根据自身的体量和需求，自由选择AI审核或AI+人工审核或私有化平台部署，让内容审核更具针对性和灵活性。

网络空间是亿万民众共同的精神家园。共建网上美好精神家园需要国家监管部门、内容生产者、内容服务平台、内容服务使用者以及内容安全服务者的共同推进。网晴科技将始终全面保障用户的内容安全，守护清朗网络空间，助力网络文明建设，这既是责任，也是使命。