腾讯安全发起“守护青苗行动”, 助力未成年人网络安全保护
在互联网的使用者当中,未成年人群体颇受关注,加强未成年人网络保护、减少网络有害信息对未成年人的不良影响已成为社会共识。今年网络安全周期间,腾讯发起“守护青苗行动”, 基于前沿视觉AI技术、安全大数据和黑灰产情报中台,助力企业建立完善长效的涉青少年网络内容治理机制,净化网络空间色情低俗、暴力欺凌等危害青少年身心健康的不良信息,守护未成年人上网安全。
未成年网民规模达1.75亿,近五成曾遭遇网络不良信息
据共青团*维护青少年权益部、中国互联网络信息中心(CNNIC)联合发布的《2019年全国未成年人互联网使用情况研究报告》(以下简称《报告》)显示,我国未成年人互联网使用已相当普及,2019年我国未成年网民规模为1.75亿,未成年人互联网普及率达到93.1%。
与此同时,网络不良信息正威胁着未成年人的网络学习和生活。《报告》调查结果显示,46%的未成年网民曾在上网过程中遭遇过各类不良信息,包括淫秽色情、血腥暴力等内容。网络不良信息不仅严重影响未成年人心理健康,甚至可能成为诱发犯罪的重要因素。
目前,我国在多个互联网内容领域均施行了监管审核,但针对更广泛的网络内容监管审核手段较少,存在较大的真空地带,未成年人网络内容审核和分级迫在眉睫。
“守护青苗行动”:还未成年人一片清朗网络空间
为了给未成年人营造绿色上网环境,响应网信办网络内容“清朗行动”整治细则、《未成年人保护法》以及《网络安全法》等与未成年人网络安全相关的法律法规,腾讯发起未成年人网络内容安全保护的“守护青苗行动”,基于腾讯天御原有的内容风控能力,引入腾讯优图AI内容审核能力,打造未成年人内容安全审核解决方案2.0,助力企业建立完善长效的涉青少年网络内容治理机制,遏制网上违法和不良信息的传播。
腾讯安全天御基于腾讯安全20余年黑产攻防经验,依托人工智能的核心和面向场景的风控能力打造内容安全解决方案。此次解决方案的更新,全新提供了对未成年人消费、阅读、观看等全方位的网络环境净化能力,其中针对违规的内容识别的能力是腾讯优图实验室通过海量数据训练得到的AI识别能力,能够通过特征提取、标签预测、细粒度识别,精准识别色情、暴力等内容,有效覆盖视频、音频、文本、图片等多种传播媒介,确保不遗漏、不误杀。
在未成年人保护场景中,腾讯安全天御在标准内容审核基础能力之上增加了很多针对未成年设计的能力,能够精准识别未成年人色情低俗、暴力欺凌、儿童邪典ACG、宣扬自残自杀、封建迷信等网络不良信息,助力净化未成年人网络环境。基于这套解决方案,腾讯天御与腾讯优图已联合为1500+家平台提供内容安全服务,共计审核图片总量已突破1000亿+,累计拦截不良内容51263万。
助力海量网络内容治理,夯实互联网社区上云底座
维护网络安全需要社会多方共同参与。2019年10月,最高人民法院、最高人民检察院《关于办理非法利用信息网络、帮助信息网络犯罪等刑事案件适用法律若干问题的解释》出台,进一步明确规定了网络服务提供者相关平台和产品在内容方面的义务与法律责任。而对于平台而言,有害内容不仅会带来监管风险,也会极大程度影响用户体验,导致用户的流失。
针对互联网平台每日产生的海量信息,腾讯安全提供从内容识别,到平台搭建、策略运营等服务,帮助企业构建一套完善的内容风控系统,做到事前主动感知潜在用户、事中快速处理恶意内容,毫秒级的响应有效提高企业的内容安全性。同时基于AI的内容风控,提高机器审核效率,帮助鉴定员准确、快速地完成内容审核,为企业节省大量的人力和时间成本。并且,企业可以便捷快递地接入腾讯安全天御内容风控的能力。腾讯安全天御不仅提供API接口,还可以协同腾讯云等产品接入企业的内容风控系统,帮助企业零开发、快速识别平台中可能存在的违规内容。
目前,腾讯安全天御的内容风控通过腾讯云和微信小程序已服务超过5万家开发者,行业渗透率达90%,审核效率提升20倍以上,业务健康程度达到99.89%。备受年轻人追捧的生活方式平台小红书,在腾讯安全天御的助力下内容作弊识别能力上提升了30%,打造了更美好、真实、多元的内容社区氛围。未来随着5G等新基建技术落地,必将产生更多的内容形式和渠道,腾讯安全也将持续优化和升级内容风控能力,助力净化网络安全生态,夯实互联网内容社区平台上云安全底座,推动产业数字化转型升级。