您的位置是:少儿编程网>教育资讯教育资讯

好未来AI技术助力未成年人网络保护 半年审核信息46亿条

少儿编程网2021-07-02 14:03:19教育资讯 人已围观 来源:少儿编程 -用户投稿

简介摘要:好未来利用AI技术开展网络内容审核,加强未成年人网络保护。
6月1日,新修订的《中华人民共和国未成年人保护法》正式实施。本次修订的一大亮点是新增了“网络保护”专章,提出网络服务提供者发现用户发布、传播含有危害未成年人身心健康内容的信息的,应当立即停止传输相关信息,采取删除、屏蔽、断开链接等处置措施。但面对互联网上的海量信息,依靠传统的内容审核手段已经难以跟上形势。近年

摘要:好未来利用AI技术开展网络内容审核,加强未成年人网络保护。OGM少儿编程网-https://www.pxcodes.com

6月1日,新修订的《中华人民共和国未成年人保护法》正式实施。本次修订的一大亮点是新增了“网络保护”专章,提出网络服务提供者发现用户发布、传播含有危害未成年人身心健康内容的信息的,应当立即停止传输相关信息,采取删除、屏蔽、断开链接等处置措施。但面对互联网上的海量信息,依靠传统的内容审核手段已经难以跟上形势。近年来好未来探索利用AI技术开展网络内容审核,全面加强未成年人网络保护。OGM少儿编程网-https://www.pxcodes.com

好未来所有在线内容场景中,未成年人能看到的信息都装上了这样一道“安**”,覆盖范围包括用户提交的所有对外可见的内容,如用户头像、昵称、评论、视频、弹幕等,所有色情、暴恐、辱骂、政治等各类不合规信息将被审核系统“层层过滤”。OGM少儿编程网-https://www.pxcodes.com

据统计,仅在2021年上半年,好未来旗下各业务经过AI内容审核系统的数据就达到46亿条,发现并清除的违规内容总量达到了47万条。OGM少儿编程网-https://www.pxcodes.com

AI技术为内容审核提供核心助力OGM少儿编程网-https://www.pxcodes.com

庞大的审核数据背后是好未来长期积累的AI能力在发挥作用。OGM少儿编程网-https://www.pxcodes.com

2019年的世界人工智能大会上,科技部宣布好未来成为智慧教育国家新一代人工智能开放创新平台承建单位。AI审核能力是好未来近年重点探索的方向之一。OGM少儿编程网-https://www.pxcodes.com

AI技术的一个核心特点是“不断学习”。AI程序就像一个不吃不喝拼命学习的“学霸”,只有“学习资料”够多,才能不断变得更强。OGM少儿编程网-https://www.pxcodes.com

虽然市场上早已经有了比较成熟的内容审核方案,但对于教育领域并不能直接适用。和其它普通社交、娱乐平台不同,教育平台面向的用户主体是未成年人,审核的标准要更加严格,甚至到了严苛的地步。比如有些动漫画面看起来挺可爱,但内容却可能涉及儿童邪典。这样的信息在其它平台可能被直接放过,在教育平台则要更加小心,对于AI来说学习难度也更大。OGM少儿编程网-https://www.pxcodes.com

难得的是,好未来在数据方面有得天独厚的优势。通过使用大量教育场景数据,不断优化训练模型,机审准确率稳定保持在95%以上。OGM少儿编程网-https://www.pxcodes.com

好未来AI内容审核系统后台操作界面OGM少儿编程网-https://www.pxcodes.com

好未来AI的内容审核系统中还有一支强大的人工审核队伍。对于AI机审中发现的异常信息,他们会及时介入,在1-3小时内完成人工审核,只有审核通过的信息才会被用户看到。对于被AI机审通过的数据,人工审核还制定了审核策略进行抽查,一方面确保没有漏放的违规内容,另一方面根据复查结果迭代策略、提升审核团队质量。OGM少儿编程网-https://www.pxcodes.com

任何审核机制都无法真正做到100%的成功率,而科学的兜底机制就显得尤为重要。为此,好未来还建立起UGC内容举报、反馈机制,被举报的内容作为第一优先级进行人工审核,自举报触达1小时内完成调查和处置,筑好未成年人保护的一道防火墙。OGM少儿编程网-https://www.pxcodes.com

底线思维将未成年人保护上升集团战略OGM少儿编程网-https://www.pxcodes.com

投入如此多人力物力在AI内容审核上,背后体现的是好未来对于未成年人保护的底线思维。OGM少儿编程网-https://www.pxcodes.com

2020年7月,在中国网络社会组织联合会、中央电化教育馆、共青团中央权益部的倡导下,好未来旗下学而思网校与阿里巴巴、腾讯、百度等国内32家互联网企业共同签署了《共建未成年人“清朗”网络空间承诺书》,为未成年人提供一个绿色、健康、文明、和谐的在线教育和网络生活环境。OGM少儿编程网-https://www.pxcodes.com

AI技术内容审核好未来

来源:鲸媒体OGM少儿编程网-https://www.pxcodes.com


相关文章:

支持一下 ( )

好未来AI技术助力未成年人网络保护 半年审核信息46亿条

      匿名评论
    • 评论
    人参与,条评论
    少儿编程网

微信公众号

免费视频教程

先知道