图为 上海创旗天下科技股份有限公司娄智超
一、数据爆发式增长带来的机遇和挑战
当前互联网络和流量爆发式增长，网络视频与直播用户据统计超过5亿或4亿。随着大流量内容的产生和企业管理成本的提高，互联网产生的图片和视频内容都可能成为不良信息的载体。一旦得到传播，将会造成非常严重的后果，甚至威胁到国家安全。
随着政府对不良信息监管力度的加强，每个网站和平台都严肃的对待和处理这些危险因素，传统人力审核的方式处理网络上每天新增的图片和视频变成了不可能完成的任务。这里列举两方面：第一方面，对一些合法合规的有利于带来流量的优秀作品需要我们快速审核和推荐;另一方面，对侵权和违规需要尽快处置。围绕这两方面内容管控，内容管控能力已经成为企业快速发展的瓶颈，建设高效、可控的内容管控系统意义重大。
随着网络安全法以及相关法律条款的发布与实施，国家将加大对内容监控的重视。现在我们看到的画面是统计部分省份对比信息的处置情况，比如：山东网信办依照法律条款规定，关闭了128家涉及到赌博类型的网站;黑龙江网信办依法审批违规网站和帐号;河北开展网络生态治理专项行动，依法依规查处35家违法违规网站;安徽省网信办依法关闭41家违法违规网站。这只是列举其中个别省份。
如今，内容安全面临着严重的挑战，我这里主要总结了四点：第一，审计效率低下。采用人员审核的周期比较长、用户体验比较差。第二，人力成本提高。审核人员的招募、场地等费用的支出。第三，违规内容对企业的形象以及对企业正常经营的影响。第四，审查标准滞后。最新的审核标准如果不第一时间在审核团队完全同步，那就会带来违规内容的披露，造成不良影响。
二、当前内容审计现状
网络信息内容审计指的是针对信息管理系统进行审查，从中找出网络信息内容存在的问题，并提出有效的问题解决方案。当前，增值电信企业审查的现状，主要还是靠人力为主，机器为辅。
这个图片截取了来自网络上今日头条、快手关于这方面人员招募的情况。比如，今日头条招募审核人员，每天要审核1000条内容，快收招募3000团队去审核相关的违规信息。
三、内容数据审计关键技术
面对严峻的挑战，上海创旗天下娄智超认为，在内容审计方面具有以下四大关键技术：
1、模式匹配算法
模式匹配主要是在审计系统利用多模式精准匹配和多模式相似匹配的算法，搜索出数据包中是否存在敏感模式串，并统计模式串出现的频率，为后续的文本内容分析提供支持。
2、文本内容分析技术
文本内容分析在内容审计中有深度识别的可疑文本，同时发现当前信息流中热点信息，当前文本内容分析技术大多数主要以词语为基础元素，构建文本模式，分析文本相似度，并采用类似等方法进行属性的划分。
3、不良图像内容识别
现在不良图片的主要信息多为色情信息的主要载体之一。图片的识别属于内容图像过滤范畴，但又具有一定的独特性，很难用简单的模型把分析图片的所有特征表现出来。但具体的图像也有比较明确的特点，比如肤色裸露，简单来说，不良图片包括肤色检测以及敏感特征提取技术。
4、流媒体视频内容审计
网络视频内容丰富、感官性强等特点，已经成为不良信息在互联网上传播的主要方式之一。如果及时、准确的识别类似视频流量，并采取有效的监管措施，已经成为十分紧迫的信息。
审计内容需要对不良信息流量进行实时的监测与阻断，截止到目前没有一个很好的有效审计的测试方法。现有的检测方法主要是提取视频完整的视频文件帧图像，然后采用不良图片内容识别的方法进行检测。
四、创旗内容管控解决方案
上海创旗天下娄智超在演讲的现场，带来了创旗的内容管控方案的违法和不良信息管控系统：
1、智能备案监管
域名/IP的备案监测和管理。
2、AI多媒体识别
快速识别出多媒体中违规信息，并且对违规信息进行证据留存。
3、AI文本分析
识别出疑似的违规图像、违规网页，进行证据留存，增值电信企业可以在后续应用过程中问责，把网站违规存储图像存储到设备的本地端，即使网站的主办者第一时间把违规信息清除掉，但是违规信息存储在我们的监管设备，对我们后期取证提供了很好的保障。
同时，通过研发人员的调试优化，创旗天下这套违法和不良信息管控系统可以做到以下几个特点：
1、低成本
在考虑到企业成本的情况下，把企业支持硬件的利旧，降低投入成本50-80%，维护工时缩短70%-90%。
2、高性能
未备案发现率100%，封堵的准确率为99.99%
3、高准确性
比如文本、图片、视频，通过我们的调优，可以做到90%或者95%以上。
4、部署灵活
部署方式主要是采取旁路式部署，不改变业务状况，支持弹性扩容，业务功能支持动态扩容。
创旗希望和各位多交流、合作，为建设绿色安全的网络环境做出我们应有的义务。
