一、内容风险治理

1.为什么要治理内容风险？在2017年6月1日，国家就已经正式发布网络安全法，并且在6月1日国家网申办也具备了执法权。而且在2017年刑九的修订，国家广电总局的56号令及公安部33号令，在2018年2月，网络游戏管理办法。意味着目前对应内容安全的管理，可能一年比一年严格。我们作为网络内容的运营者，对互联网内容安全是有一定的责任的。比如说，在明知道他人在提供违法犯罪信息，还支持互联网接入，服务器托管，为其提供网络存储空间，那么相关的主管责任人一样会被认为是共同犯罪。另外如果对发布的信息不进行审核管理，也会受到相关监管部门的六个月以内的整顿惩罚，甚至关停以及吊销。这些内容及条例早在我们国家的相关法律和规则上已经明确指出。

2.线上内容在哪些情况下会出现内容风险？目前，平台上只要具备第三方的会员认证功能，或者对第三方的支持进行转展，以及自己发布的企业网站。都有可能存在网站的程序漏洞或者服务器安全管理漏洞，这样的话有可能被黑客利用，在网站上发布违法内容，所以内容安全的管理在这时是极其重要的。比如网站上的垃圾广告，色情内容，赌博内容，以及形形色色的违法信息的呈现。风险核心在这边主要分为三部分，第一部分，属于高危内容，影响国家安全风险内容。如涉政，暴恐，武器贩卖，高位信息的篡改，以及涉及到侮辱国家政府或者领导人的相关信息等。其次，是影响社会民生的风险。比如色情，赌博，在互联网上传播会影响未成年少年的信息，如影响未来意识形态的培养和发育的内容。第三个就是对自身业务影响，比如垃圾广告，使得推广传播的对方人员无法看到正常业务。

3.内部安全管理整个体系是个不断优化的数据闭环内容风险在不断的迭代和变化，所以解决策略也会不断的更新。如果违法信息发布者的违法速度超前，可能会导致违法信息泛滥，这时需要的策略是不断的缩短攻击者的时间，降低有害信息的曝光时间。

二、内容安全的核心能力

内容安全的核心能力分为四大部分：威胁情报，数据智能，然后必须从源头打击，最后是安全赋能的能力。

1.数据智能
a.事前措施在事前，对数据智能进行检测。阿里云通过外部的舆情采集，通过数据信息的大数据观点，制定数据风险模型，再通过大数据的分析，定位高危风险，并且通过关联用户信息，用户的行为信息，或者违法发布者的违法信息发布页面，从而推动线上方案，打击违法发布者，并从源头对其进行打击就可以彻底的控制内容风险。b.事后措施当违法信息已经产生之后，阿里云的内容安全是提供所有信息的内容安全检测，比如视频，图片，文本，语音等。目前来说，阿里云通过大数据+机器学习的智能识别，每天可以识别千亿级别的内容信息，恶意内容库已经到了过亿的内存。目前通过海量数据以及阿里云的核心产品，进行默认安全的功能，还有建立多元生态，可以保证在数据安全的情况下，进行数据智能检测，从而帮助用户满足内容安全的合规要求。c.建立蓝军形成风险检测的闭环在上面提到过，我们和风险产生者是一个对抗的关系，那么如何解决不断变化的内容安全风险？我们会有一个蓝军的体系，蓝军体系目前包括接近5000人的志愿者。他们会在各个互联网的场景下为我们提供风险情报的内容，以及风险形容。我们有全国各个监管的一个情报通道，我们能够对国家的一些内容安全管控进行政策解读，我们可以建立新的规则，并且阿里云有自己的合作伙伴，目前我们已经与全国各地的安全联盟一起共享规则。目前我们的风险情报内容已经接近万条，而且调优规则基本上每天每周都在更新。

2.黑灰产的威胁情报能力目前来说，我们肉眼可以看到的内容风险信息包括赌博，色情，诈骗等，其实这些内容的产生的背后其实隐藏了很多的产业链对上述犯罪信息的发布作支撑。比如说，灰帽SEO是专门针对这些非法信息提供推广服务。比如说我们去识别这些源头，他们是通过恶意注册，虚假认证和虚假交易的方式产生的。另外在市面上有提供技术支持的产业，比如提供软件，平台，工具，或者说有特殊的渠道承接这些业务。以上都是我们打击的目标和情报获取的来源。

3.源头打击内容安全其实跟基础安全是一样的，安全问题的源头往往都是黑灰产。举例来说，一个企业网站，如果他的网站程序有漏洞或者服务器安全没有管理好的话，可能会被入侵，挂马甚至蹿改。比如寄生虫木马，如果访问一个页面，会产生千千万万个页面。那么如何去将产生的不属于自己业务的内容进行管理呢？需要从源头解决，比如解决本身漏洞问题，木马问题，从而保障我们的正常业务不被违法信息所攻陷。

4.安全赋能最后是阿里云内容安全提供给客户的安全解决方案。首先了解一下如果客户要自建内容安全管理能力的话大概需要花费的成本。因为目前互联网的运营者对内容安全的管控是一个必须的工作，如果要投入自建的能力，假设日新增的图片达到百万级的话，大概需要投入的人力需要一百人的审核人力。而且这一百人，每个人要审大概一万张图片，前提是他们对违法信息的认知层面达到了一致，而且相当专业水平才能完成一万张的审核。如果用户要自建团队，需要两年的时间，并且要建算法能力，建平台，平台包含数据采集能力，数据审核能力，数据识别能力等。这样的话大概需要三十个人的开发工程师和算法工程师才能建立一个内容安全管理团队。所以如果每天新增一百万的图片的话，每年投入在内容安全管控的成本上达到一百万才能满足相关政策的要求。如果采用第三方提供的内容安全方案的话，可以节省90%的成本投入。并且阿里云内容安全服务具备相当成熟的能力。因为后端有庞大额算法工程师团队，而且已经有多年的实践经验，并且有相当庞大的政府情报渠道以及解决专家，随时可以为用户提供内容安全咨询服务。

三、核心场景

场景一:UGC内容智能审核
UGC内容主要分为几个场景。一个是会员区域，在互联网场景中，会员区域的内容很多都需要进行管理。会员的头像，会员的名字以及会员的切屏。对会员信息的更改是不允许的，所以说我们对会员区域的管理是必须要有的。另外一些交互类的，比如对发帖信息进行管理检测。第三是直播区域，如直播的封面，直播本身的视频内容以及弹幕和交互的信息。还有一部分是电商场景，这部分国家是有严禁的管控，比如烟草禁止在互联网上售卖。所以我们在电商场景也提供内容安全的检测和识别。商家的产品，产品描述需要通过管理，另外买家的买家秀也需要通过管理。另外一部分是新闻门户，如果是通过自助的媒体进行发布其实这一块的风险是较少的，但是如果是通过第三方转展的新闻，那么需要对第三方的转展内容进行内容审核，以免对平台造成进一步的风险。