AI审核“黑夜总会过去，白天总会到来”，为啥说敏感词审不过？

随着移动互联网、云计算、物联网等新兴技术的发展，互联网络环境愈加复杂，各大互联网企业开始利用人工智能技术（又称“AI”）应用于网络安全领域。“人工智能+网络安全”成为了热议的话题。

[原创文章：www.11jj.com]

8月21日，由中国互联网协会、阿里巴巴、蚂蚁金服主办的2018网络安全生态峰会在北京举行。会上，中国互联网协会发布了《AI技术赋能网络内容安全保障研究报告》（以下简称“报告”）。报告指出，人工智能可以有效进行文本内容检测、网络视频/图片内容检测、语音内容检测等。但与会专家表示，人工智能仍存在成本较高、某些内容无法识别等问题。

AI鉴黄师可识别多国语言和多地方言

由于网络内容安全存在审核标准差异化、动态化，对抗行为较为突出的特点，传统的基于人工审核、人工特征工程的网络内容分析方法正面临着严峻的挑战。对于，人工智能技术正逐渐以一种截然不同的方式，应用于网络内容安全领域。

深度学习是近期人工智能中发展迅速的领域之一，它在语言处理、图像识别、语音识别等领域展示出巨大的优势。

报告指出，文本分类技术可以根据文本的某些特征，在预先给定的类别标记集合下，根据文本内容来判定类别。基于深度学习的方法已经取得了最佳的结果，诸如命名文本分类、实体识别、词性标注和情感分析等。

网络视频和图片作为一种视觉信息载体，是网络内容最重要的组成部分之一。如今，在网络视频和图片的内容检测中，深度学习主要应用于文字识别、人脸检测、特定标识检测、有害视频场景检测等。

报告表示，深度学习将网络视频和图片文字识别技术分为两个阶段，首先，对图片中的文字进行检测和提取，然后再对检测出的文本区域进行识别。这种输入原始图片而输出为最终识别的结果文字的方式，称为端到端识别技术。同时，还可对视频和图片中的人脸进行检测。

据专家介绍，AI鉴黄师每天可审核数亿张图片，识别准确率高于99.5%。举个例子，单纯由人工一天审核4亿张图片，一人一天审1万张，需要4万人，而AI鉴黄只需将其中20万张可疑的图片筛出来，由人工再审一次，仅需 20人。

视频和图片中的标识包含了重要的信息，比如电视台标、招牌、车牌、交通标识等。基于深度学习的标识识别方法提升了标识和对象检测性能和效率，实现了端对端的、像素级的标识和对象检测。