AI审核“黑夜总会过去，白天总会到来”，为啥说敏感词审不过？(2)

“使用深度学习方法解决场景识别问题已经成为场景识别领域未来的发展方向”，报告指出，暴力、血腥、爆炸等有害视频在光照变化、相机运动、内容复杂度等方面比一般的网络视频更复杂。从海量网络视频中高效、精准地识别出有害的视频，对识别速度、识别准确率、和识别召回率都要求达到极高水平。

[原文来自：www.11jj.com]

据媒体报道，Google在应用深度学习后，将语音识别模型的错误率降低了20%。报告表示，，深度学习可以自动从海量数据中提取复杂而且有效的特征，提升了模型的准确度。当前，几乎所有关于语音的研究都已经转入深度学习。

[好文分享：www.11jj.com]

比如，AI鉴黄师就是通过声纹识别技术，识别语音中存在的涉黄、广告等违规信息，支持中文、日文、英文、俄文等多国语言，甚至支持湖南、湖北、河南、东北、四川等地方言。

AI存在成本高、部分内容无法识别等问题

随着人工智能的不断发展，带来了更多样化、更先进的应用，但技术仍还不够成熟。据媒体报道，某银行的语言识别ID，允许用户使用语音指令访问他们的帐户，但是，一名BBC记者的孪生兄弟，通过模仿记者的声音，经过七次尝试后，成功访问了记者的账户。

报告指出，世界上约有7000种语言，但是，绝大多数语音识别系统能够支持的语言数量大约只是几十种。除此之外，当说话声音比较远或者环境很嘈杂时，语音识别系统的效能就会降低。值得注意的是，深度学习与语音识别相结合，对CPU和内存的占用量不容小觑。

国家互联网应急中心高级工程师徐杰表示，AI技术存在成本较高的问题外，还可能存在某些内容无法识别的问题。AI需要获取到大量的数据才能够识别、分类，但是在没有充足量的数据的情况下，AI就有可能无法识别。他强调，AI未来的发展方向是识别性。

科大讯飞北京研究院副院长李剑锋举例称，AI为何审核不通过“黑夜总会过去，白天总会到来”，是因为出现了敏感词“夜总会”。

徐杰还强调，AI模型的可解释性是未来需要重点关注的问题。“我们需要解释清楚模型是如何训练出来的，才能够放心使用”，他表示。

当攻击者知道AI模型是如何训练出来时，就可能会对数据进行针对性的攻击，“辛辛苦苦建立的模型就会失效了”，徐杰说。此外，中国社会科学院世界经济与政治研究所博士后陈哲强调，使用AI还要考虑到数据保护和伦理问题。