汽车智能化进程中的“灰犀牛”，大概率危机会来自哪里？(4)

解释2：来自AI的作乱

[原创文章：www.11jj.com]

这个问题出现的当时，车云菌第一反应是“自然语音系统”的学习机制出了问题，学到了一些不该学的内容。事实上，这个想法在一些业内人士的回答中也得到了佐证。

任何一个具有一定智力水平的AI系统，在学习人类的语言的时候，跟人类学习一门外语的过程有些相似，都需要一个句子一个句子的熟悉和记忆，但是市面上的软件相比于人类缺乏的能力是：软件无法识别对话的语境和语气，只能靠机械的关键词识别和组合，来实现一问一答的“人机对话”。

有意思的是，在人类学习语言的过程中，一般学会的第一句话是“我爱你”，然后学到的很多内容，就是不可避免的零七八碎的“脏话”了。

因此，对那些有先天优势能获取人类对话的公司来说（比如腾讯微信、百度搜索等），语音学习程序无法避免地会接触到很多不堪入目的内容，此时如果AI程序不懂得什么“该学”，什么“不该学”，而且作为“监考老师”角色的程序员也没有对程序学习到的每一个内容都进行过滤，，那么最后“毕业”的AI智能程序，就是一个隐藏了“祸心”的瑕疵产品。

随着智能技术继续迭代，这个“祸心”越藏越深，越来越难以发现，并有可能在未来特定时间爆发，造成不可弥补的损失。

总结：

通过这个特定案例，我们能发现，那些在汽车上、包括各种眼下的智能终端中搭载的智能化技术，未必所有产品都做到了完全的“智能化”水平，最起码由工程师道德素质和产品学习机制合理性、可靠性来双重钳制的“智能程序道德水准”，眼下还没有一个公认的标准，这就导致了你家的智能音响，保不齐某一天就会给你秀一下下限。