汽车智能化进程中的“灰犀牛”，大概率危机会来自哪里？(3)

当汽车越来越智能化、互联化的时候，我们对潜在的危机并没有做好防范意识，汽车智能AI领域的“灰犀牛”，已经在智能化丛林的边缘若隐若现。

[原文来自：www.11jj.com]

解释1：来自工程师的道德风险

在一些不认为AI技术还那么“智能化”的从业者眼中，自然语音系统这个“污污”的回答，被认为是一些工程师给系统程序埋设的“应答暗号”，只有特定的提问“钥匙”，才能启动系统的特殊“反应”。

这么做，一方面可能是为了一些后门做铺垫，也有可能仅仅是因为某个工程师的“恶作剧”导致的，但是再小的“恶作剧”，也可能带来巨大的灾难，比如说：

2015年3月24日，德国之翼一架编号为4U9525的空客A320型客机在阿尔卑斯山脉南麓坠毁，机上人员人员无一幸免，事情的起因就是由于副驾驶心理疾病导致的自杀行为；并且，我们至今依然无法抹去记忆的MH370事件， 也有大量证据指向了驾驶员的心理问题。

所以，如果某个工程师有机会能被“恶作剧”心理驱使，设计出这么一个让人小小不舒服的“隐藏彩蛋”，那么是不是会有一些其他人，会在程序中设计好了“定时炸弹”呢？