MIT&微软开发智能识别新模型，帮助处理自动驾驶系统的知识“盲点”(2)

无人驾驶汽车的人工智能系统在虚拟仿真环境和数据集中接受了广泛的训练，以便应对道路上可能发生的每一种状况。但是有时候汽车在现实世界中会犯下意想不到的错误，因为对于有些突发事件，汽车应该但却没有做出正确的应对。

[原创文章：www.11jj.com]

如果有一辆未经特殊训练的无人车，在通常的数据集上进行训练后可能无法区分白色的箱式小货车和闪着警报呼啸而至的救护车。当它在公路上行驶时救护车鸣笛经过，由于它无法识别出救护车这个特殊的训练集中缺乏的车型（训练集中一般会标注小货车），它无法知晓此时需要减速和靠边礼让，而这样的无人车在路上行驶时就带来一系列无法预知的交通状况。同样的情形还会出现在与警车、消防车甚至校车同行的路段中。特备对于外卖快递飞驰的电动车、忽左忽右的自行车、随处冲出的行人，无人驾驶系统更是无法处理如此复杂的路况！

为了解决这一问题，研究人员提出了新的训练手段来对无人系统进行更深入的训练和改进。首先研究人员利用先前的方法通过模拟训练建立了人工智能系统。但当系统在现实世界中运行时，会有人密切监视该系统的行为，当系统犯下或将要犯下任何错误时，人类会及时介入为系统提供人类的反馈意见。随后研究人员将训练数据和人类反馈数据结合起来，并使用机器学习技术来生成异常/盲点识别模型，该模型能够准确地指出该系统在哪些地方需要人类介入以便获取更多的信息，从而来引导正确行为。

研究人员通过视频游戏验证了这种方法，，他们通过模拟让人类纠正了视频中人物的学习路径。下一步是将该模型与传统的训练和测试方法结合起来，以便训练那些需要人类反馈意见的自动学习系统，比如自动驾驶汽车和机器人。这个模型有助于自动系统更好地了解它们不知道的东西，很多时候对系统进行训练时，它们接受的模拟训练与现实世界发生的事件并不相符，而且系统可能犯错，发生意外事故。这个模型可以用安全的方式以人类行为来弥补模拟和现实世界之间的差距。