MIT&微软开发智能识别新模型，帮助处理自动驾驶系统的知识“盲点”(4)

[转载出处：www.11jj.com]

这一新模型的最终目标是将这些模棱两可的情况标记为盲点。但这不仅仅是简单地计算每种情况下出现的可接受行为和不可接受行为的次数。例如如果该系统遇到救护车时十次中有九次采取正确的行动，就会将这种情况标记为非盲点。但由于不恰当行为远比恰当行为出现的次数少，系统最终会学会预测所有的情况都不是盲点，这对于实际系统来说是极其危险的。

为此研究人员使用一种通常用于众包数据处理标签噪声的Dawid - Skene机器学习方法来解决这一问题。该算法将各类情况汇总数据库作为输入，每个情况都有“可接受”和“不可接受”的一对噪音标签。然后它聚集所有数据，并使用一些概率计算方法来识别预测盲点标签模式和预测非盲点标签模式。使用这些信息它会为每种情况输出一个整合的“非盲点”或“盲点”标签以及该标签的置信度。值得注意的是，即使在90%的情况下做出了可接受行为，该算法也可以通过学习把罕见的不可接受情况认作盲点。最后该算法将生成了“热图”，系统在原始训练中经历的每种训练情况都被按照从低到高的盲点概率进行排布。

当系统被应用到现实世界中时，它可以利用该学习模型来更加谨慎和智能地行动。如果学习模型预测某种状态是高概率的盲点，系统就可以咨询人类应该如何应对，从而更安全的行动。

如果想要了解更详细的技术细节，请参考研究人员发表在最近AAAI -19的论文：

http://interactive.mit.edu/overcoming-blind-spots-real-world-leveraging-complementary-abilities-joint-execution