中国团队两冠一亚包揽KDD CUP三项大奖，作者亲述技术细节(3)

我们首先提取了每个站点过去72小时的空气质量，以及每个站点最近网格过去72小时的气象数据来作为站点的气象特征，使用这些特征构建了第一个模型。

[原创文章：www.11jj.com]

我们发现，基于历史统计量的模型对于长期预测尤其是突变效果并不理想。以 5 月 7 号对于未来两天预测为例，下图可以看出，在 5 月 8 日到 5 月 9 日模型一的 PM2.5 浓度从 40 上升到 80 又下降到 40，而我们基于历史统计量特征的模型始终保持在 50 左右，经过数据分析我们发现，这段时间的天气发生了一定的变化，我们分析未来天气预报是问题的关键并构建相关特征。

北京奥体中心站点5月8号-5月9号的PM2.5预测值及真实值

而天气预报数据只有 2018 年 4 月 10 号后约一个月的数据，在此前一年的训练数据缺失天气预报，没法做有效的训练。所以我们使用 2018 年 4 月 10 号以前的真实气象数据代替此时段天气预报数据。

然而，由于真实天气数据与预测天气数据分布并不一致，我们采取对训练数据中的真实数据引入高斯噪声，并且考虑到短期预报与长期预报估计误差的不同，针对于不同的预测小时段进行了不同的参数估计，缓解了训练集与预测集合不一致所造成的过拟合问题。

针对于某些特殊时段天气预报预测偏差过大造成的不稳定问题，我们进一步使用分箱平滑。参照真实天气预报一个月数据的树模型训练集上的特征重要性与测试集效果进行了超参数确定。并且我们也尝试 transfer learning 等方法优化分布不一致问题，但由于最后一个月数据太少效果不稳定，并且迭代开销大没有采用。

在基于单点构建天气预报特征后，我们发现很多周围方位的天气预报信息对于当前点也有很大影响。我们由利用几百个网格数据点进行拓扑信息特征构建。首先我们针对每个城市的每个站点的 8 个临近方位角去提取 8 个网格数据点的天气预报特征。考虑到其他位置的天气如风速等会影响到当前方位的污染状况，我们也针对北京 12 个经纬度跨度较大的网格数据点作为全局预报特征，取得了较大的提升。Model1 是基于历史统计量以及初步天气预报特征模型，Model2 是细化天气预报特征与地理位置特征的模型。

北京奥体中心站点5月8号到5月9号的PM2.5预测值及真实值

我们也在其他预测日验证了模型效果。下图为两个模型在 5 月 28 号和 29 号的效果图（29 日后面有数据缺失），我们的细粒度天气预报特征也可以更好的预测趋势。图中空气质量有较大的突变，而我们的模型也捕捉到了突变趋势。突变是对于实际应用有重要应用价值的场景，在这次突变天气提交我们成绩为0.48，同当日第二名成绩 0.54 相比有明显优势。

北京奥体中心站点5月28号到5月29号的PM2.5预测值及真实值

最终，特征主要分为六类：