2021-A Deep Gravity model for mobility flows generation


起点的总流出已经知道,人会被分到正确的目的地吗?

论文名片|Filippo Simini、Gianni Barlacchi、Massimilano Luca、Luca Pappalardo,A Deep Gravity model for mobility flows generation,Nature Communications,2021,12:6576。DOI:10.1038/s41467-021-26752-4。正式发表版;2020年12月19日收稿,2021年10月21日接收。

利物浦以北有一块边长 25 公里的方格,里面是 1001 个英格兰普查输出区。通勤者从各自的起点出发,起点一共走多少人是已知的。若只按居民人口和区心之间的地表距离来分配,经典引力模型在这块方格上的通勤者公共部分(Common Part of Commuters,CPC)是 0.12。Deep Gravity 再读入地图上的用地、道路和设施,用深层网络给每个候选目的地一个概率,再乘上同一个总流出,CPC 升到 0.41。

这个 0.41 只属于这一块方格里的流量,不是英格兰全部测试方格。按国家汇总的测试流量上,Deep Gravity 的全局 CPC 是 0.32,引力模型是 0.11。在总流出已经配平的前提下,CPC 等于被分到正确目的地的出行占比,所以 0.32 的意思是评估出行里约 32% 分到了正确目的地,约 68% 没有。模型改善的是分配,不是从零造出人流量。三国之间,多出来的准确度也不来自同一类信息:英格兰更依赖地图特征,意大利和纽约州更依赖人口与距离的非线性关系。

先说结论

  • 在边长 25 公里的方格内部、并且使用观测到的起点总流出时,Deep Gravity 的全局 CPC 为英格兰 0.32、意大利 0.27、纽约州 0.70;对应的引力模型是 0.11、0.18 和 0.06。分母是真实流量与生成流量的重合程度;总流出配平时,它就是分对目的地的出行占比。
  • 相对提升要除以引力模型自己的 CPC,不是减去后的百分点。人口最高的第 10 十分位上,表 1 的相对提升是英格兰 246.88%、意大利 66.02%、纽约州 1076.93%。纽约州这一档的平均 CPC 只是 0.49 对 0.04,百分比大,是因为基线接近于零。
  • 把多加地图变量和多加隐藏层拆开之后,两国加一州的答案不同。英格兰多特征线性模型的全局 CPC 是 0.23,只用人口和距离的深层模型是 0.12。意大利这两项是 0.20 和 0.21,纽约州是 0.28 和 0.68。Deep Gravity 在三套数据里都最高,但最高不等于两项贡献一样大。
  • 英格兰九座城市做留出整座城市的检验时,正文只报告平均 CPC 与随机划分的 Deep Gravity 很接近,没有给出各城的 CPC 数字。能迁移的是同一国家、同一类普查单元上的分配概率,不是任意国家、任意区划。
  • 解释模型时,距离几乎总在把很近的地点对推向更高概率。英格兰里目的地人口的作用是混的;意大利和纽约州里,起点人口小、终点人口大,对概率的推动更强。科比的一对输出区距离相同、人口接近,引力模型会给出对称流量,Deep Gravity 的两条分数分别是 −3.417 和 8.19。

被预测的流量,只发生在同一块方格里面

流量生成要回答的是:没有这块区域自己的历史流量时,各起点的人会到哪些地点。论文把区域切成互不重叠、并起来盖住全区的地点。流量 y(lᵢ, lⱼ) 是单位时间内从地点 i 到地点 j 的人数;起点总流出 Oᵢ 是从 i 出发的流量之和。实验不允许把同一块感兴趣区域里的流量当作输入,测试区域必须和训练区域不重叠。

实际切法是先铺边长 25 公里的方格。英格兰 885 块,意大利 1551 块,纽约州 475 块。每块再按普查单元细分:英格兰 2011 年输出区(Output Areas,OA)共 232,296 个,设计上每个大约 125 户,所以城市里的多边形更小、更多;意大利普查区(Census Areas,CA)402,678 个;纽约州普查区划(Census Tracts,CT)5367 个。一个方格的地点,是区心落在这个方格里的普查单元。

只保留起点和终点都在同一方格里的流量。因此模型解释的是 25 公里见方以内的联系,不解释跨出方格的长途出行。五次实验都按人口十分位分层,随机拿一半方格训练、另一半测试。图 4 的图注写出,这些训练方格对应的地点规模是 84,491.63 个输出区、200,746.15 个普查区和 2118.93 个普查区划。小数来自多次划分,不是某一次恰好数出来的整数。

三套流量也不能当成同一种通勤。英格兰用 2011 年普查的家与工作地联系,覆盖 30,008,634 名通勤者,流量均值 1.78、标准差 3.21。意大利普查覆盖 15,003,287 名通勤者,均值 2.07、标准差 4.27。纽约州来自匿名手机用户的地点访问汇总,论文仍称为 commuters,共 41,070,279,均值 66.86、标准差 364.58。纽约州每个 CT 的“人口”是该区全部流出之和,不是独立的普查常住人口。均值的分母是这些流量记录;正文没有另写是否把结构上的零流量对也算进均值。

引力模型为什么可以看成一层网络?

单约束引力模型先承认 Oᵢ 是已知的,只学习人往哪里去。期望流量等于 Oᵢ 乘目的地概率。概率的分子是终点人口的 β₁ 次方乘距离函数,分母是这个起点所有候选终点的同样乘积。距离函数可以是指数衰减,也可以是幂律。人口和距离一旦定了,两个方向如果人口与距离都相同,概率就相同。

这个式子和只有人口、距离两个输入的线性打分再做 softmax 是同一件事。softmax 把每个候选目的地的分数变成正数,并且加总为 1。于是流量生成被写成分类:一次出行是一个样本,正确的目的地是类别,区域内所有地点都是候选类别。分类损失用的是观测流量占比 y/Oᵢ,并假设不同起点的流量彼此独立,交叉熵才可以相加。

CPC 用来看生成流量和真实流量有多重合:

CPC = 2 × 所有地点对上较小流量之和 ÷(生成流量总和 + 真实流量总和)。

它落在 0 到 1。生成的总流出等于真实总流出时,分母变成真实流量总和的两倍,CPC 就等于分对目的地的出行占比。本文四个模型都乘了观测到的 Oᵢ,所以这个等价成立。它不是相关系数,也不是猜对了多少座城市。

另外三项只在正文里定义了角色:皮尔逊相关看线性相关,归一化均方根误差(NRMSE)看误差,Jensen–Shannon 散度(JSD)看分布差异。NRMSE 和 JSD 越低越好。具体公式写在补充注 1,这里只使用正文和表 1 已经给出的数值。

深层网络多读了哪些地图,训练时又省掉了什么?

Deep Gravity 把引力模型的线性打分换成 15 个隐藏层。靠近输入的六层是 256 维,其余层是 128 维,激活函数是 LeakyReLU,负的输入不会直接变成 0。同一个网络同时吃下某个起点的全部候选目的地,输出分数 s,再 softmax 成概率,最后乘 Oᵢ。

每个地点对有 39 个输入:起点 18 个地理特征、终点 18 个地理特征、两端人口,以及两端区心沿地表的距离。这 18 项来自 OpenStreetMap,是志愿者地理信息,不是官方设施普查。用地 5 项,是居住、商业、工业、零售和自然用地的面积;道路 3 项,是居住、主干和其他道路的长度;交通、餐饮、医疗、教育和零售各 2 项,分别数兴趣点与建筑。除距离以外,一个地点上的特征值都除以该地点面积。人口在 39 维里单独计数,正文没有写它免于这个除法,所以不能把 SHAP 图上的 Population 直接读成原始人数。

距离是区心之间的地表距离,不是沿路里程,也不是通勤时间。

训练 20 个 epoch,优化器是 RMSprop,动量 0.9,学习率 5×10⁻⁶,每批 64 个起点。为了缩短时间,每个起点最多随机抽 512 个目的地。生成时的网络结构仍是对区域内地点给概率;当地点数超过 512,训练并没有每次看全所有候选。

正文还试过更瘦和更胖的版本。瘦版本不区分设施类别,每条流量一共 5 个特征;胖版本把起点和终点各自最近的 k 个地点的地理特征平均进来,k=2 时举例为 77 个特征。正文说它们与 Deep Gravity 相当或更差。轻、重版本的曲线在补充图里,不在这里展开数字。

完整原论文图1

图 1|没有历史流量时,模型凭什么给每个目的地一个概率?

(a)大地图被切成方格,一块感兴趣区域再放大成普查单元;彩色点是 OpenStreetMap 上不同类别的兴趣点。训练和测试各用一半方格。(b)起点特征、终点特征和距离拼成输入,同一套前馈网络给每个候选终点一个分数,softmax 把分数变成加总为 1 的概率;旁边的颜色表示从一个起点出发的概率高低。示意图里的特征数值只说明输入长什么样,不是实验结果。来源:原论文 Fig. 1。

多出来的准确度,是地图带来的,还是层数带来的?

只和引力模型比,说不清提升从哪来。论文因此放了两个中间模型。非线性引力模型(Nonlinear Gravity,NG)的网络和 Deep Gravity 一样深,输入仍只有人口和距离。多特征引力模型(Multi-Feature Gravity,MFG)的输入和 Deep Gravity 一样多,但只有一层线性网络。引力模型记为 G,Deep Gravity 记为 DG。

表 1 的全局指标如下。CPC、相关越高越好,NRMSE、JSD 越低越好。

区域 模型 CPC NRMSE 相关 JSD
英格兰 G 0.11 0.51 0.35 0.73
英格兰 NG 0.12 0.45 0.56 0.72
英格兰 MFG 0.23 0.47 0.48 0.65
英格兰 DG 0.32 0.41 0.61 0.60
意大利 G 0.18 0.48 0.49 0.69
意大利 NG 0.21 0.45 0.57 0.67
意大利 MFG 0.20 0.50 0.44 0.67
意大利 DG 0.27 0.43 0.62 0.63
纽约州 G 0.06 0.74 0.03 0.78
纽约州 NG 0.68 0.26 0.93 0.34
纽约州 MFG 0.28 0.48 0.35 0.62
纽约州 DG 0.70 0.19 0.93 0.33

英格兰的全局 CPC 从 0.11 到 0.32,正文计算的相对提升是 190%,也就是 (0.32−0.11)/0.11。相对 MFG 的 0.23 是 39%,相对 NG 的 0.12 是 166%。绝对差距是 0.21 个 CPC,不是 190 个百分点。纽约州上 NG 的相关已经是 0.93,和 DG 的两位小数相同,但 NRMSE 仍是 0.26 对 0.19,CPC 是 0.68 对 0.70。相关打平,不代表流量重合也打平。

国家之间的差异,正文归结为空间单元的形状和大小、流量稀疏程度,以及数据来源不同。纽约州的全局 CPC 更高,不能单独理解成美国的流动更容易用引力解释。CT 只有五千多个,方格里的候选目的地少得多;流量均值也比两国普查大一个数量级。

人多的方格更难分对,相对百分比却更大

把方格按人口排序后分成十个等量组,每组的方格数量相同。第 1 组人最少,第 10 组人最多。表 1 给每组五次运行的平均 CPC、CPC 的标准差,以及相对 G 的提升。

英格兰的 CPC 随人口下降。G 从第 1 组的 0.66 降到第 10 组的 0.08,DG 从 0.67 降到 0.28,中间第 6 组是 0.45、第 5 组是 0.44,不是严格的每一档都更低。DG 相对 G 的提升从第 1 组的 3.20% 增到第 10 组的 246.88%。第 10 组 MFG 的平均 CPC 是 0.19,相对提升 139.46%。NG 在人最少的两组反而比 G 差,相对提升是 −1.52% 和 −1.88%。只把网络加深、不加地图,在稀疏的英格兰方格里并没有帮助。

意大利并不是人越少、CPC 越高。DG 的平均 CPC 在第 3 组达到 0.55,第 1 组是 0.34,第 10 组是 0.21;G 在第 10 组是 0.13,这一档相对提升 66.02%。MFG 在这一档的相对提升是 14.20%。正文用随人口增加而变差概括英格兰和意大利,意大利的表则是先升后降。第 1 组 DG 的标准差是 0.34,和均值 0.34 一样大,这一档的平均不能看得太稳。

纽约州相反,DG 的平均 CPC 从第 1 组的 0.29 到第 9 组的 0.52、第 10 组的 0.49,大体上升;G 到第 10 组只剩 0.04。第 10 组的相对提升是 1076.93%,NG 是 1031.14%,MFG 是 351.59%。第 1 组和第 2 组上,NG、MFG、DG 的相对提升都是 0,打印出来的平均 CPC 与 G 相同,分别是 0.29 和 0.35。百分比的高峰出现在人多、而引力模型已经接近失败的地方。

这些相对提升不能用两位小数的均值回推到完全相同的百分数。第 10 组若直接用 0.28 和 0.08,英格兰大约是 250%,表上写的是 246.88%;纽约州用 0.49 和 0.04 大约是 1125%,表上是 1076.93%。表中的百分数来自未四舍五入的平均 CPC。摘要写的是人口稠密区域最多达到 66%、246% 和 1076%,对应的也是这一档。结果部分有一句话把意大利的 66% 和纽约州的 1076% 说成全局 CPC 的提升;按表 1 的全局列,意大利是 0.27 对 0.18,纽约州是 0.70 对 0.06。读的时候以表为准,不要把第 10 组的相对提升当成全国 CPC。

正文还写,方格改成 10 公里以后,各模型的 CPC 大约比 25 公里低 0.03。英格兰最高人口档的相对提升约为 220%,比 25 公里同一档少大约 26%。25 公里这一档在表上是 246.88%。这是正文给出的约数。

完整原论文图2

图 2|同一块方格里,生成的网络像不像真实通勤?

(a)利物浦以北 1001 个输出区的观测流量。(b)Deep Gravity,这块方格的 CPC=0.41。(c)引力模型,CPC=0.12。蓝边是 0 到 3 人,红边是 3 到 5 人,黄边是 5 人以上。两个模型都低估流量;Deep Gravity 保留了更多黄、红骨架,引力模型大片变成稀疏蓝边。这是一个方格的可视化,不是表 1 的全局 CPC。来源:原论文 Fig. 2。

完整原论文图3

图 3|提升是不是只发生在少数城市?

(a、d、g)引力模型在各 25 公里方格上的 CPC,颜色从低到高,色标上限分别是英格兰 0.96、意大利 0.91、纽约州 0.80。(b、e、h)同一套色标下的 Deep Gravity。(c、f、i)Deep Gravity 相对引力模型的 CPC 提升,色标从 0 到 411%、263% 和 2551%,单位是百分数,表示颜色上限,不是三国的平均提升。每个方格的 CPC 是它至少进入一次测试集时各次运行的平均。灰色方格从未进入测试集。来源:原论文 Fig. 3。

完整原论文图4

图 4|人口一档一档增加时,CPC 和相对提升怎么走?

(a、c、e)英格兰、意大利、纽约州的平均 CPC。红圆是 Deep Gravity,三角是非线性引力模型,方块是多特征引力模型,黑色虚线是引力模型;误差线是该人口档 CPC 的标准差。(b、d、f)三个模型相对引力模型的提升,纵轴是百分数,三国的刻度不同,纽约州到 1000% 以上。人多的一端,红线与虚线的垂直距离最大;纽约州最左两档几条线叠在一起,对应表里的相对提升 0。来源:原论文 Fig. 4。

正文还说,图 3 和图 4 里 Deep Gravity 在各国每一块感兴趣区域上都优于引力模型。表 1 同时给出纽约州最低两个人口档的平均相对提升为 0。一块方格上的逐个比较,和十分位平均之后的零,统计单位不同;零表示这一档的平均没有拉开,既不能当成每一块都有可见提升,也不能当成模型在人少的纽约州更差。

整座城市都没进过训练集,分配还会不会接近?

随机一半方格做训练时,伦敦、曼彻斯特这类大城市可能被几块方格切开,模型在训练时见过这座城市的另一部分。为了避免这件事,论文在英格兰九座城市上改做留一城市:Core Cities 再加伦敦。训练用八座城市,测试用被拿掉的那一座。方格数是伦敦 15、利兹 8、谢菲尔德 7、伯明翰 5,布里斯托尔、利物浦、曼彻斯特和纽卡斯尔各 4,诺丁汉 3。

这个留出版本的平均 CPC 与原来的 Deep Gravity 很接近。在伦敦上测试时平均 CPC 略升,纽卡斯尔、利物浦、诺丁汉也类似;布里斯托尔和谢菲尔德略降;利兹、伯明翰、曼彻斯特没有明显变化。正文没有列出各城的 CPC。能说的是:在英格兰这些城市之间,没见过目标城市的流量,仍能生成接近随机划分的分配概率。不能说模型已经可以拿一个国家的流量生成另一个国家,正文把跨国家、以及用乡村生成城市,都写成尚未回答的问题。

模型把概率推高,推的是人口还是用地?

SHAP 用合作博弈里的 Shapley 值,估计一个特征在某个地点对上、相对于数据集平均预测,把模型分数推高了还是推低了。它解释的是这个网络的输出,不是通勤者自己陈述的理由,也不是把特征换成另一种取值后的真实政策效果。

完整原论文图5

图 5|三国里,哪些特征整体上在推动流量概率?

(a)英格兰。特征自上而下按相关性排列,最上面是距离,其次是目的地商业用地;目的地人口排在单独列出的特征里很靠下。蓝点是该特征取值低,红点是取值高,横轴是 SHAP 值。距离大的红点偏左,压低概率;距离小的蓝点偏右。其余 28 个特征被合并成最下面一行。(b)意大利。最上面是起点人口、距离和终点人口。起点人口低、终点人口高的点偏向右侧,也就是推高概率。其余 24 个特征合并在底部。(c)纽约州。顺序是起点人口、终点人口、距离,长短轴和意大利同一方向;同样把其余 24 个特征合并。来源:原论文 Fig. 5。

这和中间模型的成绩对得上。意大利和纽约州里,人口与距离已经占了全局解释的前排,所以只加深人口—距离关系的 NG,全局 CPC 高于只加地图、仍保持线性的 MFG。英格兰里商业用地、自然用地、零售、医疗和餐饮等目的地特征排在人口前面,MFG 的 0.23 也就明显高于 NG 的 0.12。正文还写:餐饮、零售和工业用地多的地点更可能吸引通勤,医疗类兴趣点和商业用地则对应更少通勤。图 5 里高的商业用地取值确实多落在负的一侧。这是模型分数的统计贡献,不是证明商店或医院改变了通勤。

纽约州每个地点的人口被定义为该地点流出之和。对起点来说,这项输入和用来乘概率的总流出 Oᵢ 来自同一批出行;对终点来说,它是终点自己的总流出,不是另一套普查常住人口。不能把图 5 里纽约州的人口效应读成独立测到的居民数在吸引访问。

完整原论文图6

图 6|两个方向、同一段距离,为什么分数完全不对称?

(a)科比的输出区 E00137201 和 E00137194,位于人口第 8 档;图上人口是 238 和 223,区心距离 226.07 米。城市人口在正文里约为 5 万,图注写超过 5 万。(b)从 E00137201 到 E00137194,模型分数 f(x)=−3.417。距离特征在图上写成 0.3,SHAP 值+3.1;目的地商业用地的输入值是 13.06,SHAP 值 −0.52;餐饮兴趣点 9.23,SHAP 值+0.46。其余 30 个特征合并成一条。(c)相反方向,f(x)=8.19,距离的 SHAP 值是+3.4;目的地商业用地的输入值变成 23.649,SHAP 值 −1.2。两条图的平均预测都标成 E[f(x)]=−4.582。来源:原论文 Fig. 6。

0.3 是条形左侧印出的模型输入,226.07 米是地图标注。正文没有给出两者的换算,不能把 0.3 当成 0.3 公里。13.06 和 23.649 也是送进模型的特征数值,不是商店个数。

引力模型看到的人口和距离在两个方向上一样,所以流量一样。Deep Gravity 的两个分数差得很远:一个低于平均预测 −4.582,一个远高于它。图注写各特征的 Shapley 值之和等于模型分数,条形本身则是相对平均预测的推动。分数还要和同一起点的其他目的地一起做 softmax,才变成概率,不能把 8.19 和 −3.417 直接读成两个概率。这个例子说明,单个地点对上最重要的特征可以和全国排序不同;人口在这对地点上不是最靠前的条。意大利和纽约州的单对解释在补充注 5,正文没有给出对应数字。

这些比较停在哪一步

Deep Gravity 优于文中的三个对照,限于三套数据、25 公里方格、以及已知总流出的分配。相关的边界就放在结果旁边,这里把它们收成使用时不能跨过的线。

CPC 是目的地分配的重合,不是机制证明。0.32 的全局 CPC 在英格兰意味着大约 68% 的评估出行没有分到真实目的地。图 2 里两个模型都低估了大流量。拟合更好,不表示人是按用地和兴趣点做决定的。

总流出来自数据,不来自模型。没有 Oᵢ 的地区,现在这套实验没有展示如何生成流量。讨论里把同时生成每个地点的总流出写成以后的扩展。

地图是志愿者贡献的。某个地点没有医院或餐馆,可能是真的没有,也可能是还没画进 OpenStreetMap。特征再除以面积之后,SHAP 讨论的是归一化数值。

训练时的 512 个负样本、20 个 epoch 和这一套层宽,是本文的实现,不是唯一能达到表 1 的结构。瘦模型和胖模型的正文结论只是与 Deep Gravity 相当或更差。

留一城市只发生在英格兰的九座城市之间。10 公里方格只在正文里给出大约 0.03 的 CPC 差距和大约 220% 的那一档相对提升。跨国家、用乡村生成城市、用城市生成乡村,论文明确留作问题。

一句话总结

在起点总流出已知、只分配 25 公里方格内部目的地时,Deep Gravity 比人口加距离的引力模型更接近真实流量,人多的地方相对差距最大;这份提升仍是在已知总流出下做分配,而且英格兰靠地图、意大利和纽约州靠人口与距离的非线性,不能合成一条通用的重要性名单。

核心来源

  • Nature Communications 正式版,题目、作者、DOI 与 2021 年 12 卷 6576 期。
  • 正文表 1、图 1–6。在线补充材料由该 DOI 页面提供;本文数字均来自正式版正文、表和图。
  • 数据:英格兰通勤与边界见英国人口普查流动数据说明;意大利见 ISTAT 的开放通勤与边界数据;纽约州流量见 GeoDS 的美国流动数据,对应 Kang 等,Scientific Data,2020。
  • 代码:scikit-mobility/DeepGravity,论文实验版本为 Zenodo 上的 1.1.0,10.5281/zenodo.5573573。

作者介绍

四位作者的机构和分工以论文首页、作者贡献说明和参考文献为准。

  • Filippo Simini:署名布里斯托大学工程数学系、艾伦·图灵研究所,以及阿贡国家实验室领导计算设施。他设计模型,并收集英格兰和意大利的数据。论文引用的 2012 年《自然》文章里,他也是普适流动与迁移模型的第一作者。
  • Gianni Barlacchi:署名亚马逊 Alexa,柏林。论文写明,这项工作是他加入亚马逊之前完成的。
  • Massimilano Luca:论文作者行以此拼写署名,单位是布鲁诺·凯斯勒基金会(特伦托)和博尔扎诺自由大学。他收集美国数据,并与 Pappalardo 一起做实验。
  • Luca Pappalardo:意大利国家研究委员会信息科学与技术研究所(ISTI-CNR),比萨,通讯作者。他主持研究,并参与实验。文中的 scikit-mobility 库由他与 Simini、Barlacchi 和 Pellungrini 提出。全体作者参与解释结果和写作。

延伸思考

以下是 AI 基于论文结果所作的延伸,不属于原论文结论。

若把同一套模型换到区县而不是输出区,候选目的地会少很多。纽约州只有 5367 个 CT,全局 CPC 就到了 0.70;英格兰有二十多万个输出区,全局 CPC 是 0.32。区划一变粗,分对的比例可能上升,因为可供分错的候选目的地变少了。比较两个城市的模型成绩之前,至少要先对齐地点数量、方格边长,以及总流出是观测值还是模型自己生出来的。否则高 CPC 可能主要是题目变容易,而不是地图特征更有用。

另一个容易误导的汇报方式,是只说提升了 1076%。纽约州人口最高一档里,引力模型的平均 CPC 是 0.04,Deep Gravity 是 0.49。相对除法很大,绝对结果仍是大约一半出行没有分到正确区划,而且第 1、第 2 档的相对提升是 0。若一个规划工具要说明模型值不值得用,应同时给出分对出行的占比、对照模型的占比,以及这个占比是在人多还是人少的方格上计算的。只保留相对百分比,会把接近于零的基线说成数量级上的成功。


文章作者: 猴猴猴
版权声明: 本博客所有文章除特別声明外,均采用 CC BY 4.0 许可协议。转载请注明来源 猴猴猴 !
  目录