隐去姓名之后,一条出行轨迹为什么仍可能指向具体的人?
论文名片|Anna Monreale、Roberto Pellungrini,A Survey on Privacy in Human Mobility,Transactions on Data Privacy,2023,16:51–82。2022年4月7日收稿,7月22日收到修改稿,7月30日录用。这篇 PDF 与比萨大学机构库都没有 DOI。机构库记录。这是一篇综述,对象是把整套轨迹发布出去时的隐私,不包括手机实时查询位置。下文的篇数和勾选都是综述对已有文献的整理。
图 1 画了四个停留:家、医院、工作地、健身房,中间用虚线连成一条行程。姓名可以换成编号。医院这一站仍然在说,这个人可能去看过病。人类移动性(human mobility)在这里指一段观察期里个人的地点移动,不是搬家或户籍迁移。这类数据能支撑交通管理、城市规划、污染估计,也能用来看灾害之后的人口移动,以及疫情期间流动和传播的关系。只把姓名换成假名挡不住重识别,因为轨迹本身就有独特习惯。与此同时,电信和保险公司又常以隐私为由不把数据交给研究和公共服务。综述要整理的,就是发布数据时怎样保护个人,同时让清洗后的轨迹仍能代表人的移动规律。
保护大致有三条路。匿名化把一个人藏进还有其他人的群体;差分隐私要求数据集里多一个人或少一个人时,计算结果几乎不变;生成模型交出去的是新轨迹或聚合后的密度。三条路都要在隐私和可用性之间取舍。若假定对手掌握一切可能的背景知识,数据往往会被改得过狠。
先说结论
- 正文把轨迹发布上的攻击收成三族:记录链接、属性链接、概率推断。表 2 用更细的名称列出 19 篇工作,年份从 2007 到 2020。分母是这张表的行,不是该领域的全部论文。
- 轨迹上的一段地点序列可以同时扮演两种角色:用来认出人的准标识符,以及认出之后被暴露的私密信息。因此很难事先规定哪些点绝对无害。
- 保护方法被收成三支。表 3 有 18 种匿名化方法,表 4 有 15 种差分隐私方法,表 5 有 5 种生成模型。勾选记录的是各篇原论文用过真实数据、合成数据,或两者都用。本文没有重跑这些方法,也没有统一的识别成功率。
- 风险评估可以在发布前模拟攻击。PRUDEnce 按最坏情况穷举对手可能知道的知识,计算开销高,数据一更新就要重算。受道路和时间约束的对手,带来的个人风险低于这种理论最坏情况;低多少,这篇综述没有给出数字。
- 作者认为个性化隐私要求、用深度学习生成合成轨迹,以及把风险评估和保护接在一起,仍是开放问题。生成模型目前多靠经验观察来说明隐私,还缺少从设计上可证明的机制。
一条轨迹,记的是谁在何时何地
综述讨论的人类移动数据,是一组人在观察期内的移动,通常由手机或 GPS 自动采集。个人 u 的轨迹是按时间排好的序列,每个点是地点加时刻。地点用坐标 (x, y) 表示,时刻从早到晚递增。子轨迹是按原来的时间顺序抽出的若干点,中间可以跳过,不必是紧挨着的一段。移动数据集 D 是 N 条轨迹的集合,对应 N 个个人或移动对象。不少分析和保护方法会丢掉具体时刻,只保留有顺序的地点。
轨迹有时和疾病、宗教信仰等敏感属性一起发布。表 1 是一个示意,不是真实病历。表里有 4 行:u1 的轨迹是 la、lb、lc,诊断写成 Flue;u2 是 le、lf、la、lc,诊断为 AIDS;u3 出现两次,一次是 la、lb、la、lf、la,诊断为 Diabetes,一次是 la、lb,诊断为 AIDS。标识符只有 u1、u2、u3 三个,诊断拼写按原文保留。
另一类数据先找出停留,再按应用规定的分类标上家、医院、餐馆或博物馆。这样的序列叫语义轨迹(semantic trajectory)。图 1 就是例子:停留 1 是家,停留 2 是医院,停留 3 是工作地,停留 4 是健身房。医院比公园更容易引出健康推断。这张图是示意图,没有坐标、人数或真实行程。

图 1|标上地点含义之后,一条行程会暴露什么?
无字母子图。从左到右四个灰圆分别标着 Home、Hospital、Work、Gym,蓝色虚线依次穿过家、医院、工作地,停在健身房。它说明语义轨迹把原始坐标换成停留的含义。不能从这张图读出距离、停留时长或真实人数。来源:原论文 Fig. 1。
对手手里的背景知识有哪几种?
隐私攻击在这里指对手利用已经掌握的移动信息,去推断数据里某个人的身份或敏感情况。背景知识可以来自直接观察,也可以来自另一套数据。综述把攻击收成三族,表 2 则按各篇论文自己的攻击名称列出 19 行。

图 2|2007 到 2020 年,轨迹隐私攻击各自假定对手知道什么?
无字母。四列是作者与文献、年份、攻击模型和对手知识。19 行里,记录链接 6 行,记录与属性链接 1 行,属性链接 6 行,基于距离的记录链接 2 行,概率攻击 2 行,相似性攻击 1 行,语义攻击 1 行。对手知识一列写的是家的位置、子轨迹、最常去的前若干地点、社交图、随机时空点、移动画像或兴趣点分布。这是文献分类,不是攻击成功率。来源:原论文 Table 2。
记录链接要做的是对上那一条记录。对手掌握的背景知识被写成目标人物轨迹的子轨迹。家的位置、最常去的前若干地点、从轨迹里抽几个时空点,都可以用来对。社交网络也能当旁路:朋友更可能在移动数据里相遇。若背景知识来自另一个库,还可以用距离做链接。Rossi 和 Musolesi 对基于位置的社交网络轨迹使用豪斯多夫距离。SLIM 把每个人的移动历史画成图,边上的权重是某一时段内最大地理距离的倒数。
属性链接不一定要认出是哪一行。准标识符(quasi-identifier)是性别、年龄、城市这类能和外部信息接上的字段;在轨迹里,它往往就是一段地点序列。组里的人在准标识符上分不开,若敏感值却几乎一样,疾病或敏感地点仍然泄密。综述用普通表格打比方:100 条记录的性别、城市和年龄都相同,疾病也相同,就能推断疾病。分母是这 100 条记录,不是移动数据集的人数。地点的敏感程度可以由个人或领域专家指定,也可以从频繁停留推出来。最频繁的地点常常就是家和工作地。
概率攻击看的是对手的知识增加了多少,敏感属性只是其中一种。Gramaglia 等用攻击之后新得到的地点数目衡量成败。相似性攻击利用敏感值彼此接近:三个人轨迹相同,疾病却分别是胃溃疡、胃炎和胃癌,对手仍可能判断目标有胃部问题。分母是这个例子里的 3 个人。语义攻击则把区域里的兴趣点分布算进去。若某人常去的区域里,兴趣点大多是医疗机构,健康状况就可能暴露。活动攻击更进一步,用移动画像估计一串带停留时间的活动有多可能,再用优化寻找每个人最可能的活动序列。它关心的是去那里做什么,而不只是坐标。
四种保护标准,分别卡住哪一种推断?
k-匿名(k-anonymity)针对记录链接。每条发布出来的记录,在准标识符上至少还要有 k−1 条与它无法区分的记录。分母是发布集里共享同一组准标识符的记录数,这个数至少为 k。做法包括把精细取值改成更粗的范围、删掉信息量很高的值,以及先聚类再用簇中心替换。求出最优的 k-匿名被证明是 NP 难问题,实际多用启发式。
l-多样性(l-diversity)针对属性链接。对手用准标识符隔离出来的每一组,敏感属性至少要有 l 个有足够代表性的取值。t-接近(t-closeness)处理敏感值分布本身很偏的情况:任一等价类里该属性的分布,与全数据集分布的距离不超过阈值 t。
差分隐私(differential privacy)针对的是:加入或去掉一个人之后,对手不应多知道太多。随机算法 A 若满足 ε-差分隐私,则对只差一条记录的数据集 D 和 D′,以及算法任何一组可能输出 S,都有
Pr[A(D) ∈ S] ≤ e^ε × Pr[A(D′) ∈ S]。
ε 是隐私预算,越小,两条概率越接近。放松后的 (ε, δ)-差分隐私在右边再加上 δ。δ 表示允许的隐私损失,δ = 0 时回到原来的定义。数值结果常用拉普拉斯机制,噪声大小与算法的全局敏感度成比例。输出不是实数、或者加噪声会让结果失去意义时,指数机制按一个效用函数给每个候选输出打分,再按这个分数抽样。综述提到已有讨论认为 ε 大于 1 仍可能得到有意义的结果,但本文没有给出某个轨迹任务上的具体 ε 和误差。
发布之前,风险怎么算成一个可以比较的量?
通用的风险评估指南往往只按损失和可能性排序,缺少针对轨迹这种数据的算法。可操作的做法是在数据上模拟攻击,看对手能成功到什么程度。Shokri 等把对手表现分成准确度、确定性和正确性。正确性是对手出错概率的倒数,他们认为这一项决定用户的位置隐私。模拟时常用最坏情况:假定对手能用上所有可能的知识。
PRUDEnce 把这个过程放进数据共享。数据分析者向数据持有者要人类移动数据,并说明服务需要什么。持有者从库 D 里整理出若干结构或聚合程度不同的数据集,再重复四步:列出可能的重识别攻击,给每个人算出风险,在可容忍的风险和分析需求下选一套,然后用泛化或随机化去掉剩余风险并交付。图 3 把服务定义和提数也画进来,一共 8 个环节。

图 3|从提出数据需求到交出可用数据,风险检查插在哪几步?
无字母。上方灰条写着隐私感知生态系统。1 到 4 依次是定义要开发的服务、选择聚合维度、提取数据、定义攻击。中间流程从服务定义出发,经数据需求进入标着 PRUDEnce 的维度定义,再查询数据库;查询结果进入另一块 PRUDEnce,其中风险评估标着 4 和 5,经数据目录连到标着 6 和 7 的风险缓解,最后以数据交付到达 8,服务部署。下方 5 到 8 是模拟攻击、选择可接受的折中、执行缓解、交付安全数据。箭头表示流程,不是风险数值。来源:原论文 Fig. 2。
在这套框架里,攻击效果按每个人相对于对手知识达到的 k-匿名来评价,并且把每一种可能知识都模拟一遍。组合爆炸是代价。新数据加入或旧数据更新后,风险要从头算。Pellungrini 等因此用个人移动画像训练随机森林,让 PRUDEnce 只负责标注一次。测试数据来自托斯卡纳两个主要城市、一个月的移动。结果表明,隐私风险可以从个人移动画像预测,也能迁移到移动模式相近的地区。这篇综述没有写出用户人数、准确率或风险阈值。
EXPERT 在预测之外加上解释。它先抽取个人移动画像,再用 PRUDEnce 算出风险,然后训练树模型的集成。这类数据里高风险的人多、低风险的人少,树集成用来应对这种类别不平衡。目标是保住高风险用户的隐私,同时让低风险用户还能使用数据服务。解释使用 SHAP 和 LORE,前者给特征重要性,后者给逻辑规则,用来说明哪些移动行为推高了风险。图 4 只画了风险模块和解释模块,没有写出这两个解释方法的名字。

图 4|预测出的隐私风险,怎样回到用户本人?
无字母。左侧人形把 Data 送入隐私风险模块,模块把 Privacy Risk 送入风险解释模块。解释模块用 Explanation 指回用户,风险模块下方还有 User’s Privacy risk 指回用户。右侧标着 EXPERT Framework。图中没有准确率、特征名或 SHAP、LORE。来源:原论文 Fig. 3。
上面这些框架的背景知识,都是从被攻击的原始数据里系统生成的,并不等于对手真的已经掌握这些知识。另一项工作把对手自己也写成一条移动轨迹,分三种情形。对手若是数据中的一员,就用其中一条原始轨迹;若不是,就用在原始数据上训练的生成方法合成一条;若主动追求知道得尽可能多,就用带时空约束的模拟退火,生成一条仍像当地可行移动、同时尽量扩大所知范围的轨迹。在必须走得通的约束下,对手很难同时盯住一个区域里的多个人,因为那要求他出现在多个地点并采取奇特路线。个人面临的风险也明显低于理论最坏情况。低多少,本文没有数字。
ARX 是另一类工具:先做匿名化,再用指标检查效果。它主要面向表格。综述写道,30 个属性的数据集就已经被看作高维,ARX 难以处理。30 的分母是属性个数。PRUDEnce 则用来在多种保护方式里做选择。
匿名化、差分隐私和生成模型,各改轨迹的哪一层?
图 5 是综述给出的分类。三支方法的共同用途,是发布之后仍能做服务或研究社会现象,例如福祉、病毒传播、人类移动的可预测性、空气污染暴露和迁移流估计。这些是综述列举的下游用途,不是本文的新实验。

图 5|发布轨迹时,保护方法被分成哪三支?
无字母。顶层是轨迹数据的隐私保护。下一层从左到右是匿名性、差分隐私、生成模型。匿名性下面是 k-匿名和多样性;差分隐私下面是拉普拉斯机制、指数机制和个性化差分隐私;生成模型下面是生成对抗网络和自编码器。这是分类图,没有方法个数或效用。来源:原论文 Fig. 4。
把人藏进至少 k 条彼此难分的轨迹
轨迹和普通表格不同。攻击者若跟踪某人一段时间,可能知道商场、公园、车站这一段。这段子轨迹若只和发布数据里的一条兼容,整条轨迹就会被找出来。于是这段既是准标识符,整条轨迹又是被泄露的私密信息。原则上任何一个地点都可能被跟踪到,所以多数匿名化方法假定:任何只对应很少人的子轨迹,都既危险又敏感。
表 3 按这个思路汇总 18 种方法。真实数据列有勾的是 15/18 行,合成数据列有勾的是 11/18 行。两列都有勾的是 9 行,只勾真实数据的是 6 行,只勾合成数据的是 2 行,两列都空的是 1 行,即 Mohammed 等 2009 年的 LKC-隐私。空着只说明这张表没有标记,不能据此断言原文没有使用数据。表的上半部分按 k-匿名及其变体排列,下半部分转向敏感信息的多样性,所以年份会从 2016 回到 2009。

图 6|匿名化方法用什么模型、什么操作,并在哪类数据上报告过?
无字母。列包括方法名、作者、年份、隐私模型、策略,以及真实数据和合成数据两个勾选列。策略一列可见抑制、聚类、空间平移、泛化、置换、轨迹切段和地点扰动。(k, δ)-匿名出现在 NWA、W4M 和个性化的 WCOP。多样性部分出现 LKC-隐私、c-safety、(α, K, L)-隐私和同时要求 k-匿名、l-多样性、t-接近的一行。勾是综述的标记,不是识别率。来源:原论文 Table 3。
(k, δ)-匿名里的 δ 表示位置可以有的不精确程度。NWA 先按欧氏距离聚类,再做空间平移,因此只适用于等长轨迹。W4M 改用能容忍时间差的 EDR 距离,把 k 条相似轨迹编辑到都和中心轨迹足够接近。后续工作证明,这些做法在一般情况下,只有 δ = 0、也就是每簇至少有 k 条完全相同的轨迹时,才真正满足轨迹上的 k-匿名。此时位置不确定性不再起作用。Li 等改为先把相似轨迹分块,再按最小描述长度切成轨迹段,并让每个聚类组满足 (k, δ)-匿名。
个性化要求让同一套 δ 或 k 不再适用于所有人。WCOP 先把轨迹切成段再聚类,每一簇的扭曲取决于簇内成员要求的最小 δ。更早的做法是给每条轨迹配上一个数:它希望与多少条轨迹无法区分,聚类时把这个期望也算进相似度。
KAM-REC 用数据自己的特征点做空间划分,用区域质心代替精确坐标,再用前缀树压缩轨迹并保证 k-匿名。GLOVE 认为多数轨迹只需轻微变粗,少数才需要剧烈泛化。它计算每对轨迹合并时损失多少时空精度,反复合并损失最小的一对,直到每条轨迹都有另外 k−1 条相似轨迹。Swap Location 把轨迹收成至少 k 条的相似簇,再在簇内置换地点。ICBA 是少数考虑道路网的方法:先去掉罕见道路上的记录,再在聚类时让代表轨迹沿路网生成。
km-匿名假定对手只知道 m 个地点。表中的 SeqAnon 按距离做泛化,让新地点仍靠近原来的地点,且不考虑每个地点的时间。正文还介绍了 SD-SEQANON:有地点分类体系时,按语义相似度泛化,地点可能离得稍远,含义却更接近。Yarovoy 等认为不同人的准标识符不同,匿名组可以重叠,重叠又可能把早期的空间泛化推翻,于是给出 Extreme Union 和 Symmetric Anonymization 两种控制信息损失的泛化。Terrovitis 和 Mamoulis 则抑制危险点。找出信息损失最小的抑制集合是 NP 难问题,他们用贪心逐个删点,直到隐私约束满足。这一行在表 3 里只勾了合成数据。
k-匿名挡不住属性链接。若保护的是轨迹旁边的疾病等属性,LKC-隐私要求:长度不超过 L 的每段子轨迹,至少还有 K−1 条轨迹与它同在,并且推断任一敏感值的置信度不超过 C。全局抑制会把选中的地点从整个库里删光,数据质量下降很大。后来的框架同时使用局部抑制和全局抑制。SLAT 的 (α, K, L)-隐私还保护敏感地点:至多 L 个非敏感地点组成的子轨迹,至少被 K 条轨迹共享,推断任一敏感地点或敏感值的概率小于 α。它结合切分轨迹、抑制地点和泛化敏感值。表 3 里 SLAT 只勾了合成数据。
DPPP 还要挡住相似性攻击。它通过增加或删除移动点来变换轨迹,不修改敏感属性,并满足 (l, α, β)-隐私:敏感值达到 l-多样性,推断该敏感值的概率小于 α,推断某人具有某一类敏感值的概率低于 β。
若发布的轨迹没有单独的敏感属性列,要保护的就是敏感地点。CAST 用地点分类体系把到访地点泛化,使 c-safety 成立:已经观察到一串非敏感地点时,推断这个人还在任一敏感地点停留过的概率,上界是 c。Tu 等考虑一个位置里可能有多类兴趣点,而有的区域类别很少,或分布和全城不同。合并邻近区域时,他们同时要求三种性质:k-匿名;区域内不同兴趣点类别数超过 l,以满足 l-多样性;该区域兴趣点分布与全城分布的差异不超过 t,以满足 t-接近。
让多一个人几乎不改变发布结果
差分隐私不依赖一份事先写好的对手知识清单。无论背景知识如何,对手在看到保护后的轨迹时,应得到和个人轨迹在不在数据集中几乎相同的结论。噪声由隐私预算 ε 调节。表 4 有 15 行。真实数据列 15/15 都有勾;合成数据列 5/15 有勾,分别是 n-grams、DPT、DP-Star、PLDP-TD 和 PDP-SAG。拉普拉斯列 12/15 有勾,指数机制列 5/15 有勾。两种机制都勾的是 4 行:DP-Where、Hua 等 2015、Li 等 2017、DP-Star。只勾指数机制的是 SDD。两种机制都空着的是 PLDP-TD 和 OPTDP。

图 7|差分隐私方法用拉普拉斯、指数机制,还是两者并用?
无字母。隐私模型列里,前 11 行写 ε-差分隐私,后 4 行写按轨迹、按地点,或同时按地点和轨迹的个性化差分隐私 PDP。机制列分成 Laplace 和 Exponential,数据列分成 Real 和 Synthetic。空格是表中未打勾的格子。不能把勾读成效用高低。来源:原论文 Table 4。
多数拉普拉斯方法先把轨迹换成一种表示,给表示加噪,再生成可发布的轨迹。常见的层次分解按相似度反复分组,给每组轨迹数加噪,直到带噪计数低于阈值。较早的前缀树按共同的地点前缀分组,并使用地点分类体系:每一轮先在较粗的空间层建立子节点,给轨迹计数加拉普拉斯噪声,低于阈值的节点不再展开,高于阈值的节点降到更细一层。到达规定树高后,只保留最细层,并让父节点计数不小于子节点计数之和,最后据此生成轨迹。它本来面向没有时间的地点序列。若每个节点是地点加时刻,展开时就要考虑所有地点和更晚的时刻,数据又高维又稀疏,效率变差。SafePath 仍用前缀树,但地点和时间各有一棵分类树,以便尽早丢掉没有任何轨迹的空节点,减少假轨迹,并缩短运行时间。
n-gram 把每条轨迹写成马尔可夫模型:下一步只依赖过去 n−1 个地点。树的建法与前缀树类似,但不使用地点分类体系,拉普拉斯噪声加在 n 元计数上。这类方法要事先限制递归深度,噪声又随深度增加,深度一变,效用就变。PrivTree 仍做层次划分,但分裂与否只使用常数大小的噪声,从而去掉预先规定的深度。综述转述其论证:发布一条序列时,所加噪声不必与该序列的敏感度成比例。
前面若干方法还隐含轨迹速度均匀。DPT 用多套分辨率不同的参考网格:慢速移动用细网格概括,快速移动用粗网格概括。每套网格有自己的前缀树,节点计数加拉普拉斯噪声,生成时还保持方向。NTPT 的树节点表示的是轨迹片段而不是单个地点,也不使用空间或时间层次,并用差分隐私扰动片段的频率和计数,以应对攻击者可能利用的上下文。
指数机制出现在需要从离散候选里抽样的步骤。SDD 在每个位置按指数分布抽取距离和方向,发布下一点,从而随机化输入轨迹;起点和终点保持不动。DP-Where 改写的是都会区人口移动模型 WHERE。它从轨迹汇总中提取家所在网格、工作地所在网格、家与工作地距离等分布,再从扰动后的分布生成移动。多数特征加拉普拉斯噪声。通勤距离先用指数机制做成满足差分隐私的直方图分箱,再给直方图计数加拉普拉斯噪声。
DP-Star 把两种机制分到不同步骤。预处理用代表点概括整条移动;随后用随密度变化的网格划分区域,密的地方格子小,稀的地方格子大;再提取出行分布,用一阶马尔可夫模型模仿真实移动,并由代表点估计路径长度,最后生成合成轨迹。网格、出行分布和马尔可夫模型使用拉普拉斯机制。路径长度要的是从格子 ci 到 cj 的轨迹长度中位数,这一步使用指数机制。
Hua 等和 Li 等把空间泛化也放进差分隐私:用指数机制从指数分布中抽样一种 k 均值聚类划分,再从泛化后的空间抽取地点、随机选出泛化轨迹,并对这些轨迹的数量加拉普拉斯噪声。
同一套保护强度会让一部分人保护不足,另一部分人保护过多。个性化差分隐私允许按人指定要求。轨迹文献里采用它的工作仍然少。PDPDP 假定每人一条轨迹,并对整条轨迹有自己的偏好。地点先按希尔伯特曲线聚类,再对每个时刻做空间泛化。因为各人的要求不同,不能直接用簇中心代表所有点;保守用户的地点对最终代表点贡献更小,要求较松的用户贡献更大。地点种类减少后,轨迹可以用前缀树压缩,节点计数加拉普拉斯噪声,再生成轨迹。表 4 给它勾了拉普拉斯和真实数据。
PLDP-TD 把隐私要求放在地点上,而不是用户对整条轨迹的一个数。树的节点是子轨迹,计数加上因地点而异的噪声,并强制每个非叶节点的带噪计数等于其子节点之和。表 4 的拉普拉斯和指数机制两列都是空的,真实数据列和合成数据列都有勾。PDP-SAG 处理还带有非时空敏感属性的轨迹:每个子轨迹节点再配一棵敏感属性的分类树,按该轨迹用户的要求做泛化。这一行同时勾了拉普拉斯、真实数据和合成数据。
上述工作或者按人、或者按地点设置保护,不能两层同时满足,而且要求由人预先输入。OPTDP 允许每个用户地点的要求来自数据,也可以由用户给定。数据驱动的规则例如:频繁子轨迹上的停留点,和不频繁子轨迹上的停留点,保护需求不同。它先在地点集合上建立随时间变化的一阶马尔可夫链,再按这个移动模型和语义相似度匹配不同轨迹上的地点,抽出最有代表性的模板轨迹并赋予隐私等级,然后把等级传给其他轨迹,分配隐私预算并发布。表 4 只在真实数据列打了勾。综述没有给出分配之后的效用数字。
交出去的是一套新轨迹
保护越强,轨迹越可能不再体现原来的移动规律,分析价值就消失。生成模型被当作另一条路:让深度模型学习原始分布,再生成高质量的合成轨迹。生成对抗网络(generative adversarial network,GAN)由生成器和判别器组成,二者进行极小极大博弈。判别器判断一条轨迹是真实的还是合成的,生成器则要生成能骗过判别器的轨迹。
表 5 有 5 行。Kulkarni 等、Yin 和 Yang、LSTM-TrajGAN、LSTM-PAE 这 4/5 行勾了真实数据。TrajGAN 两列都空,与正文把它作为理论框架来讨论一致。合成数据列 0/5 有勾。

图 8|生成模型这条路线里,哪些工作在真实数据上做过实验?
无字母。五行分别是 Kulkarni 等 2018 的 SGAN、RGAN 和 RNN-LSTM,Liu 等 2018 的 TrajGAN,Yin 和 Yang 2018 的 GAN,Rao 等 2021 的 LSTM-GAN,以及 Zhan 等 2022 的 LSTM 自编码器。真实数据列有四格打勾,TrajGAN 未打勾;合成数据列全部空白。来源:原论文 Table 5。
Kulkarni 等比较了基于循环网络的 Char-RNN、RNN-LSTM、循环高速网络,以及两种 GAN:SGAN 和 RGAN。实验看训练时间,也看隐私与质量的权衡。隐私方面考虑位置序列攻击和成员推断攻击。各模型的耗时和攻击成功率没有写进这篇综述。
Yin 和 Yang 生成的是地点密度矩阵,也就是聚合后的移动数据,用来代替个人轨迹。他们的想法是,生成器训练时已经引入噪声,可以用这种噪声替代差分隐私的加噪,并希望隐私与真实程度的权衡优于已有的基于噪声的差分隐私。训练得越好,生成越像真实数据,隐私就越低,所以要选择训练轮数。这个方向依赖训练好坏,不能把它读成每一步都有差分隐私那种概率保证。
TrajGAN 讨论用 GAN 合成人类轨迹时可能遇到的问题,例如丢掉人们偶尔的出行,或者模型过拟合、学不会高层模式,从而泄露隐私。LSTM-TrajGAN 给出一种实现,分三部分:轨迹编码,处理坐标、时间和兴趣点类别;轨迹生成器,输入随机噪声和原始轨迹;轨迹判别器,判断真假。生成器和判别器都用适合序列的长短期记忆网络 LSTM。
LSTM-PAE 改用带对抗学习的 LSTM 自编码器,把效用和隐私放进同一个训练目标。移动预测单元用预测任务衡量效用;用户重识别风险单元判断一条轨迹属于谁;数据重建风险单元比较重建轨迹和原始输入的差别。综述介绍了这三个部件,没有给出预测误差或重识别比例。
这些整理能支持到哪一步
这篇综述没有自己的对照实验,不能用来宣布某一种方法在某一座城市更准确。表 3 到表 5 的勾,记录的是综述对原论文数据类型的标记。最坏情况把任何稀有子轨迹都当成危险知识,保护会很强,效用也更难保住。受时空约束的现实对手风险更低,这一判断来自综述所引的工作,降幅不在本文。生成轨迹目前多以经验结果说明隐私,训练更像真实数据时隐私可能更差,过拟合还可能直接记住个人出行。
个性化隐私被作者看作有希望、也尚未完成的方向。现有工作多数使用个性化差分隐私,其他隐私模型很少个性化。隐私预算即使对专家也难选,而这些工作都没有解决一个人怎样在明白后果的情况下表达自己的 ε。风险评估若能标出某人真正危险的地点或子轨迹,个性化就可以按实际风险来定,而不是只靠人事先声明。这是综述提出的研究方向。
范围也要守住。实时回答手机位置查询的那一支文献,本文只指出它存在,没有展开。位置数据在欧洲法里被写成可能促成重识别的因素;频繁出现在特定地点或活动,还可能使位置数据落入需要更高保护的特殊类别。这是综述对 GDPR 第 4 条和第 9 条的转述,加上它引用的一项位置数据研究,不是对新案件的判断。清洗后的轨迹被期待当作人类行为的代理。若保护过程把数据里的移动规律抹掉,发布就失去分析意义。
一句话总结
公开出行轨迹时,隐去姓名只去掉直接标识;要让数据仍能反映人的移动,还得先分清对手掌握的是子轨迹、敏感地点还是分布层面的知识,再在匿名化、差分隐私和合成轨迹之间选择,并接受按最坏情况设计会额外牺牲效用。
核心来源
- 正式文本为 Transactions on Data Privacy 16 (2023) 51–82,2022年4月7日收稿,7月22日收到修改稿,7月30日录用。正文图 1–4,表 1–5。致谢写明部分资助来自欧盟 H2020:SoBigData++(资助号 871042)、TAILOR(952215)和 Humane AI NET(952026)。
- 比萨大学机构库 收录同题论文,记录的发表日期为 2023-01-01。该页面与本文 PDF 都没有 DOI。
- 正文没有指向补充材料、附录或作者贡献声明。表中的勾选和攻击分类均以 PDF 正文为准。
作者介绍
两位作者在论文中的署名机构都是意大利比萨大学计算机系。
- Anna Monreale:论文署名为比萨大学计算机系,邮箱为 anna.monreale@unipi.it。该系主页介绍她为副教授,并参加与意大利国家研究委员会信息科学与技术研究所联合的知识发现与数据挖掘实验室;主页写明她于 2011 年在比萨大学获得计算机博士学位,学位论文讨论数据挖掘中的隐私由设计,研究兴趣包括隐私风险评估、面向大数据的隐私由设计,以及机器学习决策的解释。
- Roberto Pellungrini:论文同样署名为比萨大学计算机系,邮箱为 roberto.pellungrini@di.unipi.it。比萨高等师范学校个人页写明他现为该校计算机科学固定期限研究员。其 2020 年比萨大学计算机博士论文讨论个人数据中隐私风险的建模与预测,并在人类移动等数据上验证。论文署名机构和这一现任职务不是同一项信息。
延伸思考
以下是 AI 基于论文结果所作的延伸,不属于原论文结论。
数据持有者可以按问题拆开发布,而不是用一种最强保护服务所有问题。若城市只需要知道人流集中在哪些走廊,k-匿名并降低空间精度可能够用;若需要的是区域之间的流量或密度,差分隐私的聚合比发布个人轨迹更贴合攻击模型。综述的分类说明,这几种产品挡住的推断并不相同。把所有问题压到同一套最坏情况轨迹上,更容易把移动规律一起抹掉。
另一个可以单独检验的设计,是在请人填写隐私预算之前,先用移动画像指出哪几次停留把他变得稀有。EXPERT 已经把风险解释设为框架的一部分,但没有测试这样的界面会不会改变人实际选择的 ε。如果人只看到一个无法解释的数字,个性化差分隐私仍可能停留在专家参数上。
合成轨迹还要多问一个成员问题。判别器认为合成轨迹很像真轨迹,只说明分布接近。Kulkarni 等把成员推断列为评估项目,说明训练集里有没有这个人是另一项风险。城市若用 GAN 轨迹做疫情推演,除了看合成地图像不像,还需要知道真实轨迹能否被识别为训练成员。这篇综述没有提供这项检验的数字,它只说明这件事还没有被形式化的隐私定义罩住。