设想一个机构要公开统计结果,又不想让外人看出某个人是否在数据里,甚至是否带有某个敏感属性。差分隐私(Differential Privacy)就是为这件事设计的数学保证;但它最难沟通的地方,是隐私预算 epsilon。epsilon 越小,通常隐私越强,但结果也更容易因为加噪声而变不准。问题在于,epsilon 本身不像“风险”这个词,普通决策者很难凭它判断该不该发布。\n\nRuwimal Y. Pathiraja 和 Jerome P. Reiter 这篇论文的核心,是把 epsilon 换算成一个更像人话的问题:数据发布后,攻击者学习到某个敏感信息的赔率,最多能提高多少?他们让数据管理者先设定一个“赔率风险画像”:比如攻击者原本很不确定时,可以容忍赔率提高十倍;如果攻击者原本已经五五开,就只容忍最多提高两倍。然后再把这些上限反推成可用的 epsilon。\n\n这不是发明一种新的隐私定义,而是给已有的差分隐私参数加一层治理语言。它的价值在于,把“epsilon 取多少”从专家拍参数,变成可以被机构、伦理审查或业务负责人讨论的风险边界。论文还用病例对照研究数据做了示例;摘要没有披露更具体的实验效果数字,所以这里不展开。
隐私预算换成人能懂的风险
把 epsilon 翻译成攻击者赔率上限,让隐私预算更可讨论。
供稿材料 SOURCES — 1
01
Setting the Privacy Budget in Differential Privacy by Bounding Adversaries' Odds of Learning Sensitive Information arXiv stat.ME+stat.AP · PAPER
原文 ↗