Vitalik：AI 和加密正如何改变隐私？

原标题：《Why I support privacy》

作者：Vitalik Buterin，以太坊创始人

编译：白水，金色财经

特别感谢 Balvi 志愿者 Paul Dylan-Ennis、pcaversaccio、vectorized、Bruce Xu 和 Luozhu Zhang 的讨论和反馈。

最近，我越来越关注改善以太坊生态系统的隐私状况。隐私是去中心化的重要保障：谁掌握信息谁就拥有权力，因此我们需要避免信息的中心化控制。现实世界中，人们对中心化技术基础设施的担忧，有时是担心运营商会意外更改规则或下架用户平台，但同样常见的是担心数据收集。虽然加密货币领域起源于像 Chaum 的 Ecash 这样的项目，这些项目将保护数字金融隐私放在首位，但最近它却低估了隐私，原因归根结底是糟糕的：在 ZK-SNARK 技术出现之前，我们无法以去中心化的方式提供隐私保护，所以我们淡化了隐私的重要性，转而专注于我们当时可以提供的其他保障。

然而，如今隐私已不容忽视。人工智能正在大幅提升中心化数据收集和分析的能力，同时也极大地扩展了我们自愿共享的数据范围。未来，脑机接口等新技术将带来更多挑战：我们或许真的会谈论人工智能读懂我们的思想。与此同时，我们拥有比上世纪 90 年代密码朋克所能想象的更强大的工具来保护隐私，尤其是在数字领域：高效的零知识证明 (ZK-SNARK) 可以在保护我们身份的同时，揭示足够的信息来证明我们是值得信赖的；全同态加密 (FHE) 可以让我们在不查看数据的情况下对数据进行计算；而混淆技术可能很快就会提供更多功能。

隐私不意味着要彼此隔离，而意味着要团结一致。

此时，我们有必要回顾一下这个问题：我们为什么需要隐私？每个人的答案都不一样。在这篇文章中，我将给出我自己的答案，并将其分为三个部分：

早在 21 世纪初，类似大卫·布林 1998 年出版的《透明社会》一书所概括的观点就曾盛行一时：技术将使世界各地的信息更加透明，虽然这会带来一些弊端，需要不断调整适应，但总体而言，这是一件非常好的事情，而且我们可以通过确保民众能够监视（或者更确切地说，监视）政府来使其更加公平。1999 年，Sun Microsystems 首席执行官斯科特·麦克尼利曾发出著名言论：「隐私已死，接受它吧！」这种心态在 Facebook 的早期构思和发展过程中非常普遍，当时 Facebook 禁止使用假名身份。我个人还记得在 2015 年深圳华为的一次活动上，一位（西方）演讲者随口提到「隐私已死」，就亲身经历了这种心态的尾声。

「透明社会」体现了「隐私已至」意识形态所能提供的最佳和最光明的前景：它承诺一个更美好、更公正、更公平的世界，利用透明的力量使政府承担责任，而不是压制个人和少数群体。然而，事后看来，即使是这种理念也显然是时代的产物，写于全球合作与和平以及「历史的终结」热情的顶峰时期，并且它依赖于一系列对人性的过于乐观的假设。主要表现在：

如今，没有哪个大国能普遍认同第一个假设是正确的，而有不少大国却普遍认为它是错误的。在第二个方面，文化包容度也在迅速倒退——仅仅在推特上搜索「欺凌是好事」之类的短语就是一个证据，尽管很容易找到更多类似的证据。

我个人很不幸地经常遭遇「透明社会」的弊端，因为我在外面做的每一个举动都有可能意外地成为媒体的公共报道：

最糟糕的是，有人在我清迈用笔记本电脑时拍摄了一段时长一分钟的视频，然后将其发布到小红书上，立即获得了成千上万的点赞和转发。当然，我自己的情况远非人类的常态——但隐私一直都是如此：生活状况相对正常的人不太需要隐私，而生活状况偏离常态的人则更需要隐私，无论偏离方向如何。一旦你把所有重要的方向加起来，真正需要隐私的人的数量就会相当多——你永远不知道自己什么时候会成为其中之一。这也是隐私经常被低估的一个重要原因：它不仅关乎你今天的处境和信息，还关乎这些信息在未来会发生什么（以及它如何影响你）的未知数。

如今，即使在人工智能倡导者中，企业定价机制的隐私也是一个小众问题，但随着基于人工智能的分析工具的兴起，它可能会成为一个日益严重的问题：公司对你的了解越多，他们就越有可能为你提供个性化的价格，从而最大限度地提高他们从你身上榨取的利润乘以你付款的可能性。

我可以用一句话来表达我对隐私即自由的一般论点如下：

没有隐私，一切都会变成一场持续不断的斗争，争论的焦点是「其他人（以及机器人）会怎么看待我所做的事情」——无论是有权势的人、公司还是同行，无论是现在还是未来的人。有了隐私，我们就能保持平衡。如今，这种平衡正在迅速被侵蚀，尤其是在实体领域。现代科技资本主义的默认路径，渴望找到一种无需用户明确付费就能从用户身上获取价值的商业模式，正在进一步侵蚀这种平衡（甚至会渗透到高度敏感的领域，比如最终会渗透到我们自己的思想中）。因此，我们需要抵消这种影响，更明确地支持隐私，尤其是在我们最实际能够做到的领域：数字领域。

对上述推理，有一种常见的回应：我所描述的隐私弊端，很大程度上在于公众过度了解我们的私生活，即使涉及到权力滥用，也在于企业、老板和政客过度了解。但我们不会让公众、企业、老板和政客掌握所有这些数据。相反，我们会让一小群训练有素、经过严格审查的执法专业人员查看从街头监控摄像头以及互联网电缆和聊天应用程序上的窃听数据，执行严格的问责程序，这样其他人就不会发现。

这是一个悄无声息却被广泛持有的立场，因此明确地解决这个问题至关重要。即使出于良好的意愿以高质量标准实施，此类策略也存在内在的不稳定性，原因如下：

从个人的角度来看，如果他们的数据被窃取，他们无法预知未来是否会被滥用以及如何被滥用。迄今为止，处理大规模数据最安全的方法，是从一开始就尽可能少地集中收集数据。数据应最大限度地由用户自己持有，并使用加密手段在不损害个人隐私的情况下汇总有用的统计数据。

有人认为，政府应该有权凭搜查令获取任何信息，因为事情一直以来都是这样运作的，这种说法忽略了一个关键点：从历史上看，凭搜查令获取的信息量远低于今天，甚至低于如果普遍采用最严格的互联网隐私保护措施所能获得的信息量。在 19 世纪，平均每人只进行一次语音对话，而且从未被任何人记录下来。因此，「信息隐私」引发的道德恐慌完全不符合历史规律：普通对话，甚至金融交易，完全且无条件地保持私密，才是数千年来的历史常态。

1950 年的一次普通对话。除了对话进行时参与对话的人员之外，没有任何人在任何时间记录、监视、「合法拦截」、进行人工智能分析或以其他方式查看过该对话。

尽量减少中心化数据收集的另一个重要原因是，全球通信和经济互动的很大一部分本质上具有国际性。如果每个人都在同一个国家，那么至少可以说「政府」应该有权访问他们互动中的数据。但如果人们身处不同的国家呢？当然，原则上你可以尝试提出一个「银河系大脑」方案，将每个人的数据映射到某个负责他们的合法访问实体——尽管即使这样，你也必须处理大量涉及多人数据的边缘情况。但即使你能做到，这也不是现实的默认结果。政府后门的现实默认结果是：数据集中在少数几个中央管辖区，这些管辖区拥有所有人的数据，因为它们控制着应用程序——本质上就是全球技术霸权。强大的隐私是迄今为止最稳定的替代方案。

一个多世纪以来，人们认识到，民主制度得以有效运作的关键技术要素是秘密投票：没有人知道你投了谁的票，而且，即使你真的想证明，你也无法向任何人证明你投了谁的票。如果秘密投票不是默认设置，那么选民就会受到各种影响其投票方式的附带激励：贿赂、追溯奖励承诺、社会压力、威胁等等。

用一个简单的数学论证就可以看出，这种附带激励会彻底破坏民主：在一场有 N 人参与的选举中，你影响结果的概率只有大约 1/N，因此任何关于哪个候选人更好、哪个候选人更差的考量都会被 N 除。与此同时，「附带博弈」（例如，选民贿赂、胁迫、社会压力）会根据你的投票方式（而不是基于整体投票结果）直接对你产生影响，因此它们不会被 N 除。因此，除非附带博弈受到严格控制，否则它们默认会压倒整个博弈，淹没任何关于哪个候选人的政策实际上更好的考量。

这不仅适用于国家规模的民主。理论上，它适用于几乎所有企业或政府的委托代理问题：

所有情况下的根本问题都是一样的：如果代理人诚实行事，他们只能从其行为中为其所代表的实体带来一小部分利益；而如果他们遵循某些附带博弈的激励，那么他们就能获得全部利益。因此，即使在今天，我们仍然需要大量的道德善意，以确保我们所有的机构不会被一场互相推翻的附带博弈的混乱漩涡完全吞噬。如果隐私进一步被削弱，这些附带博弈就会变得更加强大，维持社会正常运转所需的道德善意可能会变得高得不切实际。

社会系统能否重新设计以避免出现这个问题？不幸的是，博弈论几乎明确指出这是不可能的（除了一个例外：完全独裁）。在关注个人选择的博弈论版本中——即假设每个参与者独立做出决策，并且不允许多个主体群体为了共同利益而协同工作的可能性——机制设计师拥有极大的自由度来「设计」博弈，以实现各种特定结果。事实上，有数学证明表明，任何博弈都必须至少存在一个稳定的纳什均衡，因此分析这类博弈变得容易处理。但在允许联盟合作（即「勾结」）可能性的博弈论版本中，即合作博弈论，我们可以证明，存在大量没有任何稳定结果的博弈（称为「核心」）。在这样的博弈中，无论当前事态如何，总有一些联盟能够从中获利。

如果我们认真对待数学，就会得出这样的结论：建立稳定社会结构的唯一途径是对参与者之间可能发生的协调数量进行一些限制——这意味着高度的隐私性（包括可否认性）。如果你不认真对待数学本身，那么观察现实世界，或者至少思考一下上述某些委托代理情境如果被边缘游戏接管会变成什么样，就足以得出同样的结论。

请注意，这引出了另一个关于政府后门为何存在风险的论点。如果每个人都拥有无限的能力在所有事情上与其他人协调，结果就是混乱。但如果只有少数人能够这样做，因为他们拥有获取信息的特权，那么结果就是他们占据主导地位。一个政党拥有获取另一个政党通信的后门，很容易意味着多党制的可行性终结。

另一个依赖于限制共谋才能运作的社会秩序的重要例子是知识和文化活动。参与知识和文化活动本质上是一项由内在动机驱动的公益活动：很难找到旨在对社会做出积极贡献的外在激励机制，这恰恰是因为知识和文化活动在某种程度上本身就是一项决定社会中哪些行为是积极行为的活动。我们可以制定一些近似的商业和社会激励措施来指引正确的方向，但它们也需要内在动机的大力补充。但这也意味着，这类活动极易受到外部动机失衡的影响，尤其是社会压力和胁迫等边缘博弈的影响。为了限制此类失衡的外部动机的影响，隐私再次成为必需。

想象一下一个完全不存在公钥和对称密钥加密的世界。在这个世界里，安全地远距离发送消息本质上会变得更加困难——并非不可能，只是非常困难。这将导致国际合作大大减少，结果更多的合作将仍然通过面对面的线下渠道进行。这将使世界变得更加贫穷，更加不平等。

我认为，相对于假设的未来世界，我们今天所处的正是这样的境地，那时更强大的密码学形式将得到广泛应用——特别是可编程密码学，并辅以更强大的全栈安全和形式化验证，从而为我们提供强有力的保障，确保这些密码学得到正确使用。

埃及神协议：三种强大且高度通用的结构，可以让我们对数据进行计算，同时保持数据完全私密。

医疗保健就是一个很好的例子。如果你与过去十年在长寿、抗击流行病或其他健康领域工作过的人交谈，他们都会一致告诉你，未来的治疗和预防将是个性化的，有效的应对措施高度依赖于高质量的数据，包括个人数据和环境数据。有效地保护人们免受空气传播疾病的侵害，需要了解哪些地区的空气质量较高和较低，以及病原体在特定时间出现在哪些地区。最先进的长寿诊所都会根据你的身体、饮食偏好和生活方式的数据，提供定制化的建议和治疗方案。

然而，所有这些都同时构成了巨大的隐私风险。我个人知道一个事件，公司为一位「打电话回家」的员工配备了一个空气监测仪，收集到的数据足以确定该员工何时发生性行为。出于类似的原因，我预计许多最有价值的数据将默认不会被收集，正是因为人们害怕隐私风险。即使数据确实被收集到，也几乎总是不会被广泛共享或提供给研究人员——部分原因是出于商业原因，但同样常见的情况是出于隐私方面的考虑。

同样的模式也在其他领域重演。我们撰写的文档、在各种应用程序上发送的消息以及在社交媒体上的各种行为中，都蕴含着大量关于我们自身的信息，这些信息都可以被用来更有效地预测和提供我们日常生活中所需的东西。此外，还有大量与医疗保健无关的关于我们如何与物理环境互动的信息。如今，我们缺乏有效利用这些信息的工具，而又不至于造成反乌托邦式的隐私噩梦。但未来，我们或许会拥有这些工具。

解决这些挑战的最佳方法是使用强加密技术，它可以让我们获得共享数据的好处，而不会带来负面影响。在人工智能时代，获取数据（包括个人数据）的需求只会变得更加重要，因为能够在本地训练和运行「数字孪生」，使其能够基于对我们偏好的高保真近似值，代表我们做出决策，这将带来巨大的价值。最终，这还将涉及使用脑机接口 (BCI) 技术，读取来自我们大脑的高带宽输入。为了避免导致高度集中的全球霸权，我们需要找到在尊重隐私的前提下实现这一目标的方法。可编程加密是最值得信赖的解决方案。

我的 AirValent 空气质量监测器。想象一下，有这样一个设备，它收集空气质量数据，将汇总统计数据发布在开放数据地图上，并奖励你提供数据——所有这些都使用可编程加密技术，以避免泄露你的个人位置数据，并验证数据的真实性。

零知识证明等可编程加密技术非常强大，因为它们就像信息流中的乐高积木。它们可以精细地控制谁可以看到哪些信息，更重要的是，可以控制哪些信息可以被查看。例如，我可以证明我持有一本显示我已年满 18 岁的加拿大护照，而无需透露任何其他个人信息。

这使得各种有趣的组合成为可能。我可以举几个例子：

左图：隐私池示意图。右图： Message Checker 应用，用户可以选择开启或关闭多个过滤器，从上到下依次为：URL 检查、加密货币地址检查、谣言检查

最近，ChatGPT 宣布将开始将你过去的对话输入到 AI 中，作为你未来对话的背景信息。这种趋势将不可避免地朝着这个方向发展：AI 回顾你过去的对话并从中获取洞见，这从根本上来说非常有用。在不久的将来，我们可能会看到有人开发出更深入地侵犯隐私的 AI 产品：被动收集你的互联网浏览模式、电子邮件和聊天记录、生物特征数据等等。

理论上，你的数据对你来说是私密的。但在实践中，情况似乎并非总是如此：

哇！ChatGPT 有个 bug，它会把别人问的问题推送给我！这可是严重的隐私泄露。我问了一个问题，然后报错，然后「重试」又生成了一个我永远不会问的问题。

隐私保护机制完全有可能运作良好，而在本例中，AI 产生了幻觉，生成了一个 Bruce 从未提出过的问题并进行了回答。但目前无法验证。同样，也无法验证我们的对话是否被用于训练。

这一切都令人深感担忧。更令人不安的是 AI 的明确监控用例，这些用例在未经用户同意的情况下，大规模收集和分析用户的（物理和数字）数据。面部识别技术已经在帮助专制政权大规模镇压政治异见。而最令人担忧的是 AI 数据收集和分析最终的前沿：人类思维。

理论上，脑机接口技术拥有提升人类潜能的惊人力量。以去年 Neuralink 的首位患者诺兰·阿尔博 (Noland Arbaugh) 的故事为例：

如今，这些设备功能强大，足以帮助伤病员。未来，它们将强大到让完全健康的人有机会与计算机协作，并以我们难以想象的效率相互进行心灵感应交流（！！）。但真正解读脑信号，使这种交流成为可能，需要人工智能。

这些趋势交织在一起，可能会自然而然地催生出一个黑暗的未来：我们会看到硅片超级代理吞噬并分析每个人的信息，包括他们的写作、行为和思维方式。但同时也存在一个更光明的未来：我们既能享受这些技术带来的好处，又能保护自己的隐私。

这可以通过结合几种技术来实现：

2008 年，自由主义哲学家大卫·弗里德曼写了一本名为《不完美的未来》的书。书中，他概述了新技术可能给社会带来的变化，但并非所有变化都对他有利（或对我们有利）。在其中一节中，他描述了一个潜在的未来：隐私与监控之间将出现复杂的相互作用，数字隐私的增长将抵消现实世界监控的增长：

如果一只视频蚊子趴在墙上看着我打字，那么对我的电子邮件进行强加密也毫无意义。因此，在一个透明的社会中，强大的隐私保护需要某种方式来保护我现实空间身体与网络空间之间的接口……一种低技术含量的解决方案是在头罩下打字。一种高科技的解决方案是建立思维与机器之间的某种连接，这种连接不通过手指——或者任何外部观察者可见的通道。

现实空间透明性与网络空间隐私之间的冲突也体现在另一个方向上……我的掌上电脑用你的公钥加密我的信息，并将其传输到你的掌上电脑，后者解密信息并通过你的 VR 眼镜显示出来。为了确保没有东西从你肩膀上读取眼镜，护目镜不是通过屏幕显示图像，而是用微型激光将其写入你的视网膜。幸运的话，你的眼球内部仍然是私人空间。

我们最终可能会生活在一个身体活动完全公开、信息交易完全私密的世界。它有一些吸引人的特点。普通公民仍然可以利用强大的隐私优势找到杀手，但雇佣杀手的成本可能超出他们的承受能力，因为在一个足够透明的世界里，所有谋杀案都会被侦破。每个杀手执行一项任务后都会直接入狱。

这些技术与数据处理之间的相互作用又如何呢？一方面，现代数据处理技术使得透明社会成为一种威胁——如果没有数据处理技术，即使你把世界上发生的一切录下来也没什么用，因为没有人能在每天生产的数百万英里录像带中找到他想要的那一段六英寸录像带。另一方面，支持强大隐私的技术提供了重建隐私的可能性，即使在一个拥有现代数据处理技术的世界里，通过保护你的交易信息不被任何人获取，你也无能为力。

这样的世界或许是所有可能世界中最好的：如果一切顺利，我们将看到一个几乎没有肢体暴力的未来，但与此同时，我们的网络自由得以维护，并确保社会中政治、公民、文化和思想进程的基本运作，而这些进程的持续运行依赖于对完全信息透明度的某种限制。

即使它并非理想状态，也比物理和数字隐私归零，最终包括我们自身思想隐私的版本要好得多。到 2050 年代中期，我们会看到一些评论文章，认为期望思考不受合法拦截的思想当然是不现实的。而对这些评论文章的回应，则包含指向最近一起事件的链接：一家人工智能公司的法学硕士被利用，导致一年内 3000 万人的私人内心独白被泄露到整个互联网上。

社会始终依赖于隐私和透明度之间的平衡。在某些情况下，我也支持对隐私进行限制。举一个与人们在这方面通常的论点完全不同的例子，我支持美国政府禁止合同中加入竞业禁止条款的举措，主要不是因为它们会直接影响员工，而是因为它们可以迫使公司将隐性领域知识部分开源。强迫公司比他们想要的更加开放是对隐私的限制——但我认为这是净收益的限制。但从宏观角度来看，不久的将来技术最紧迫的风险是隐私将接近历史最低点，并且以一种极不平衡的方式，最有权势的个人和最强大的国家会获得每个人的大量数据，而其他人几乎看不到任何数据。因此，支持每个人的隐私，并使必要的工具开源、通用、可靠和安全是我们这个时代的重要挑战之一。