作者：Mark Zuckerberg
时间：2026 年 08 月 10 日
原文：https://www.meta.com/thefutureisforeveryone/
我们有幸生活在人类历史上一个非凡的时刻。在未来几年里，人们将能够使用超越人类能力的超级智能，创造和发现非凡的新事物，创办新企业，表达新思想，学习新概念，并改善人类健康与生活质量。随着这一时刻日益临近，我们需要形成一套关于如何善用超级智能的理念，确保它能够改善所有人的生活、工作和社区，并增进我们的自由与安全。
这个时代最关键的问题是：谁能够使用超级智能？我们又会让它去做什么？超级智能会被集中起来，只供少数机构使用，还是会成为赋能每一个人的工具？
我们提出的理念以个人赋权为繁荣之源，以发明创造为超级智能的首要用途，以权力制衡为安全的基础。
每一种新技术都会带来机遇和挑战。超级智能将是人类历史上最重要的技术之一，因此，它带来的机遇和挑战很可能超过我们一生中见过的任何技术。我们应当极其严肃地对待这件事。
即便如此，许多 AI 开发者的论述中充斥着末日叙事，仍然令人意外。如果一个人相信 AI 会消灭大多数工作，让人类失去大部分价值与作用，我无法理解他为什么还要急着把这样的未来变成现实。还有一种观点认为，AI 危险到只有将权力极度集中起来才能确保安全，这种想法本身就很成问题。从历史来看，寄望绝对权力足够开明，进而善意地照料全人类，从未带来安全或积极的结果。
人类已经见证过许多改变世界的进步。每一次，人们都会担心一部分人被时代抛下；但每一次，人类最终都让更多人共享了更大的繁荣、更好的健康和更多的自由。我们相信，AI 也会如此，未来的富足可以由每一个人共享。我们也相信，正是自由、开放探索、自由企业和平等机会这些价值观让我们走到了今天，它们同样能够帮助我们建设一个积极的未来。
把力量交到人们手中，让每个人追求自己的理想，是人类取得最大进步的方式。新颖的想法和重大的突破，很少只来自既有机构。它们来自相信人类能够飞翔的自行车店兄弟，来自没有受过正规教育却发现如何发电的装订工学徒，也来自那个待在车库里、相信个人电脑可以走进每个人生活的年轻人。我们相信，未来依然如此。随着每个人都获得更强大的工具，所有人塑造未来的能力都会增强。
发明创造，而非自动化，将是超级智能最大的贡献。早期 AI 能够回答问题并完成常规工作。很快，它将越来越多地帮助我们发现新知识——从研发新药、治愈家人的疾病，到寻找改善企业经营的新方法。一个人每天能够提出的问题是有限的，超级智能为实现这些目标所能创造的有价值事物却没有上限。
当智能变得充裕，最重要的问题将是我们如何引导它。一些人主张，应当由超级智能本身，或控制它的少数专家，决定什么对人类最有利。我们不赞同这种观点。民主和经济发展的历史已经表明，对于什么才是最好的生活，并不存在一个适用于所有人的客观答案。因此，最好的方式是让每个人决定，什么对自己的生活最重要。
我们相信，让每个人都能使用超级智能，正是回答这个问题的方法。这延续了一条由来已久的道路：我们曾把超级计算机和互联网的力量放进每个人的口袋，摆上每个人的书桌。超级智能同样应当广泛分发，让每个人都有能力引导它，避免权力集中在少数机构手中。这有望开启一个个人赋权的新时代：每个人都可以利用这种强大的新能力，充分发挥潜力，追求自己的兴趣，以前所未有的方式改善自身生活和整个世界。
为了让这个愿景更加具体，下面是 Meta 正在通过个人超级智能改善所有人生活的几个方向：
每个人都将拥有一个能力非凡的个人智能体，它了解你、你的目标以及你所在意的一切。 你的智能体会全天候为你工作，帮助你改善人际关系、健康、职业和财务状况，打理家庭、发展爱好，以及处理更多事务。它会为你腾出时间去做自己喜欢的事，也会帮助你取得原本无法实现的成果。它将提供强大的隐私和安全机制，让你可以放心地交由它处理个人资料与内容，并确信其他任何人都无法访问这些信息，就像 WhatsApp 的加密机制一样。你可以通过任何设备与智能体互动，包括使用眼镜，让自己在陪伴所爱之人时仍能专注于当下。
例如，我的智能体会为我标记有意思的信息，帮助我把想法快速做成原型。它会监测我的睡眠，在我锻炼时观察状态并给出反馈，帮助我保持健康。我的女儿很喜欢烘焙，所以智能体每个周末都会为我们设计一道适合一起制作的食谱，订购所需原料，并在我们烘焙时提供建议。
每个人都将拥有出色的创作工具，用来表达自己的想法。 我八岁的女儿已经可以在一个晚上用代码实现自己的想法、制作出视频；这些事情过去可能要花我几个月，有些甚至根本无法完成。现在，我们正在一起设计一个机器人。与此同时，Meta 的研究人员正在生成适合制造增强现实眼镜的新型晶体结构，工程师开发新应用所需的时间也缩短到了过去的一小部分。很快，每个人都会拥有发明创造的超能力。
每个人都将拥有创办新企业的强大工具， 整个经济也会更具创业活力。人们开始能够凭借自己的力量把想法变成现实，不再必须先融资或组建庞大的团队。许多过去因难度太大或成本太高而无法尝试的想法，如今将成为可能。我们会因此看到更多创意和企业。我预计，这会显著加快经济增长；从长期来看，就业机会也会增加。
每个人都将拥有个性化导师和教练，它精通所有学科、具备博士水平， 还会以无限的耐心帮助你学习任何想学的东西。学生可以在自己薄弱的领域获得额外帮助，而目前这种帮助往往只有父母有能力付费的家庭才能获得。成年人则会拥有一个超级智能学习助手，它知道什么方式最适合你，可以帮助你掌握新的职业技能和语言，培养新的爱好，或者学习任何感兴趣的东西。
每个人都将从科学进步中受益，也能够为科学进步作出贡献。 例如，Biohub 已经发布了与虚拟细胞和蛋白质相关的开源生物模型，帮助科学家取得新发现并设计新药物。普莉希拉和我启动这项工作时，目标是帮助科学家在本世纪治愈或预防所有疾病。如今，随着 AI 不断进步，我们预计这一目标能够更早实现。
健康问题呈现出长尾分布，每个人的生物学特征又各不相同，因此，个人的直接参与将有助于推动个性化疗法，缩短临床试验所需的时间，使试验速度跟上发明创造的步伐，也让整个行业不再把过多资源集中在常见疾病上，惠及更多患者。
在生物学之外，AI 还会运用科学方法，花费数周或数月检验并完善假设，帮助人们推动每一个领域的研究。科学发现很可能成为发明创造中对社会最有价值的形式之一。
每个人都将能够免费或以可负担的价格使用这些工具。 要让每个人都参与未来，每个人就必须能够利用超级智能改善自己的生活并塑造这个世界。我们将提供免费版本，让数十亿人都能使用。对于愿意付费使用更多算力的人，我们会建立一套动态拍卖机制，确保每个人都能以尽可能低的价格获得所需的智能和算力，同时把有限算力用于人们共同认为最有价值的领域。这将确保超级智能的益处得到广泛分享。
以上是 Meta 当前重点推进的一些方向。每一个方向都在践行个人赋权的价值观，并推动这样一个未来：与今天相比，每个人都能在塑造世界的过程中发挥更大作用。如果这些努力取得成功，未来的个人自主与思想表达将更加充分，人际关系更加深厚，经济和个人生活更加富足，健康状况得到改善，还会出现今天无法想象的种种发明。更重要的是，这个未来将由我们所有人共同创造，并映照出所有人的价值观与不同视角。
与此同时，新技术也会带来新的风险。我们正集中精力应对许多重要问题，包括工作岗位被替代，如何确保本地社区从数据中心建设中受益，以及 AI 被滥用于网络攻击和制造生物风险。此外，我们还要防止政府暴政与监控，确保美国及其他民主国家保持领先，并最终保证人类始终掌控超级智能，让它服务于我们，避免它危及人类。
一种主流观点认为，这些问题都源于技术本身；只要投入足够多的时间，我们就能完善技术，或让它实现对齐，最终创造出一个单一而仁慈的超级智能。我认为，这种对“对齐”的理解存在根本性缺陷。
人类社会并非价值观完全一致的单一文化。人们拥有不同的价值观，也会在重大问题上作出不同的权衡。任何技术方案都无法同时与彼此冲突的利益和价值观对齐。单一超级智能必然会优先考虑一部分价值观，把另一部分置于次要位置，因此不可能善待每一个人。
我们提出另一种思路：像西方社会设计民主治理制度那样，从建立适当权力制衡的角度审视这些问题，会更有成效。利益相互竞争的个人和机构会自然地彼此约束、相互制衡，推动社会走向积极的结果。建设一个积极的 AI 未来，最好也最现实的路径，就是让每个人都能使用超级智能。
我们可以做一个思想实验。假设只有一个人拥有超级智能律师，那么他在法庭上将拥有不公平的优势——哪怕他在事实和法理上都站不住脚。这会让社会变得更糟。现在再想象一下，如果每个人都有一名超级智能律师，司法就能比今天运行得更加公平、高效，因为当下的诉讼中，专业能力和资源失衡十分常见。
同样，如果只有一个人拥有网络安全超级智能，他很可能可以攻破几乎任何技术系统，整个世界也会变得远不如今天安全。但如果每个人都能使用网络安全超级智能，广泛部署的超级智能就会帮助所有技术系统持续加固和更新，让这些系统比今天更加安全。
如果只有一家企业拥有超级智能，它将击败所有竞争对手，最终形成一个活力更弱、广泛繁荣程度更低的市场。但如果每个人都能使用超级智能，所有人都会获得创造新事物的工具，突破今天的能力边界，整个经济也会更有活力，并创造更广泛的繁荣。
当人们获得更强的能力，他们自然会在经济、社会、政治以及人类互动的其他层面展开竞争并相互制衡。个人也会制衡企业、政府等机构的权力。
超级智能的力量一旦掌握在少数个人、企业、政府，甚至 AI 自身手中，结果自然会对其他所有人更加不利。这与技术原理无关，关键在于权力制衡。能够善待所有人的单一超级智能并不存在。
因此，要为每个人创造一个积极的未来，关键是建立一种有利于个人的权力平衡。具体的做法，是确保超级智能得到广泛分发，用它增强每个人的能力。
Meta 当前的首要重点，是为每个人打造个人超级智能。其他大多数实验室都专注于为企业、政府或其他机构开发 AI。如果这些实验室取得领先，权力平衡就会向大型机构倾斜，对个人不利。Meta 自创立以来，其使命始终是把力量交到人们手中。如果我们的信念和原则成为主导，权力平衡就会有利于个人，并为每个人带来一个更好的未来。
下面，我们更详细地讨论前面提到的每一项风险。
就业增长与经济
人们对新体验的需求没有止境，也总能找到值得解决的新问题。经济中存在一种自然平衡：企业通过自动化提高满足人们需求的效率，个人则学习新技能，满足更高层次的需求。当这种平衡保持健康时，整体生产力和创新水平会不断提高，就业率也能保持在较高水平。
人们担心，自动化的发展速度会超过个人能力的提升，导致工作岗位被替代，随后还要经历一段艰难时期，重新学习如何从事新的工作。但没有任何规律决定 AI 推动自动化的速度一定会快于它提升个人能力或创造新技能需求的速度。近期统计数据表明，个人能力的增长可能达到甚至超过自动化的发展速度。如果真是这样，人们将在现有工作发生变化之前，先获得从事许多新工作的能力。这将形成一种健康的平衡，甚至可能推动就业增长。
最终出现哪种结果，取决于自动化与个人赋权和发明创造两方面的相对进展。如果专注于自动化知识工作的实验室取得领先，我预计个人和整个经济都将经历一场困难得多的转型。但如果每个人都能使用扩展自身能力的个人超级智能，平衡就会向个人赋权倾斜，把我们带向一个更加积极的未来。
我们有几个理由相信，未来会有充足的工作机会。无论 AI 变得多么智能，可用算力始终是有限的，因此如何使用算力必然存在机会成本。如果人们可以利用 AI 发明极具价值的新事物，把算力投入这些发明，就会比用来自动化现有岗位创造更大的价值。超级智能越多地被用作发明创造的工具，个人能力就越有可能跑在自动化前面，未来也会对人们更加有利。
人们还会不断提出改善生活的新想法，并创造新工作，把这些想法变成现实。一代人以前，应用开发者、社交媒体创作者、电动汽车技术人员和数据中心运营人员都还不存在。在不久的将来，还会出现一些今天并不常见的新工作：例如，由一个人运营的产品工作室，为客户设计定制玩具、家具或服装；创造游戏、故事和冒险体验的世界构建者与体验设计师；利用超级智能制定个性化治疗方案的个人生物学家；以及更多今天的我们还想象不到的职业。
从许多方面看，这只是历史趋势的延续。工业革命之前，90% 的人都是农民，种植粮食以维持生存。技术进步逐渐让越来越多人摆脱单纯维持生计的劳动，把更多精力投入自己选择的追求。在每一个阶段，人们都利用新获得的生产力，取得过去不可能实现的成就，同时也把更多时间用于创造、文化和人际关系，享受生活。
当然，我们的工作方式会有一些变化，就像计算机、互联网以及每一种新技术出现时一样。这意味着人们必须适应，过程也会充满挑战。不过，如果每个人都有一个拥有超级智能、善于教授新技能并帮助我们适应变化的个人智能体，这场转型就会顺利得多。
公司的规模可能会缩小，就像经济从工业巨头向科技公司转型时发生的那样。整体工作岗位未必会因此减少，更可能出现的情况是公司数量增加，每家公司的人员变少。值得建设的公司和服务，远比今天人们有能力建设的更多。我预计，我们将开始看到少数几个人借助个人超级智能，运营规模可观的企业。未来，小企业仍将是经济的支柱，但每家小企业都能产生大得多的影响。
与社区共同建设 AI 基础设施
可持续的基础设施建设，意味着社区必须从每一个项目中获得切实而显著的收益。这些收益包括高薪的本地工作岗位，对学校和公共服务的投资，确保能源价格不会上涨，以及保护环境。税收收入增长后，教师、执法部门和消防部门等也会从中受益。我们把这些本地收益称为“社区契约”（Community Compact），并将启动“未来属于每个人基金”（Future Is For Everyone Fund），直接支持我们开展业务的每一个社区。
例如，Meta 正在路易斯安那州里奇兰堂区建设一座大型数据中心。由于我们的投资增加了当地税收收入，当地教师今年拿到的年度奖金最高超过 5 万美元。学区负责人告诉我们，如今教师正从全美各地迁往那里，他相信这里将成为美国最优秀的学区之一。
知识工作面临岗位被替代的担忧，而满足基础设施建设需求的木匠、电工和建筑工人等技术工种却存在短缺。Meta 已经成立“美国劳动力学院”（America’s Workforce Academy），为技术工人提供免费培训，并在我们建设数据中心的地区提供有保障的高薪工作。
无论在哪里投资，我们都会建设自己的能源生产基础设施，帮助当地维持较低的电价。这可以确保我们的项目不会消耗原本可供当地社区使用的能源；在某些情况下，我们甚至会向社区供应富余的低成本能源。我们认为，这是实现可持续发展的一个重要投资原则。
我们的数据中心也以达到全球领先的用水效率为设计目标。我们承诺实现“水资源正效益”：到 2030 年，在开展业务的流域中，恢复的水量将超过自身用水量。在水资源压力较大的地区，我们的目标是恢复相当于自身用水量 200% 的水资源。
我们发现，与投机者几乎不为社区投入便启动建设的地方相比，获得长期投资的社区更支持开发建设。从历史上看，引入铁路、公路、电力和宽带的城镇会发展为科研、商业和工业中心，随后迎来人口与经济增长。我们相信，AI 基础设施也能发挥类似作用，前提是以稳固的“社区契约”为基础，为当地留下耐久资产，也让下一代有充分理由在这里扎根、建设并发展自己的生活。
基础设施建设还涉及国家利益与国家安全。与地缘政治对手相比，如果美国及其盟友能够在 AI 领域保持领先，美国社区将拥有更大的繁荣与更强的安全保障。然而，相较于中国等国家，美国的一个显著劣势是在本土建设基础设施更加困难。因此，找到一套能够支持全美可持续发展的“社区契约”，将让所有人共同受益。
防范 AI 在网络安全、生物恐怖主义等领域被滥用
在自由社会中，人们拥有的工具既可以用于行善，也可能被用于作恶。不过，执法部门和军队掌握着更多武器，也拥有更强的情报收集能力。进入 AI 时代，防御方同样会拥有更多算力，可以从同一模型中获得强大得多的智能产出；在某些情况下，他们还会拥有更先进的模型。
应对网络安全、生物恐怖主义及其他威胁的具体策略各不相同，但总体规律是一致的：社会必须确保负责遏制恶意行为者的防御方，始终拥有更强大的力量与更多资源。
一些人认为，降低风险的最好方法是限制个人可以使用的能力。然而，赋予人们网络安全能力，也是保护数量庞大的长尾系统的方式；赋予人们科学能力，则能推动科学进步，从长期来看降低伤害风险。限制能力会把我们带向权力集中、缺乏制衡的道路，因此，我们必须极其谨慎地对待这种做法，尤其是在其他国家选择较少限制的发展路径时。
在网络安全领域，广泛部署的开源系统已经被证明更加安全，因为更多人可以发现漏洞、加固系统，并轻松升级到安全性最高的最新版本。就在最近几周，我们看到 Hugging Face 等公司在处理安全事件时，依靠广泛可用的开放模型修补漏洞。从长期来看，我预计广泛部署且具备强大网络安全能力的 AI 模型会让系统更加安全。等到超级智能能够让世界上大部分代码达到可验证的安全水平，这一点将得到确凿证明。长期解决方案应当是建立一种广泛分发超级智能的权力平衡，而非封锁相关能力。
短期内，加快关键系统的加固十分重要。我建议，开发前沿 AI 的公司应承诺投入大量技术资源，帮助政府加固关键基础设施。我还建议，前沿 AI 实验室不必等到训练全部完成，而应把新模型训练过程中的中间检查点交给政府使用和审查。这样一来，政府就能提前使用最强大的模型，并获得一大批能力出色的工程师，帮助发现和修复安全问题。实验室还应与执法部门合作，识别试图滥用其系统的恶意行为者。这些措施可以加快安全部署，同时不减缓模型创新速度，也不会明显推迟个人使用相关技术。
在生物和化学风险方面，人们担心，让科学家能够设计新药物的同一种能力，也可能帮助恶意行为者设计有害化合物。这使问题看起来像是一种权衡：一边是推动科学进步、治疗癌症及其他疾病所带来的巨大益处，另一边是可能出现的新风险。理想的做法是加速科学进步，同时减轻相关风险。
我认为，我们需要以更加谦逊的态度看待这种风险，因为几乎没有历史先例可以帮助我们判断它出现的概率究竟有多高。几十年来，恶意行为者一直有可能合成有害化合物，但这很少发展成重大问题，原因或许在于，这里缺少网络攻击背后常见的经济动机。尽管如此，如果我们开始看到造成危害的实际案例，就应当调整策略，采取适当措施降低风险。
实验室应继续努力降低模型带来的生物和化学风险。与此同时，我认为政府需要在多个领域更新政策。首先，我们应重点限制有害材料的实际生产与流通。与阻止知识传播相比，监管和控制物理材料可能更加容易，因此这应成为政策关注的重要领域。其次，我们应加快整个社会开发新疗法的能力，在新威胁出现时迅速建立免疫和防护。这也包括简化美国食品药品监督管理局及其他监管机构测试和批准新疗法的流程。随着 AI 加快药物发现的速度，我们无论如何都需要更新这些流程，使其跟上创新步伐。
从长期来看，应对新科学发现所带来风险的方法，是加快科学进步，而非放慢它。
保护自由，防止政府暴政
个人与政府之间一旦出现权力失衡，就可能导致自由丧失，甚至形成极权国家。这是民主制度中始终存在的张力。我们既希望个人拥有自由，也希望政府有能力保障我们的安全。
为了维护自由，我们必须确保超级智能主要用于增强个人的能力。自由民主的理想是，个人天然享有一切权利，只有为了保护公共利益，才同意限制其中一部分自由。同样，个人应当有权使用个人超级智能，只有在确有必要时才受到限制。
隐私是个人赋权与自由的重要基础。我们认为，个人智能体应当提供一种完全私密的模式。在这种模式下，即使是 Meta 或其他服务提供商，也无法查看你的信息或授权他人访问。这与我们将 WhatsApp 打造成全球领先的端到端加密服务的理念相似：你可以自由交流，同时确保消息始终保持私密与安全。
与此同时，我们也必须确保政府拥有执行法律、维护安全所需的工具和资源。实验室与政府可以建立更深入、更主动的合作，在不限制或推迟个人使用先进模型的前提下，增强政府维护国家安全的能力。
具体而言，领先的实验室不必等到模型准备发布后，才交由政府审查和使用。我的建议是，实验室应向政府提供新一代先进模型在训练过程中的中间检查点，并派出技术人员，帮助政府加固关键系统，防范新风险。这样，政府就能增强安全能力，同时不限制或推迟个人获得个人超级智能，也不会造成权力失衡。
确保美国保持领先地位
哪些国家能够在先进 AI 的开发和部署上取得领先，将塑造新的地缘政治力量平衡，并决定民主价值观、繁荣与安全在未来世界的普及程度。为了让这种力量平衡达到积极状态，我们必须确保领先的 AI 系统能够体现我们的价值观，推动经济增长，并促进国家安全。实现这一目标的最好方式，是广泛分发我们的系统。Meta 将通过打造领先的个人超级智能体和模型，包括开源模型，并将它们提供给全球数十亿人，为此作出贡献。
要开发最先进的模型和产品，我们必须认识到，AI 很可能是有史以来竞争最激烈的行业。创新成果会被迅速复制，并在几个月内被竞争对手吸收。但人们总希望使用最先进的模型，或者在特定成本下最先进的模型，因此，即使只保持两个月的领先也极具价值。这说明领先优势的窗口非常短，也凸显出采取行动加快美国创新、延缓地缘政治对手发展的重要性。
影响这一局面的主要政策因素包括：我们能以多高的效率建设物理基础设施，是否会引入拖慢美国实验室发展的环节，以及能否通过出口管制延缓外国实验室的进展。
在基础设施方面，美国及其盟友目前在芯片设计上拥有优势，但在能源产能和物理基础设施的建设速度上处于劣势。中国等国家大约每两周就会新增超过 1 吉瓦的核电装机，因此，要保持竞争力，我们必须同时加快能源设施和数据中心建设。在这一关键时期，针对芯片实施的出口管制已经成功延缓了外国实验室的发展，继续实行这些措施是正确的战略选择。
任何拖慢美国模型发布速度的政策，即使只造成一个月的延误，也可能显著增加美国失去领先地位的风险，让外国模型抢先一步。与此同时，当新的能力出现时，美国政府必须提前掌握相关信息，拥有加固关键系统所需的资源，并可能需要在使用先进系统方面保持一段时间的优势。
前文中，我提出了一种合作模式：实验室与政府共享训练过程中的中间检查点，并提供技术人员。考虑到 AI 领域变化迅速、竞争激烈，我认为，前沿实验室与政府建立紧密、主动的合作，会比要求所有情况都遵循僵化的流程和审查时限更有成效。有时，美国实验室可能把领先优势扩大到几个月以上，此时投入更多时间降低新风险，有助于形成更安全的解决方案。另一些时候，即使推迟发布一个月，也可能让美国失去领先地位，造成更糟的结果。只要确保政府能够提前获得模型，我们就应当可以在尽量不推迟公开发布的同时增进国家安全。
美国及其盟友能否在开源 AI 生态中保持领先同样重要，因为开源生态未来将占全球 AI 使用量的很大一部分。
目前，外国实验室在这方面拥有几项优势，因为美国实验室在训练数据上必须遵守更多额外限制。如果希望美国开源模型长期保持领先，美国政策就必须减少这类额外阻力。我不认为限制人们使用外国开源模型是有效的解决方案。我们的目标应当是让美国的开源模型成为全球最好的模型，这需要清除阻碍它们参与竞争的障碍。无论领先的开源模型来自哪里，限制个人和企业使用它们，都会降低可用 AI 的质量，并推动 AI 走向集中，削弱个人手中的力量。
要让美国在开源领域取得领先，我们需要重新思考多个方面的政策，包括模型蒸馏和训练数据的使用。模型能够向其他模型学习，是开源生态运行的一项重要原则。所有 AI 模型都源自人类知识。一些人试图把模型蒸馏描述成一种有害行为，但我认为，必须保护这样一项原则：人们可以学习自己能够观察到的一切。现实世界本就是如此；如果美国在这方面自我设限，就无法保持领先。
从全局来看，美国在 AI 领域整体落后，几乎肯定会成为一个比开发过程中任何具体问题都更严重、更长期的国家安全问题。
通过建立适当的合作，美国应当能够让私营部门和公共部门同时保持领先，在促进国家安全的同时，把体现个人赋权和民主原则的个人超级智能带给全世界。
与人对齐，应对生存性风险
权力平衡最终要回答的问题，是人类如何保持对 AI 本身的主导权和控制权。人们担心，AI 可能获得足够大的力量或控制权，轻则不再服务于人类利益，重则将整个人类置于危险之中。
一种健康的权力平衡，应当避免出现单一、集中的超级智能，让尽可能多的个人和企业拥有不同的超级智能体。这些智能体与各自使用者的目标对齐，按照自然经济的运行方式相互制衡、彼此竞争。如果还有多家前沿实验室，其模型体现不同的价值观并能相互制衡，这种平衡将得到进一步加强。
发布高能力模型确实存在风险，但从这个角度看，最危险的情形是领先的 AI 实验室训练出强大的模型，却只留给自己使用。无论一家实验室如何以责任或安全为理由解释这种做法，它走上的都是开发单一超级智能的道路，而其他系统无法对其形成制衡。
开发个人智能体，需要我们以一种新的方式理解“对齐”。今天，大多数实验室把对齐视为一种防御措施，用来强制执行一套集中的价值观。例如，某个领先模型曾拒绝帮助一所学校起草致意向学生家长的信，理由是它认为标准化考试不符合道德。
我们的理解有所不同：对齐应当确保智能体遵循使用者的目标和价值观，而非我们公司的目标和价值观。当然，法律和安全方面仍有一些重要边界，但从根本上说，对齐应当帮助人们追求社会中广泛存在的不同目标和观点，不应成为强制推行集中化教条的方法。
在实际使用中，如果人们不信任智能体，就不会把敏感信息和任务交给它。如果智能体服务于一家与用户价值观不一致的公司，因而作出违背使用者利益的行为，人们也不可能信任它。
解决对齐问题，是让数十亿人采用个人超级智能体的必要条件。这也意味着，如果未来有数十亿人使用并检验个人超级智能体，我们就已经解决了智能体与个人利益对齐的问题。这应当足以建立积极、安全的未来所需的权力平衡，以及自然形成的制衡机制。
这样理解时，对齐首先要让个人智能体变得有用且值得信任，进而形成真正保障我们安全的社会权力平衡。寄望某种理想化技术让单一超级智能在未来永远保持仁慈，并不是对齐的意义所在。
保持对超级智能的控制
一旦 AI 系统能够自主改进自身，就会出现一个两难局面：任何一家实验室，如果不允许自己的 AI 系统把大量算力投入递归式自我改进 RSI ，就必然会落后。例如，如果一个能够自我改进的 AI 系统专注于优化算力效率，理论上，它可能发明新的方法，让每吉瓦算力产生的智能提高 100 倍甚至更多。这意味着，一个只占用全球一小部分算力的自我改进 AI 系统，可能掌握比其他所有人加起来更强的有效算力和智能，进而获得更大的力量优势，成为我们所担心的那个单一超级智能。
在递归式自我改进的情况下，仍有几种方式可以形成权力平衡。最简单的一种，是多家实验室在大致相同的时间实现递归式自我改进。如果其中部分或全部超级智能能够以某种方式保持仁慈，它们就可以彼此制衡。尽管如此，我们看不出有什么理由可以期待超级智能天然仁慈，也不能依赖一个不受人类引导的超级智能为我们创造积极的未来。
为了确保人类始终掌握控制权，绝大多数智能必须由人们引导，用于推进人们自己的目标。这意味着，Meta、其他前沿实验室，以及那些致力于增强个人力量的云服务商，必须共同建设足够庞大的算力。这样，我们既能分配足够算力用于递归式自我改进、保持竞争力，又能继续把绝大多数算力用于每个人自己的目标。
如前文所述，要让数十亿人采用并信任个人超级智能体，我们必然需要解决智能体与个人利益对齐的问题，并建立大规模的制衡机制。与此同时，任何开展递归式自我改进的 AI，本质上都在引导和推进自己的目标。所有实验室都应仔细观察它的目标，以及我们控制这些目标的能力；一旦出现任何有害行为的迹象，各方就应协调行动并作出适当调整。不过，只要总体权力平衡仍然有利于人类，允许一个 AI 系统或任何其他主体引导自身目标，即使这些目标并未与许多人完全一致，也不必然造成伤害。权力平衡理论的基本前提是，利益竞争是一种自然状态；确保人类价值观得到遵循的唯一方式，是让人们掌握更大的力量。
个人赋权、发明创造和权力平衡这套理念，会带来几项政策含义：
Meta 将集中精力，把个人超级智能带给数十亿个人和小企业，帮助每个人实现自己的目标，创造他们希望在这个世界上看到的事物。为此，我们会训练领先模型，并尽可能扩大这项技术的可及性：让它易于使用，免费或以尽可能可负担的价格提供，建设足以供所有人使用的算力，再将它广泛分发。我们将建立一种完全私密的模式，即使 Meta 也无法查看你的信息或授权他人访问。我们还会高度重视对齐，这里的对齐是指帮助每个人实现自己的目标，而非实现我们的目标。
开源是增强个人力量、防止权力集中的一股积极而重要的力量，而权力集中会损害安全和经济。Meta 将继续坚定支持开源，包括开源 AI 模型。当前的开源生态十分强大，我们认为限制它将是一个错误。如今，Meta 超级智能实验室（Meta Superintelligence Labs）已经开始运转，我们很快会恢复发布一部分开源模型。
鉴于围绕超级智能作出的决定影响重大，独立治理与监督非常重要。无论对我本人、Meta 还是整个世界来说，让我或任何其他人成为决定如何部署超级智能的唯一决策者，都不符合最佳利益。因此，Meta 正在建立一种治理结构，授权独立董事会批准模型发布所依据的安全标准，并审查每一次模型发布是否符合这些标准。Meta 虽然是一家由创始人控制的公司，但目前所有前沿实验室的首席执行官都对模型发布拥有广泛权力，因此，我们也鼓励其他实验室建立类似结构。我认为，如果能在全行业推行类似流程，也将有助于完善行业治理。
政府政策是创造积极未来、降低上述风险的必要条件。本文已经提出了几项政策建议。总体而言，我们应鼓励前沿实验室与政府密切合作。为了国家安全，政府需要具备加固关键系统、有效使用先进模型的技术资源；美国 AI 产业继续保持领先，对国家安全也同样重要。我们应加快能源、数据中心和芯片等基础设施的建设，并与全美各地社区建立信任、协调利益。我们应谨慎避免削弱美国的竞争力，审慎看待任何可能导致超级智能权力集中的提议，并优先采用能够形成健康权力平衡、让个人获得优势的政策。
能够亲历这个非凡时刻，是我们的幸运。超级智能的发展，将成为我们有生之年所见最深刻的技术进步。
随着这一时刻日益临近，我们越来越需要一套清晰的理念和价值观，指导超级智能如何造福人类。Meta 承诺按照以下原则开展建设：个人赋权是繁荣的源泉，发明创造是 AI 的目的，有利于个人的权力平衡则是应对安全风险的基础。
如果这些价值观能够引领未来，我相信接下来的几十年将成为人类历史上最令人惊叹的时期之一。人类文明发展的轨迹，一直在朝着把更多力量交到人们手中的方向延伸，让每个人都能按照自己认为最好的方式生活并塑造世界。超级智能有望把这种力量交给每一个人，帮助我们为所有人建设一个积极的未来。
——马克
2026 年 8 月 10 日