未来属于每一个人【译】

作者：马克·扎克伯格

时间：2026 年 8 月 10 日

原文⬇️

https://www.meta.com/thefutureisforeveryone/

https://x.com/finkd/status/2086754845218726027?s=20

如何让人工智能带来一个更美好的未来

我们很幸运，正生活在一个令人难以置信的历史时刻。未来几年，人们将能够运用超越人类能力的超级智能，创造和发现非凡的新事物，创办新的企业，表达新的想法，学习新的概念，并改善我们的健康与生活质量。随着这一时刻日益临近，我们必须形成一套清晰的理念，思考如何才能充分利用超级智能，让它改善每个人的生活、工作和社区，同时增进我们的自由与安全。

我们这个时代最关键的问题是，谁能使用超级智能，以及我们会引导它去做什么。它会被集中起来，只掌握在少数机构手中，还是会成为一件赋予每个人力量的工具？

我们提出的理念建立在三个原则之上。个人拥有自主力量，是繁荣的源泉；发明创造，是超级智能的首要用途；权力制衡，是安全的根基。

所有新技术都会带来机遇和挑战。超级智能将成为人类历史上最重要的技术之一，因此，它所带来的机遇与挑战，很可能超过我们有生之年见过的任何一种技术。我们必须严肃对待这件事。

然而，许多人工智能开发者的言论都笼罩着末日色彩，这一点令人意外。如果一个人相信人工智能将消灭大多数工作，让人类在很大程度上失去存在价值，我不明白他为什么还要急着把这样的未来造出来。还有一种观点认为，人工智能危险至极，唯一安全的道路就是把权力高度集中起来。这种想法本身就很成问题。纵观历史，人们曾寄望于某种绝对权力，只要它足够开明，就会仁慈地照顾全人类，但这种期待从未带来安全、良好的结果。

人类经历过许多改变世界的进步。每一次，人们都会担心有人被时代抛下。可每一次走过转型之后，都有更多人分享到了更大的繁荣、更好的健康和更多的自由。我们相信，人工智能也会如此，未来的富足可以由所有人共享。我们也相信，正是自由、自由探索、自由企业制度和机会平等等价值观把人类带到了今天，而这些价值观同样适合用来建设一个更美好的未来。

把力量交到人们手中，让每个人追求自己的理想，是人类取得最大进步的根本原因。新颖的构想和重大的突破，很少只来自既有机构。它们来自开自行车铺、相信人能够飞上天空的莱特兄弟，来自没有受过正规教育、却发现电磁感应原理的装订工学徒迈克尔·法拉第，也来自那个待在车库里、相信个人电脑可以为每个人所用的年轻人。我们相信，今后仍会如此。当所有人都获得更强大的工具时，每个人塑造未来的能力都会增强，而不会减弱。

超级智能最大的贡献将是发明创造，而非自动化。早期的人工智能可以回答问题，处理常规工作。很快，它会越来越多地帮助我们发现新知识，从研发新药、治疗家人的疾病，到寻找改善企业的新方法。一个人每天能提出的问题数量有限，超级智能为帮助你实现目标而创造的有价值事物，却没有上限。

当智能变得充裕，最重要的问题将是我们如何引导它。有人主张，应当由超级智能本身，或由控制它的少数专家，替人类决定什么才是最好的。我们不同意。民主制度和经济发展的历史表明，人们如何定义最好的生活，并不存在唯一客观的答案。因此，最好的做法是让每个人自己决定，什么对自己的生活最重要。

我们相信，让每个人都能使用超级智能，就是这个问题的答案。这延续了过去的一条道路，我们曾把超级计算机和互联网的力量放进每个人的口袋，也放到每个人的书桌上。我们不应把超级智能集中起来，而应让它广泛分布，让每个人都有能力引导它。这有望开启一个个人力量大幅增强的新时代。每个人都可以利用这种强大的新能力，充分发挥潜能，追求自己的兴趣，并以前所未有的程度改善自己的生活和这个世界。

为了让这幅图景更具体，下面是 Meta 正在通过个人超级智能改善所有人生活的几个方向。

• 每个人都会拥有一个能力极强的个人智能体。它了解你、你的目标，以及你所在意的一切。它会全天候替你工作，帮助你改善人际关系、健康、职业和财务状况，也能协助你管理家庭、发展爱好。它会为你腾出时间，让你去做真正喜欢的事，也会帮你完成原本难以完成的目标。它将提供强有力的隐私和安全选项，让你可以放心把个人内容交给它处理，并确信其他任何人都无法访问你的信息，就像 WhatsApp 的加密机制一样。你可以通过任何设备与它互动，包括眼镜。这样一来，你仍能把注意力留在当下，留给你在乎的人。

以我自己的智能体为例，它会标出有意思的信息，也会帮我把想法快速做成原型。它通过监测睡眠来帮助我保持健康，我训练时，它还能观察我的状态并给出反馈。我的女儿很喜欢烘焙，所以每到周末，它都会为我们设计个性化食谱，订购食材，并在我们烘焙的过程中提供建议。

• 每个人都会拥有非凡的创作工具，用来表达自己的想法。我八岁的女儿现在已经可以在一个晚上把自己的想法写成代码、做成视频。这些事过去可能要花我几个月，甚至根本无法完成。现在，我们还在一起设计一个机器人。与此同时，Meta 的研究人员正在生成适合增强现实眼镜的新型晶体结构，工程师开发新应用所需的时间也缩短到了过去的一小部分。很快，每个人都会拥有近乎超能力的发明本领。
• 每个人都会拥有创办新企业的强大工具，整个经济也会更具创业活力。人们正开始能够亲手把想法变成现实，不必先融资，也不必组建庞大的团队。许多过去因为难度太高或成本太大而无法尝试的想法，如今将成为可能。这意味着我们会看到更多创意，也会看到更多企业。我预测，这不仅会带来大幅度的经济增长，长期来看还会增加就业，而非减少就业。
• 每个人都会拥有一位个性化的导师和教练，在每个学科都具备博士水平，还有无穷的耐心，可以帮助你学习任何想学的东西。学生能够在自己薄弱的领域得到额外辅导，而这类帮助目前往往只有付得起费用的家庭才能获得。成年人则会拥有一位超级智能学习助手。它准确了解怎样教你掌握新的职业技能、学习新的语言、培养新的爱好，或学习任何你感兴趣的东西。
• 每个人都将受益于科学进步，也能为科学进步作出贡献。陈－扎克伯格生物中心（Biohub）已经发布了与虚拟细胞和蛋白质有关的开源生物模型，正在帮助科学家取得新发现、设计新药物。当普莉希拉和我开始推动这项工作时，我们的目标是帮助科学家在本世纪治愈或预防所有疾病。随着人工智能不断进步，我们现在预计，这个目标可以更早实现。

疾病中存在大量患者人数较少的长尾病种，每个人的生物特征也不相同。因此，让人们直接参与进来，有助于推动个性化疗法取得突破，也能加快临床试验，使试验速度跟上发明创新的速度，并促使整个行业减少对常见疾病的过度集中。

在生物学之外，人工智能还会帮助人们推进各个领域的研究。它能够运用科学方法，连续工作数周乃至数月，不断检验并完善假设。科学发现很可能会成为对社会最有价值的发明形式之一。

• 每个人都能免费或以可负担的价格使用这些工具。要让所有人都参与未来，每个人就必须能够利用超级智能改善生活、塑造世界。我们会提供免费版本，让数十亿人都能使用。希望付费使用更多算力的人，则可以通过动态拍卖机制获得服务。这套机制会保证每个人都以尽可能低的价格获得所使用的智能和算力，同时把有限的算力用到人们共同认为最有价值的事情上。这样才能让超级智能的益处得到广泛分配。

这些是 Meta 目前投入的几个主要方向。每一项工作都在推动个人掌握更多自主力量，也在促成一个人人都比今天更能参与塑造世界的未来。如果这些努力取得成功，未来将拥有充足的个人自主能力，人们可以更充分地表达想法、加深彼此的关系，经济与个人财富会更加繁荣，健康水平也会提高，还会出现今天无法想象的发明。最重要的是，未来将由我们所有人共同创造，并映照出我们共同拥有的价值观和不同视角。

与此同时，新技术也会带来新的风险。我们正在集中精力处理许多重要问题，包括工作岗位被替代的担忧，如何确保当地社区从数据中心建设中受益，如何防范人工智能在网络攻击和生物风险等方面遭到滥用，如何避免政府暴政与监控，如何确保美国和其他民主国家保持领先，以及如何让人类始终掌控超级智能，使它服务于我们，而不把我们置于危险之中。

一种常见观点认为，这些担忧本质上都属于技术问题。只要投入足够多的时间，我们就能把技术完善好，或把它对齐，从而造出一个单一而仁慈的超级智能。我认为，这种对“对齐”的理解存在根本缺陷。

人类社会并非只有一种文化。面对重要问题，不同的价值观意味着人们会作出不同的取舍。任何技术方案都无法同时符合所有相互冲突的利益和价值观。任何单一的超级智能都必须让某些价值观优先于另一些价值观，因此，它不可能对所有人都同样仁慈。

我们认为，更有效的办法，是像西方社会的民主治理制度那样，从建立适当权力平衡的角度来看待这些问题。利益相互竞争的人与机构会自然形成制约，由此推动更好的结果。要让人工智能带来一个更美好的未来，最好也最现实的道路，就是让每个人都能使用超级智能。

我们可以做一个思想实验。假设只有一个人拥有一位超级智能律师，那么即使他在案件事实上并不占理，也会在法庭上获得不公平的优势，整个社会会因此变得更糟。现在再设想一下，每个人都有一位超级智能律师。诉讼中的能力和资源如今往往并不对等，而在人人都有这种工具的情况下，正义将得到比今天更加公平、高效的实现。

同样，如果只有一个人拥有用于网络安全的超级智能，他很可能可以侵入几乎任何技术系统，世界会变得比今天更不安全。如果所有人都能使用网络安全超级智能，情况就会不同。广泛部署的超级智能可以加固和更新每一套系统，我们所有的技术系统都会比今天更加安全。

如果只有一家企业拥有超级智能，它就会压倒所有竞争者，市场会失去活力，繁荣也难以广泛共享。如果所有人都能使用超级智能，每个人都会拥有创造新事物的工具，做到今天无法做到的事情。整个经济会更有活力，也会让更多人分享到繁荣。

当个人拥有更多力量，他们自然会在经济、社会、政治以及人类互动的其他层面相互竞争、相互制约。个人也会对企业和政府等机构的权力形成制衡。

如果超级智能的力量只掌握在少数个人、企业、政府或人工智能自身手中，结果自然会对其他人更不利。这并非一条技术原则，它关乎权力平衡。世上不存在一个单一且能普遍行善的超级智能。

因此，要为所有人创造一个更美好的未来，关键是建立一种有利于个人的权力平衡。我们必须让超级智能广泛分布，以此增强每个人的力量。

Meta 是一家把主要精力放在为所有人建设个人超级智能上的公司。大多数其他实验室主要为企业、政府或其他机构开发人工智能。如果这些实验室占据主导地位，权力平衡就会向大型机构倾斜，个人会居于弱势。从创立之初，Meta 的使命就一直是把力量交到人们手中。如果我们的信念和原则能够成为主导，权力平衡就会更有利于个人，也会为所有人带来更好的未来。

下面，我们逐一深入讨论前面提到的风险。

就业增长与经济

人们对新体验的需求没有止境，也总能发现新的问题需要解决。经济中天然存在一种平衡。一边是企业利用自动化，更高效地满足人们的需要；另一边是个人掌握新技能，去满足更高层次的需要。当这种平衡保持健康时，整体生产率和创新能力都会提高，就业也能维持在较高水平。

人们担心，自动化的速度会超过个人能力的增长，造成工作岗位流失，随后人们还要经历一段艰难时期，重新学习新的工作技能。但没有任何规律规定，人工智能推动自动化的速度一定会快于它提升个人能力或催生新技能需求的速度。近期统计数据表明，个人能力的增长有可能追上甚至超过自动化。如果确实如此，人们会先获得完成许多新任务的能力，原有工作随后才发生变化。这会形成健康的平衡，甚至可能带来就业增长。

最终出现哪一种结果，取决于自动化与个人力量、发明创造这两方面的进展能否保持平衡。如果专注于自动化知识工作的实验室占据主导地位，我预计个人和整个经济都会经历更加艰难的转型。如果每个人都能使用个人超级智能来扩展自己的能力，天平就会转向个人，也会把我们带向一个更美好的未来。

我们有几个理由可以乐观地相信，未来将有充足的工作机会。无论人工智能变得多么聪明，算力总是有限的，如何使用算力也一定存在机会成本。如果人们能够利用人工智能创造出极有价值的新事物，那么把算力用于发明创造，就会比用它自动完成现有工作更加合理。超级智能越能成为发明工具，个人能力超过自动化速度的可能性就越大，未来对人们也会越有利。

人们还会不断想出改善生活的新点子，并创造新的工作，让这些点子成为现实。上一代人成长时，还没有应用开发者、社交媒体创作者、电动汽车技师和数据中心运维人员。再过不久，许多今天还不常见的职业会出现。例如，一人产品工作室可以设计定制玩具、家具或服装；世界构建师和体验设计师可以创作游戏、故事和冒险体验；个人生物学家可以借助超级智能制定个性化治疗方案。还会有更多工作，是我们现在根本想不到的。

从很多方面看，这延续了历史趋势。工业革命以前，90% 的人都是农民，为了生存而种植食物。技术进步逐步让大多数人摆脱了大量维持生计的劳动，可以把更多时间投入自己选择的追求。每一次进步中，人们都会利用新获得的生产力，完成过去无法完成的事情，也会把更多时间用于创造、文化和人际关系，享受生活。

当然，我们的工作方式会有一些变化，就像计算机、互联网和其他新技术出现时一样。人们需要适应，这个过程会充满挑战。不过，如果每个人都有一位擅长教授新技能、帮助我们适应变化的超级智能个人智能体，转型就会顺利许多。

企业规模可能会缩小，就像经济从工业巨头转向科技公司时发生的变化一样。但这并不意味着就业总量会减少，更可能出现的情况是，企业数量增加，每家企业的人员减少。今天，能够创造价值的企业和服务远远多于人们有能力建成的数量。我预计，我们将开始看到少数几个人借助个人超级智能体，运营规模可观的企业。未来，小企业仍将是经济的支柱，但每一家小企业都能产生大得多的影响。

与社区共同建设人工智能基础设施

可持续的基础设施建设，必须让社区从每个项目中获得实实在在的重大收益。这些收益包括高薪的本地工作岗位，对学校和公共服务的投资，确保能源价格不上涨，以及保护当地环境。随着税收增加，教师、执法部门和消防部门等也会受益。我们把这一整套本地利益承诺称为“社区契约”，并将设立“未来属于每一个人基金”，直接支持我们开展业务的每一个社区。

以路易斯安那州里奇兰堂区为例，Meta 正在那里建设一座大型数据中心。由于我们的投资增加了当地税收，教师今年获得了 5 万美元奖金。当地教育主管告诉我们，现在有教师从美国各地迁到那里，他相信当地会成为全美最优秀的学区之一。

与知识工作岗位被替代的担忧不同，木匠、电工和建筑工人等技术工种目前供不应求，难以满足基础设施扩建的需求。Meta 已经设立“美国劳动力学院”，为技术工种提供免费培训，并在我们建设数据中心的地区保证提供高薪工作。

无论在哪里投资，我们都会建设自己的发电基础设施，帮助当地维持较低的电价。这样一来，我们不会占用原本可以供给当地社区的能源，有时还可以把富余的低成本能源反向输送给社区。我们认为，这是实现可持续发展的重要投资原则。

我们的数据中心在设计上也跻身全球用水效率最高的行列。我们承诺到 2030 年实现“水资源正效益”，也就是在运营地所在流域回补的水量超过我们的用水量。在水资源压力较高的地区，我们的目标是回补相当于自身用水量 200% 的水资源。

我们看到，Meta 长期投资的社区往往更支持开发建设。相比之下，一些投机者只进行最低限度的社区投入就动工建设，当地社区的支持度通常更低。从历史上看，引入铁路、公路、电力和宽带的城镇，后来往往成为科研、商业和工业中心，人口与经济也随之增长。我们相信，只要人工智能基础设施配有扎实的社区契约，能够留下持久的资产，也让下一代有理由留在那里生活、建设和成长，它就能发挥类似作用。

基础设施建设还涉及国家利益与国家安全。如果美国及其盟友能够领先于地缘政治竞争对手，美国各地社区就会拥有更大的繁荣和安全。然而，与中国等国家相比，美国的一项明显劣势是基础设施建设更加困难。因此，如果我们能共同找出在全国实现可持续建设所需要的社区契约，所有人都会从中受益。

防范人工智能被用于网络攻击、生物恐怖主义及其他危害

在自由社会中，人们掌握的工具既可以用于善，也可能用于作恶，但执法部门和军队拥有更多武器，也拥有更强的情报收集能力。在人工智能领域，防御方同样会拥有更多算力，能从相同的模型中生成多得多的智能成果，有时还会掌握更先进的模型。

应对网络安全、生物恐怖主义及其他威胁，需要采用不同策略，但其中有一条共同规律。社会必须保证，负责遏制恶意行为者的防御方始终拥有更强的力量和更多资源。

有人认为，降低风险最好的办法，是限制个人可以使用的能力。然而，让人们获得网络安全能力，也是保护大量分散的长尾系统所必需的；让人们获得科学研究能力，也能推动科学进步，长远来看应当有助于降低伤害风险。限制能力会把我们引向权力集中、缺少制衡的道路。因此，我们必须对此格外谨慎，尤其是在其他国家选择限制更少的道路时。

在网络安全领域，广泛部署的开源系统已经证明可以更加安全，因为更多人能够发现漏洞、加固系统，并轻松升级到安全性最高的最新版本。就在最近几周，我们还看到 Hugging Face 等公司在处理安全事件时，借助广泛可用的开放模型修补漏洞。我预计，随着时间推移，具备强大网络安全能力的人工智能模型得到广泛部署，系统会变得更加安全。当超级智能使全球大部分代码都达到可验证的安全状态时，这一点将得到确凿证明。长远来看，扣住能力不放解决不了问题。我们需要建立一种权力平衡，让超级智能得到广泛分布。

短期内，我们必须加快关键系统的安全加固。我建议，开发前沿人工智能的公司应投入大量技术资源，帮助政府加固关键基础设施。我还建议，前沿人工智能实验室不要等到训练全部结束，而应向政府分享新模型训练过程中的中间检查点，供政府使用和审查。这样，政府就能提前使用最强大的模型，同时获得大批优秀工程师的支持，发现并修补安全问题。实验室还应与执法机构合作，帮助识别企图滥用其系统的恶意行为者。这些措施能够加快人工智能的安全部署，同时不会拖慢模型创新，也不会明显推迟个人获得这项技术的时间。

在生物与化学风险方面，人们担心，帮助科学家设计新药物的同一种能力，也可能帮助恶意行为者设计有害化合物。这个问题常被描述为一项取舍，一边是推动科学发展、治疗癌症等疾病所带来的重大收益，另一边是可能出现新危害的风险。理想的做法是，在降低风险的同时加快科学进步。

面对这类风险，我认为我们尤其需要保持谦逊，因为历史上几乎没有先例能告诉我们，这类事件出现的可能性究竟有多大。几十年来，恶意行为者一直有可能合成有害化合物，但这很少演变成严重问题。一个可能的原因是，这个领域不像网络攻击那样存在强烈的经济动机。尽管如此，如果我们开始看到实际危害案例出现，就应相应调整策略，妥善降低风险。

各实验室应继续努力，降低模型带来的生物与化学风险。与此同时，我认为政府也应调整多个领域的政策。第一，我们应重点限制有害物质的实体生产和流通。与知识传播相比，实体材料应当更容易监管，因此，这应成为一项重要政策重点。第二，我们应加快社会开发新疗法的能力，在新问题出现时迅速建立防护。这包括简化美国食品药品监督管理局（FDA）及其他监管机构测试、批准新疗法的流程。人工智能会加快药物发现，无论如何，我们都需要更新这些流程，使其跟上创新的速度。

从长远看，应对新科学发现所带来的风险，要靠加快科学进步，而非放慢它。

保护自由，防止政府暴政

个人与政府之间的权力失衡，可能导致自由丧失，甚至催生极权国家。这是民主制度中长期存在的张力。我们既希望个人享有自由，也需要政府有能力保障我们的安全。

为了维护自由，我们必须确保超级智能首先增强个人的力量。自由民主制度的理想是，所有权利天然属于人民，人们只同意在保护公共利益确有需要时，让渡一部分自由。同样，个人应当能够使用个人超级智能，只有在确有必要时才受到限制。

隐私是个人拥有力量和自由的重要基础。我们认为，个人智能体应当提供完全私密的模式。在这种模式下，即使 Meta 或其他任何服务提供商也无法查看你的信息，更不能授权别人访问。这与我们建设 WhatsApp 的理念相同。我们把它打造为全球领先的端到端加密服务，让你能够自由交流，同时保证消息私密、安全。

与此同时，我们还必须确保政府拥有执行法律、保护国家安全所需要的工具和资源。实验室与政府可以开展更深入、更主动的合作，在不限制或延迟公众使用先进模型的前提下，增强政府的国家安全能力。

具体来说，我的建议是，领先实验室不必等到模型即将发布，才交给政府审查和使用。它们应当在训练过程中就向政府提供先进模型的中间检查点，并派出技术人员，帮助政府加固关键系统，防范新的风险。这样，政府可以获得所需的安全能力，同时不会限制或延迟个人使用个人超级智能，也不会造成权力失衡。

确保美国保持领先

哪些国家在先进人工智能的开发与部署上领先，将影响新的地缘政治权力格局，并决定民主价值观、繁荣与安全在未来有多大影响力。为了让这种格局达到积极的平衡，我们必须确保领先的人工智能系统体现我们的价值观，推动经济增长，并促进国家安全。实现这一目标最好的办法，是让我们的系统得到广泛分布。Meta 将建设领先的个人超级智能体和模型，其中也包括开源模型，并把它们带给全球数十亿人，以此作出自己的贡献。

为了开发最先进的模型和产品，我们必须认识到，人工智能可能是历史上竞争最激烈的行业。创新成果会被迅速复制、吸收，往往几个月内就会传遍行业。但人们总想使用最先进的模型，或在同等成本下使用最先进的模型。因此，哪怕只保持两个月的领先，也有极高的价值。这说明领先优势十分短暂，也说明加快美国创新、放慢地缘政治竞争对手的速度有多么重要。

这主要取决于几项政策选择。我们能以多高效率建设实体基础设施，是否会增加拖慢美国实验室的程序，以及能否通过出口管制减缓外国实验室的发展。

在基础设施方面，美国及其盟友目前在芯片设计上占有优势，但能源产能和实体基础设施的建设速度处于劣势。中国等国家大约每两周就有 1 吉瓦以上的新增核电装机投入运行。为了保持竞争力，我们必须加快建设能源设施和数据中心。芯片出口管制在这个关键时期已经有效减缓了外国实验室的发展，因此，继续实施这项政策是正确的战略选择。

任何拖慢美国模型发布的政策，哪怕只拖延一个月，都可能严重威胁美国的领先地位，让外国模型抢先一步。与此同时，每当新能力出现，美国政府都必须提前掌握相关情况，也要获得加固关键系统所需的资源。在使用先进系统方面，政府或许还应拥有一段时间的先发优势。

前面我提出了一种合作模式，核心是分享训练过程中的中间检查点，并提供技术人员。人工智能领域变化迅速，竞争激烈。我认为，前沿实验室与政府之间保持紧密、主动的合作，会比在所有情况下都套用一套僵化流程和审查时间表更有效。有时，美国实验室可能已经把领先优势扩大到几个月以上，这时多花一些时间降低新风险，或许能带来更安全的方案。另一些时候，哪怕延迟一个月，也可能让美国失去领先地位，造成更糟的结果。只要确保政府能够提前接触这些模型，我们就应当可以在尽量不延迟公开发布的同时，提升国家安全。

美国及其盟友还必须在开源人工智能生态中保持领先，因为开源系统将占全球人工智能使用量的很大一部分。

外国实验室目前在这方面拥有几项优势，因为美国实验室必须遵守更多有关训练数据的限制。如果我们希望美国的开源模型长期保持领先，美国政策就必须减少这些额外阻力。我不认为限制人们使用外国开源模型是一种有效方案。我们的目标应当是让美国的开源模型成为全球最好的模型。为此，我们需要清除那些让美国开源模型更难参与竞争的障碍。无论领先的开源模型来自哪里，如果限制个人和企业使用它们，就会降低他们能够获得的人工智能质量，还会推动人工智能走向集中，使更多力量离开个人手中。

美国要在开源领域保持领先，就需要重新思考模型蒸馏和训练数据使用等领域的政策。模型能够向其他模型学习，是开源生态运作的一项重要原则。所有人工智能模型都源自人类知识。有人试图把模型蒸馏描述成一种有害行为，但我认为，我们必须保护一条原则，也就是人可以从自己能够观察到的任何事物中学习。世界原本就是这样运转的。如果美国在这一点上自我设限，就无法保持领先。

从全局来看，美国若在人工智能领域整体落后，几乎可以肯定会形成一个更严重、持续时间更长的国家安全问题，超过我们在人工智能发展过程中面对的任何单项问题。

只要建立正确的合作方式，美国应当可以在民营和公共部门同时保持领先，一面推动国家安全，一面把体现个人自主力量和民主原则的个人超级智能带给全世界。

与人对齐并应对生存风险

权力平衡的终极问题，是人类怎样才能继续掌握人工智能，并保持对它的控制。人们担心，人工智能可能获得足够大的力量或控制权，较轻的后果是它不再服务于人类利益，最坏的结果则是把人类置于险境。

健康的权力平衡需要避免出现一个单一、中心化的超级智能。我们应当让尽可能多的个人和企业拥有不同的超级智能体，让这些智能体与各自使用者的目标对齐，并像现实经济中的参与者一样相互制约、彼此竞争。如果前沿实验室也不止一家，各家的模型体现不同的价值取向，能够相互制约，这种平衡还会进一步增强。

发布能力强大的模型确实存在风险，但从这个角度看，更危险的情形是领先的人工智能实验室训练出强大的模型后只留给自己使用。无论实验室怎样以责任或安全为由解释这种做法，这条路最终都会造出一个无法被其他系统制约的单一超级智能。

开发个人智能体，需要我们以新的方式理解对齐。今天，大多数实验室把对齐视为一种防御措施，用它强制执行一套中心化的价值观。举例来说，一个领先模型经过对齐后，会拒绝帮助学校起草一封写给有意申请入学的学生家长的信，因为它认为标准化考试不符合伦理。

我们的理解不同。对齐应当确保智能体认同使用者的目标和价值观，而不是认同我们公司的目标和价值观。法律与安全边界当然十分重要，但从根本上说，对齐应当帮助人们追求社会中多种多样的目标和主张，不应成为强制执行某种中心化教条的手段。

在实际使用中，如果人们不愿把敏感信息和任务交给智能体，就不会采用它们。如果智能体按照公司与用户并不一致的价值观行事，甚至违背用户的利益，人们也不会信任它们。

要让数十亿人采用个人超级智能体，我们必须解决对齐问题。这也意味着，一旦数十亿人开始使用并审视个人超级智能体，我们就已经让它们与个人利益实现了对齐。这足以建立一个美好而安全的未来所需要的权力平衡，以及自然形成的制衡机制。

由此来看，对齐不是一种理想化技术，目的也不是保证未来某个单一超级智能永远仁慈。对齐要让个人智能体真正有用、值得信任，从而建立社会所需要的权力平衡，而这种平衡才会切实保障我们的安全。

继续掌控超级智能

这里存在一个两难困境。一旦人工智能系统能够自主改进自身，任何一家实验室如果不允许自己的人工智能系统调用大量算力进行递归式自我改进，就必然会落后。假设一个能够自我改进的人工智能系统专注于提高算力效率，理论上，它可能发明新的方法，让每吉瓦功率产生的智能提高 100 倍甚至更多。这意味着，一个只使用全球一小部分算力的自我改进系统，也可能掌握比其他所有人加起来更多的有效算力和智能，进而在权力格局中占据压倒性优势，最终成为我们所担心的那个单一超级智能。

即使出现递归式自我改进，仍有几种可能维持权力平衡。最简单的一种，是多家实验室在大致相同的时间实现递归式自我改进（RSI）。如果其中一些或全部超级智能能够以某种方式保持仁慈，它们就可以相互制约。不过，我们没有充分理由期待它们保持仁慈，也无法把美好的未来寄托在不受人类引导的超级智能身上。

为了确保人类继续掌控局面，绝大部分智能都必须由人来引导，用于推进人的目标。这意味着，Meta、其他前沿实验室，以及致力于让个人获得更有利权力地位的云服务商，必须共同建设足够庞大的算力。我们需要拿出足够算力用于递归式自我改进，以维持竞争力，同时仍把绝大部分算力用于实现每个人自己的目标。

如前所述，要让数十亿人采用并信任个人超级智能体，我们就必须先让这些智能体与人的利益实现对齐，并把制衡机制扩展到社会规模。与此同时，任何进行递归式自我改进的人工智能，从定义上说，都在引导并推进自身的目标。所有实验室都应密切观察这类系统的目标，以及我们控制这些目标的能力。一旦出现任何有害行为的迹象，各方就应协调行动，及时作出调整。不过，只要整体权力平衡仍然有利于人类，允许一个人工智能系统或任何其他主体引导自己的目标，本身并不必然造成危害，即使它的目标并未与许多人完全一致。权力平衡理论的主要前提是，利益竞争是自然存在的，确保各方遵守人类价值观的唯一方法，是让人拥有更多力量。

这套以个人自主力量、发明创造和权力平衡为核心的理念，会带来几项政策含义。

• Meta 会集中力量，把个人超级智能带给数十亿人和小企业，帮助每个人实现自己的目标，创造出自己希望在世界上看到的事物。我们会训练领先的模型，再尽可能扩大这项技术的可获得性，包括让它易于使用，免费或以尽可能低的价格提供，建设足以供所有人使用的算力，并广泛分发。我们会建立完全私密的模式，在这种模式下，即使 Meta 也无法查看你的信息或授权他人访问。我们会高度重视对齐。我们所说的对齐，是帮助每个人实现自己的目标，而不是实现我们的目标。
• 开源是一股积极而重要的力量。它能让个人拥有更多力量，也能防止人工智能走向集中，而集中化既不利于安全，也不利于经济。Meta 会继续坚定支持开源，其中包括开源人工智能模型。当前的开源生态十分强大，我们认为限制它会是一个错误。如今，Meta 超级智能实验室已经开始运转，我们很快会恢复发布一部分开源模型。
• 围绕超级智能作出的决策利害重大，因此，独立治理与监督十分重要。如果由我或任何一个人独自决定超级智能怎样部署，我认为这既不符合我个人和 Meta 的最佳利益，也不符合全世界的最佳利益。为此，Meta 正在建立一套治理结构，授权我们的独立董事会批准模型发布所需的安全标准，并审查每次模型发布是否符合标准。Meta 是一家由创始人控制的公司，不过，目前所有前沿实验室的首席执行官在模型发布上都拥有很大权力，因此，我们也鼓励其他实验室建立类似结构。我认为，如果全行业都能采用这类机制，也会有助于行业治理。
• 政府政策对于创造美好未来、降低前面讨论的风险必不可少。我在全文中提出了几项政策建议。总体而言，我们应当鼓励前沿实验室与政府紧密合作。政府必须拥有加固关键系统、有效使用先进模型所需的技术资源，这关系到国家安全。美国人工智能行业继续保持领先，同样关系到国家安全。我们应当提高基础设施建设能力，包括能源、数据中心和芯片，也要同美国各地社区建立信任，协调彼此的目标。我们必须谨慎，不能削弱美国的竞争力。凡是可能推动超级智能走向集中的方案，我们都应保持怀疑；能够促成健康权力平衡并让个人占据有利位置的政策，才值得支持。

我们正在亲历一个令人难以置信的时代。超级智能的发展，将是我们有生之年所见最深刻的技术进步。

随着这一时刻日益临近，我们必须拥有清晰的理念和价值观，思考超级智能应当怎样造福人类，这件事也变得越来越重要。Meta 将坚持这些原则开展建设。个人拥有自主力量，是繁荣的源泉；发明创造，是人工智能的用途；有利于个人的权力平衡，是化解安全风险的基础。

如果这些价值观能够引领方向，我相信，未来几十年将成为人类历史上最令人惊叹的时期之一。纵观人类文明的轨迹，力量一直在更多地回到个人手中，让人们能够按照自己认为最好的方式生活、塑造世界。超级智能有望把这种力量交给每一个人，为所有人建设一个更美好的未来。

马克·扎克伯格

2026 年 8 月 10 日

（第一次做翻译文章这个方向，为了自己研究的同时也方便大家观看，如有不足欢迎勘误）

原文信息

作者：momoai沫沫🫧（@momoai_daily）

原文地址：