Anthropic的结构性悖论：最担心AI毁灭世界的人，正在亲手建造它

人物: Dario AmodeiAnthropic CEO前OpenAI研究副总裁来源: Bloomberg The Circuit深度访谈、2025-2026年公开演讲与政策交锋核心悖论: 越坚信AI的潜在风险越认为必须亲手建造、商业化并治理这项技术一、从OpenAI叛徒到9650亿美元AI巨头2020年12月Dario Amodei带着妹妹Daniela和十几名同事离开OpenAI。不是因为某一次安全争论而是信任和价值观的彻底破裂。Amodei看到Sam Altman从微软拿到10亿美元投资意识到OpenAI的营利化转型不可逆转。他后来形容在OpenAI内部继续争论自己的愿景是极其低效的。四年后Anthropic估值达到9650亿美元年营收约100亿美元2025年成为AI领域增长最快的公司之一。从2023年的0到1亿美元到2024年的10亿再到2025年的100亿——三年10倍增长。但数字不是故事的核心。核心在于Amodei是一位坚信AI可能毁灭人类的研究者同时也是一位亲手建造这项技术的CEO。这不是虚伪这是Anthropic的结构性悖论——也是整个AI行业的缩影。二、核心悖论为什么最担心的人必须亲手做Amodei的公开表态始终围绕一个令人不安的命题“AI系统正在快速接近——甚至可能很快超越——顶尖科学家、工程师和政策制定者的认知能力。”他在2025年初发表了一篇38页的文章警告人类即将获得几乎难以想象的力量而现有的政治、社会和技术机构是否足够成熟来负责任地管理它完全是未知数。但与此同时他领导的Anthropic正在全力开发更强大的模型Claude系列并在2025年实现了软件史上最快的商业化增长。这不是矛盾。这是Amodei的核心逻辑如果AI必然被建造出来那么最安全的方式是由那些真正理解风险的人来建造。他在Bloomberg访谈中解释了这个逻辑你不希望AI被那些只关心利润、不考虑长期后果的人垄断。如果安全研究者退出竞争剩下的就是纯粹的利润驱动者——那才是真正的危险。这个逻辑有说服力但也构成了一个无法逃脱的循环为了安全必须参与竞争为了竞争必须加速开发加速开发本身就增加了风险三、Constitutional AI把安全写进架构Anthropic与OpenAI最根本的区别在于安全的嵌入方式。OpenAI倾向于把安全视为能力之外的附加层——先训练强大的基础模型再通过各种对齐技术RLHF、监督微调让它听话。Anthropic的做法是Constitutional AI宪法AI在训练阶段就让模型学习一套原则这套原则锚定在类似《世界人权宣言》的文档上让模型在生成内容时就自我约束而不是事后被纠正。Amodei对此有一个精妙的类比传统安全方法像是在赛车后面加一辆救护车Constitutional AI是把安全气囊和刹车系统直接设计进车身。2025年Anthropic发布了Responsible Scaling Policy负责任扩展政策明确了不同能力水平的模型需要满足哪些安全标准才能部署。这是行业首个系统性的安全红绿灯机制。但讽刺的是这套安全机制最引人注目的时刻恰恰是它拒绝执行的时刻。四、五角大楼的正面冲突安全红线 vs 国家安全2026年2月Anthropic与特朗普政府爆发了一场公开的、史无前例的冲突。五角大楼要求Anthropic移除Claude的安全限制包括完全自主武器系统的禁令大规模国内监控的禁令作为交换条件 Anthropic可以保住一份2亿美元的国防合同。如果拒绝将被列为供应链风险——这个标签通常留给华为等外国对手。Amodei的回应是直接的“我们无法良心上同意这个请求。”他认为当前的前沿AI系统不够可靠不能在没有人类参与的情况下选择攻击目标。允许AI驱动的监控会危及基本自由。而且这些要求从来就不是原始合同的一部分。国防部长Pete Hegseth将Anthropic的安全护栏称为企业美德信号corporate virtue-signaling认为没有任何私人公司应该对美国军队的作战决策拥有否决权。这场冲突的结果是Anthropic成为历史上首个被美国政府列入黑名单的主要美国科技公司。而OpenAI和xAI则 reportedly 同意填补这个空缺接受所有合法使用的标准。五、商业化的速度从安全到利润有多远Anthropic的营利化故事本身就是对这个悖论的最佳注解。公司成立时是Public Benefit Corporation公共利益公司法律要求决策时考虑股东回报之外的因素——包括安全和社会影响。但2025年的融资数据讲述了一个更复杂的故事2025年3月35亿美元E轮估值615亿美元2025年9月130亿美元F轮估值1830亿美元2026年2月300亿美元G轮估值3800亿美元2026年5月650亿美元H轮估值9650亿美元14个月内估值翻了15倍。Amodei本人承认这种增长速度太疯狂了“it would be crazy if it did”。但他也指出这些数字已经开始接近全球最大企业的规模。更值得注意的是市场份额到2025年中期Anthropic在企业大语言模型市场占据了32%的份额超过了OpenAI的25%。在编程任务上Anthropic以42%的份额领先是OpenAI的两倍。企业选择Claude的原因恰恰是Anthropic最初的安全定位可靠性、可治理性、透明度。这验证了一个假设——企业愿意为值得信任的模型支付溢价。但这也创造了一个压力投资者期待与估值相匹配的增长这意味着更快的技术进步、更激进的市场扩张以及可能妥协于曾经定义Anthropic的审慎节奏。六、Mechanistic Interpretability给AI做MRIAmodei目前最关注的研究方向是Mechanistic Interpretability机械可解释性——用AI的MRI来理解模型内部到底在发生什么。他在2025年4月发表的文章《The Urgency of Interpretability》可解释性的紧迫性中直言“现代生成式AI系统以一种根本不同于传统软件的方式不透明。当一个生成式AI系统做某事时比如总结一份财务文件我们根本不知道它在特定或精确的层面上为什么做出这些选择。”他的目标是在2027年前打开生产AI系统的黑箱。原因很现实如果可解释性在能力之前成熟我们可以信任正在建造的东西。如果能力超过可解释性我们就是在将无法检查的系统部署到需要检查的地方。2026年的生产AI工作就生活在这个差距中。Amodei的这句比喻被反复引用“我们无法阻止这辆巴士但我们可以驾驭它。”底层技术的进步是不可阻挡的被太强大的力量驱动。但事情发生的顺序、我们选择构建的应用、以及向社会推广的细节——这些都是可以改变的。七、对工作的冲击50%入门级白领岗位将在1-5年内消失Amodei最引发争议的公开表态之一是对就业市场的预测。他在多个场合坚称AI可能在1到5年内消灭50%的入门级白领工作。他已经从软件开发者身上看到了早期迹象甚至在Anthropic自己的公司内也观察到了这种趋势。但Bloomberg访谈中关于工作的部分不止于悲观预测。Amodei也提出了一个重新想象的人类角色物理世界AI在虚拟空间越来越强但物理世界建筑、制造、农业的自动化进展较慢人际角色 medicine可以被重新想象为更 interpersonal人际化的版本不只是技术诊断而是关怀和陪伴人类中心的工作那些需要情感连接、道德判断和创造性协调的角色他同时强硬地反击了英伟达CEO Jensen Huang的末日营销批评。Amodei认为指出风险不是悲观而是务实。八、地缘政治与芯片把芯片卖给中国就像卖核武器给朝鲜Amodei对地缘政治的态度同样尖锐。他批评美国向中国出售高端NVIDIA芯片的政策把这个决定挑衅地比作向朝鲜出售核武器。他认为限制芯片出口可以给世界争取更多时间以负责任的方式处理这项技术。他的逻辑是如果没有地缘政治竞争AI竞赛将不再是国家之间的军备竞赛而是Anthropic和Google DeepMind等公司之间的竞争——这在他看来更容易协调。在2025年达沃斯世界经济论坛上Amodei与Google DeepMind CEO Demis Hassabis同台。两人都表示他们实际上希望发展稍微慢一点给社会更多时间为超级智能带来的根本性变化做准备。九、双重身份安全倡导者 vs 商业CEOAmodei的身份中有一个无法回避的结构性冲突。一方面他是AI安全的倡导者警告存在性风险呼吁透明度拒绝为自主武器提供技术。另一方面他是一家9650亿美元公司的CEO必须在竞争激烈的AI市场中取胜为投资者创造价值推动技术边界。学术界对此有清醒的分析“Amodei占据一个本质上冲突的位置——一方面他是AI安全的倡导者警告存在性风险另一方面他经营着一家在商业市场中竞争的公司。这种结构性利益冲突可能影响他的公开表态强调AI风险可以证明Anthropic’更安全’的AI开发方法的合理性同时推广Claude的能力又服务于商业目标。”Amodei自己如何回应这种批评他没有否认冲突的存在。相反他在Bloomberg访谈中提出了一个更激进的解决方案对AI公司征税分享AI财富。这不是一个典型的CEO会说的话。但正是这句话揭示了Amodei的底层信念他不是在为Anthropic争取特殊待遇而是在为整个行业设计制度制衡——即使这意味着他自己公司的利润会减少。十、不是奥本海默而是西拉德Bloomberg访谈的结尾主持人问Amodei是否把自己比作奥本海默。他的回答出人意料他不认同奥本海默而是认同Leo Szilard利奥·西拉德。西拉德是物理学家他第一个构想了核链式反应第一个写信给爱因斯坦推动曼哈顿计划但在战后却成为最积极的反核活动家之一。他是那种既启动某件事又第一个警告它危险的人。这个自我认同完美地概括了Anthropic的悖论建造者推动AI能力边界商业化竞争市场份额警告者最早指出风险拒绝自主武器呼吁可解释性和透明度制度设计者主张征税、分享财富、建立制衡机制Amodei不是在否认矛盾。他是在矛盾中寻找第三条路——一条既不完全拥抱技术乐观主义也不陷入技术悲观主义的道路。十一、结论悖论本身就是答案回到最初的问题为什么越坚信AI风险的人越认为必须亲手建造它Amodei的回答可以概括为三个层次第一层参与的必要性如果你退出空出的位置会被那些不考虑风险的人填补。安全研究者必须参与竞争否则安全永远不会被纳入技术的主流路径。第二层嵌入的可能性安全不是事后的补丁而是可以嵌入架构的。Constitutional AI、Responsible Scaling Policy、Mechanistic Interpretability——这些都是试图把安全写进代码的尝试。第三层制度的设计即使技术不可阻挡社会如何适应它是有选择空间的。征税、分享财富、建立国际协调机制——这些制度设计比技术本身更容易被改变。但悖论仍然存在每一次Anthropic的成功都在证明安全优先可以商业化。但每一次商业化成功又在加速AI能力的总体进步——包括竞争对手的能力。而AI能力的总体进步本身就是Amodei警告的风险来源。这不是一个能解决的矛盾。这是AI时代结构性的事实。正如Amodei所说“任何研究成果都会被以不同的方式使用你无法控制它如何被使用。AI是一种非常强大的方法我们需要接受一个事实它会被以我们不想看到的方式使用。”在这个前提下亲手建造不是傲慢的自信而是一种克制的悲观——承认无法控制结果但至少可以影响过程的走向。参考Bloomberg The Circuit: “Inside Anthropic, the $965 Billion AI Juggernaut” (2026年6月)Dario Amodei: “The Urgency of Interpretability” (2025年4月)Dario Amodei: 38页AI风险长文 (2025年初)2025全球机器学习技术大会Dario Amodei与Demis Hassabis对谈Pentagon vs Anthropic冲突 (2026年2月)Anthropic Responsible Scaling Policy (2025年)#Anthropic #DarioAmodei #AI安全 #OpenAI #Claude #AI商业化 #MechanisticInterpretability #ConstitutionalAI #AI伦理 #AI治理