怎样用有限的资金帮助更多人？有效利他主义（Effective Altruism，简称“EA”）正是从这一简单问题出发，促使人们比较不同慈善项目的效果，从捐赠蚊帐、预防疟疾，到后来投入数亿美元研究AI安全。

SBF与FTX的崩塌，曾让这场运动陷入信任危机。近期，AI研究员辞职、安全评估机构以及捐赠网络引发的争议，再次将EA推至风口浪尖。当一些人将防止AI毁灭人类视为最值得投入的事业时，他们的判断如何影响研究方向和资金分配？这其中又涉及哪些利益与权力问题？

在本期节目的上篇，我们通过科技记者Afra的视角，了解到EA如何从一场讨论“怎样更有效地做好事”的运动，逐渐影响了当今的AI研究、资金流向，甚至政治议程。而这些思想之所以能产生如今的影响力，离不开背后巨额资金的支撑。

所以在节目的下篇，硅谷101对话了其中一位重要的捐赠者——以太坊联合创始人Vitalik Buterin。他曾在2021年向多家慈善机构捐出一批加密货币，用于疫情救助、全球健康和科研等领域。其中捐给未来生命研究所（FLI）的部分，据他回忆大约兑现了4-6亿美元。FLI也明确表示，Vitalik是该机构迄今最大的捐赠者。然而后续FLI的关注方向发生了变化：从研究所有对抗人类存在性风险的领域，转向全力押注AI安全这一个方向，并越来越走向政策行动。

Vitalik在节目中告诉我们，他尝试过与FLI沟通，希望对方拓展关注领域，但FLI拒绝了，这成为他们分歧的起点。在他看来，EA的思想在人对抗自然（man v.s nature）的领域非常有效，但踏入与人博弈（man v.s man）的领域时，情况会变得更加复杂。

Vitalik认为，AI是否存在毁灭人类的风险，仍有极大的不确定性；不同立场的人对Anthropic的安全哲学存在不同质疑，甚至在EA内部，也存在支持Anthropic和反对Anthropic的两个人群；面对科技的进步与种种未知风险，他总结出了一套d/acc（防御性加速主义）思想，主张优先发展能保护人、分散权力的技术，例如网络安全、疫苗和空气过滤，提高社会抵御风险的能力。

以下是这次对话内容的精选：

01

Vitalik谈AI风险：

是否成立还有太多不确定的点

Yiwen：你最初接触EA是什么原因？当时是什么吸引了你？

Vitalik：我第一次听到理性主义和EA这两个概念，可能是2013年和2015年之间，那个时候两个都很早期。Eliezer Yudkowsky是在理性主义那边的，他有一个博客叫LessWrong，写过很多很多的文章，叫The Sequences（系列文章），他们在谈关于物理学、道德等所有有意思的话题。

有效利他主义者的这群人有说到：其实我们大部分人做的慈善，大家的目的是非常好的，大家的心是非常好的，但是大部分的效率是很低的。他们在那个时候讨论了很多在非洲健康的话题。他们有一个很出名的统计数字：如果你用（那个时候的）2000美元给一些非常穷的非洲国家的人买蚊帐，就可以防护很多人不让他们得疟疾，你每付2000美元，就可以救一个人的命。

如果真的是这样子的，那我自己也必须花自己的钱到这样的地方。2016年和2017年的时候，以太币涨了10倍，于是我把一小部分的以太币卖掉了，捐给那些组织。

药浸蚊帐是全球抗疟最有效的干预手段之一，也是EA"蚊帐时期"的标志物 图片来源：President's Malaria Initiative（公有领域）

Yiwen：你开始关注EA的时候，对AI安全的思考是什么样的？你当时捐款、去接触一些组织，它们对于AI安全的涉猎大概是怎样的情况？

Vitalik：那个时候，我关于AI安全的思想还是非常抽象的。我知道了AI理论上是一个非常重要的话题，有可能他们说的是真的，有可能AI的安全就会决定人类未来的命运。但是不管这个可能性是100%还是0.1%，在那个时候，思考这些话题和研究这些话题的人非常非常少。

2015年，我们现在在说的这个AI是几乎不存在的。我们2018年担心的所谓的AI，可能就是摄像头和带有AI辅助的数字监控。2020年到2023年之间，GPT-3出来的时候就改变了非常多，AI变成了一个真正的话题。到ChatGPT出来了，我们开始理解：有可能AI真的会发展得非常非常快，AI也真的会给我们带来很多很多的变化。

2022年之前，唯一的答案就是你怎么能多帮助研究，人类知道得更多，那对我们更好。但是2022年之后就变了，从一个抽象的话题，变成了一个具体的话题。

泓君：你会担心AI的安全问题吗？

Vitalik：大家问我P(doom)（人类灭绝的概率）——AI或者其他的风险会完全毁灭我们的世界、人类会不存在的概率——我会说0.1。我为什么说0.1？为什么不说0.03？为什么不说0.3？其实说得更明确是很难的，因为我从开始就有非常大的不确定性，有很多很多不确定的点。

第一，AI的发展会多快？有可能到达大家说的所谓的AGI，会需要10年，也可能300年。

第二，Yudkowsky说的alignment problem（对齐问题）到底是不是一个真正的问题？会不会这个问题很简单地自己就解决了？举个例子：那时候我们做一个非常聪明的AI，我们跟它说希望有一个没有癌症的世界，这个AI觉得最简单的办法就是把整个世界毁灭了，把所有人都杀了。其实如果你现在跟Claude和GPT和现代的AI说话，你就知道，现在的AI比较了解语境，它们了解我们的含义——这是10年前比较难预测的一个变化。

但是这个也不一定意味着对齐问题就不是一个非常大的问题。如果你现在问Yudkowsky：你看现在的AI，如果你跟它们说要治癌症，它们就不会完全毁灭这个世界，那是不是对齐的问题解决了？他会说：并不会。这个问题只是对齐问题的一小部分，还有很多其他的部分，还有很多的我们完全没有解决、完全不知道的风险。这里的不确定性也非常多。

第三，就是政治的不确定性。因为现在有不同的国家、不同的人、不同的公司都在做AI。在一个竞争的情况下，大家有不同的目的，大家同时希望有安全，大家也希望自己赢了。如果比如在AI变得非常危险的时候，同时第三次世界大战出来了，那可能最危险的并不是因为什么技术的问题，而是因为在那个时候，大家会最不思考安全，只会思考“自己赢是最重要的”。

所以就是有技术的不确定性，乘以另外一个技术的不确定性，乘以政治的不确定性，再乘以更多更多。AI是不是对我们真的会危险，是非常难预测的。

02

Vitalik的捐赠：

狗狗币、疫情与分歧

泓君：我注意到，您在2021年5月12号，应该是同时捐赠了非常多的EA组织；在2017年，捐赠了尤德考斯基当时创建的机器智能研究所（MIRI）这些组织。可不可以讲一下，在2021年的那一天，您在捐赠很多组织的时候，当时你在想什么？你是怎么样做出这个捐赠的决定的？

Vitalik：这个故事是非常好玩的。2020年的时候，狗狗币非常成功，大家都开始发自己的狗狗币，其中最大的就是Shiba Inu（柴犬币/SHIB）。

柴犬币SHIB官方标志，诞生于2020年8月，发行量为1000万亿，2021年5月初，柴犬币价格剧烈上涨引发市场关注。图片来源：shib.io

他们也做了一个很好玩的事情：他们把他们的币的supply（代币供应量）的一半，放在我的钱包里。那个时候还是疫情的时候，所以我很长时间什么都没有做。但是有一天我发现，这些币的市值就真的到了80亿，真的非常非常夸张。所以我就选择了：那好吧，它们有可能一周之内市值变得那么高，但可能一周之后这个泡沫就会被炸了，它们会再次变得很低。

我做了很多很复杂的工作，把那些狗狗币拿出来了，一开始我把它们快速地卖成了以太币，大概我赚了可能7000万美元的以太币。我把大部分捐给了Against Malaria Foundation（抗疟疾基金会），就是买蚊帐的组织。这个钱可能是我能够拿出来的最多的钱，那应该给一个比较安全的、无争议的组织。我也给了一些其他的longevity（长寿健康）的组织。

因为我的市场深度不够，流动性不足以让我卖掉那么多的狗狗币，所以我卖成以太币之后，还是留下了非常非常多的狗狗币。所以我就决定了：那好吧，可能现在这些币都会跌得很快、跌得很惨，我还是把我剩下的币捐给一些其他的、我觉得比较好的组织，如果他们自己卖掉的时候能拿到一点点，那就好。在我的思想里，他们最多能拿到可能是2000多万美元。

所以我把一半给印度的一个抗COVID的组织CryptoCOVID Relief，另外一半给了FLI（未来生命研究所）。FLI在那个时候是一个研究、开始对抗所有existential risk（可能终结人类的风险）的组织。他们研究每一种大的风险，比如生物相关的、AI相关的、核战争相关的风险。他们跟我介绍了他们的一个计划，告诉我他们理论上能达到最多一个亿，但是2000万他们也能做非常多。所以我说，那好吧，我给你们我的柴犬币。

三个月之后，我发现那些狗狗币并没有跌。第一个组织CryptoCOVID Relief卖完了这些币，拿到了4.7亿美元。我不知道FLI具体拿到了多少，有可能4个亿，有可能6个亿。

完全超出我的想象，如果我能预料到这样的结果，我做的事情会非常非常不一样。所以我下一年跟CryptoCOVID那个组织的Sandeep聊天了，说服了他把他的钱的一半还给我，然后我们开始做自己的一些抗疫情的工作，包括研究过滤器、紫外光、口罩、还有长新冠的研究，我们捐给了一些开源疫苗的公司，一个是RADVAC（开源鼻喷疫苗项目），一个是PopVax（印度生物技术公司）。

大概2022年初，大家都觉得COVID结束了，所以我们开始对抗所有的空气传播疾病。我们用了两个亿就做了非常多。Sandeep用了他的2.7亿，可以说是升级了印度的整个医疗制造能力。

大概在这个时候，GPT-3出来了之后，FLI的思想有一个非常大的变化。第一，他们从关心所有的existential risk，变成了只关心AI；第二，他们从一个研究的态度，变成了一个政治行动的态度。他们开始用一个很具体的策略，开始思考应该支持哪些法律、应该支持哪些政客。他们开始做很多我要么不认同、要么是我不会用自己的钱去做的事情。

我跟他们沟通了两三次，我跟他们说了我原来的目标是支持所有对抗存在性风险的领域，我希望他们扩大范围。但是他们拒绝了，他们要把他们的钱都放到一个以AI为中心和以政策为中心的方向。同时他们呼吁的那些法律也开始出来了，很多a16z和硅谷的投资者很不开心，他们开始把AI安全当成他们的主要敌人，这大概是从2023年的时候开始的。

03

从救助生命到影响政策

EA的思想还有效吗？

泓君：你觉得现在你的这些想法有变化吗？怎么捐、以及如何捐？包括其实捐赠以后，我们也看到整个世界在发生变化——AI在迅速地成长，他们把这个钱投入的方向，跟开始我们想去非洲治愈疾病的初衷会不太一样。

Vitalik：我觉得EA里面有一个重要的概念，就是neglectedness（被忽视程度），它的意思是：有没有其他的人已经在做？大概10年前我认为，每一个EA和理性主义相关的领域，在当时都是非常被忽视的。

但是现在并不是这样子的。现在AI的安全是一个非常高级的话题，还有长寿健康这个话题。而全球公共卫生其实2025年的时候受了很大的伤害——因为Elon Musk做的那些、和美国的一个政治变化，他们之前支持了很多公共卫生相关的项目，很快就停了，制造了更多的问题。所以对全球公共卫生，我觉得现在变得更重要了，是一个非常值得支持的话题。

但大部分其他的领域并不是被忽略了。不是因为投入的资源太少，而是处理的方法有误，所需的解决方法也是完全不一样的。然后解决这些问题也并不是一个研究的问题，真的开始变成一个政策问题。但是政策的问题一个最大的挑战，就是你很难知道一个政策是好的还是坏的。所以政策的问题跟之前EA的人思考的问题是非常不一样的。

因为之前的EA平常会思考的问题就是：如果你捐给机构A，你可能会救10个人的命；如果你捐给机构B，你会救100个人的命。你的挑战就是你要知道哪个是10、哪个是100。但是现在是完全不一样的，因为你在支持一个政策，那个政策有可能会有好的效果，也有可能会有坏的效果，其实都不知道哪个效果是好的、哪个效果是坏的，这是很复杂的。

这个政策有一些直接的效果，就是它怎么直接影响那些公司的激励；它也有一些间接影响。比如如果一个很有钱的人比较公开地花5个亿去支持一些政治话题，其他人可能会很不开心，他们会觉得“有一个土豪在影响我们的政治”，而这个AI安全的议程，他们会觉得是一个只有土豪思考的东西。所以可能会导致更多人开始反对AI安全。

这是一个man v.s man（人与人对抗）的问题，是特别复杂的，因为你在对抗的那个挑战，是跟你一样聪明的。我觉得EA的思想，在man v.s nature（人对抗自然）的这些领域是非常管用的，但是在man v.s man时就变得复杂很多。

04

Anthropic的安全哲学

为何遭受质疑？

泓君：归纳总结一下，硅谷有这样几个大的派系：EA、理性主义、还有以Andreessen Horowitz（a16z）为代表的e/acc，它是AI加速主义。现在应该主要是这三大AI流派。还有你的d/acc。

Vitalik：我可能会说：第一是支持Anthropic的EA，第二是离Anthropic更远的EA，第三还有PauseAI（“暂停AI”运动）。PauseAI是更偏向民粹一点的，他们是更愿意跟一些更主流的人合作，他们也更愿意直接说所有的理性主义和AI是不好的。第四就是e/acc，包括Jeff Bezos，还有a16z。

理性主义者他们的位置现在是很有意思的。他们有很多人，思想也是很不一样的，但是他们也会觉得他们和EA是类似的——当然也有很多很重要的区别。如果你现在看到理性主义的人和一些新闻，你会发现差距是很大的。

泓君：刚刚你提到有支持Anthropic的EA和反对Anthropic的EA，这部分可以展开讲讲吗？这两类人是有什么样观点上的不一样？

Vitalik：支持Anthropic的EA会说：AI是很危险的，但是不做AI是不可能的，因为这个世界有很多不同的团队、不同的公司、不同的国家。所以唯一的办法就是：如果一个公司有好人，应该由这个好的公司赢。因为它们在赢的时候，至少会有更好的原则，在最需要的时候会花更多的精力把AI做得好。那么其实有很多的方面，你也可以说Anthropic就是比OpenAI更好。你看到OpenAI的那些内斗，你看它核心的人的思想和思维是什么样子的；至少应该保证“希望人类醒来的人”会掌握最强大的AI——这就是Anthropic。这些人也会说，Anthropic真的在做非常多的安全相关的研究。

关于Anthropic的一个联合创始人Chris Olah，我有一个好玩的故事：我和Chris Olah在多伦多读过一所非常小的私立学校，叫Abelard School，它一共有45个人。我上九年级的时候，他在十一年级。他给我介绍了很多关于计算机科学、关于数学的东西。其实我开始用Linux、我开始非常支持开源的一个原因就是他。我觉得至少Anthropic的这位联合创始人是一个好人。

那反对Anthropic的观点，第一就是它刺激了AI竞赛，把AI的发展速度加快了很多。

我最近听到的一个有意思的观点：OpenAI其实愿意把AI的发展做得慢一点，所以他们24年、25年的时候，没有把所有的资源放到做更好的前沿模型上，他们开始做Sora这种视频生成模型，还开始做更多小项目。然后今年初Mythos出来了，Mythos出来之前我觉得我们都会觉得GPT是最强的，就是我们都会默认用GPT的。但是有了Mythos和Fable之后，真的感觉到Anthropic是走在前面创造的人，很多人开始用Claude了。那个时候，OpenAI就把他们很多业余项目关掉了，开始加速，专注做