ホールデン・カルノフスキー

2003年にハーバード大学社会学専攻を卒業した^[1]。ハーバード在学中はハーバード・ランプーン（ユーモア誌）のメンバーであった^[2]。

大学卒業後、コネティカット州ウェストポートに本拠を置く投資運用会社ブリッジウォーター・アソシエイツに就職した^[3]。同社での勤務中に、のちのGiveWell共同創設者となるイーライ・ハッセンフェルドと出会った^[3]。2006年、カルノフスキーとハッセンフェルドはブリッジウォーターの同僚たちと慈善活動のクラブを結成し、拠出金の効果的な寄付先を調査するようになった^[3]。

2007年、カルノフスキーとハッセンフェルドは同僚から300,000ドルの資金を集め、「クリア・ファンド」と呼ばれる基金を設立、職を辞してGiveWellをフルタイムで運営し始めた^[3]。GiveWellの目標は、クリア・ファンドの資金を最も効果的な慈善団体へ分配することであった^[3]。カルノフスキーのリーダーシップのもと、GiveWellが推薦する慈善団体へ動いた資金は2010年の約150万ドルから2015年には1億1,010万ドルへと拡大した^[4][5]。

2012年6月、GiveWellはFacebook共同創業者ダスティン・モスコウィッツの資産を管理するフィランソロピー財団グッド・ベンチャーズとの強固なパートナーシップを発表した^[6]。 ｂ

2014年、カルノフスキーはGiveWellとグッド・ベンチャーズの協力によるGiveWellラボを発展させる形でオープン・フィランソロピー・プロジェクト（現・コエフィシェント・ギビング）を共同設立した^[7]。

同組織は設立以来、AI安全・バイオセキュリティ・国際保健などの分野を中心に大規模な助成活動を展開し、2019年には370以上の団体に対し総額2億ドル以上の助成を推薦した^[8]。カルノフスキーはCEO、その後は共同CEOとして2023年7月まで組織をけん引した^[7]。

2017年、オープン・フィランソロピーがOpenAI（2015年設立）に3,000万ドルを助成したことを契機に、カルノフスキーはOpenAIの取締役に就任した^[9]。

2021年、妻ダニエラ・アモデイがAnthropicの共同設立者となったことによる利益相反（同業者）を理由に同職を辞した^[10]。

2023年、カルノフスキーはオープン・フィランソロピーの共同CEO職から離れ、AIリスク軽減に向けた直接業務の探求に専念した^[11]。2024年4月にはカーネギー国際平和基金のビジティング・スカラーに就任し、AIからの安全保障リスクに関する研究を続けた^[12][7]。

2025年1月、Anthropicの技術スタッフ（Member of Technical Staff）として入社し、同社の「責任あるスケーリング・ポリシー（RSP）」の策定およびその他の安全計画に取り組んでいる^[10]。

RSPとは、ますます強力になるAIモデルに関連するリスクを管理するための一連のプロトコルである。チーフ・サイエンス・オフィサー(CSO)のジャリッド・カプランのもとで報告する立場にある^[10]。2025年11月には責任あるスケーリング・ポリシー第3版（RSP v3.0）の策定を主導した^[13]。

2017年8月、当時OpenAIの安全・政策担当副社長だったダニエラ・アモデイと結婚した^[10]。ダニエラはその後、Anthropicを共同創業し、現在はその社長。 また、カルノフスキーとAnthropic CEOのダリオ・アモデイ（ダニエラの兄）は、かつて同じグループハウスに居住していた^[10]。

カルノフスキーとハッセンフェルドがGiveWellを設立した動機は、寄付において「最も少ない資金で最も多くの人々を助ける」という問題意識にあった^[14]。GiveWellは透明性を組織の中核的価値と位置づけており、推薦理由の詳細な公開とともに、過去の過ちを自ら記録・公開する専用ページを設けている^[15]。GiveWellは2025年時点で、150,000人以上のドナーから推薦先へ26億ドル以上の寄付を誘導し、34万件以上の死亡を回避したと推計している^[16]。

オープン・フィランソロピーにおいてカルノフスキーが提唱した概念が「ヒットベース寄付（hits-based giving）」である。これは、少数の圧倒的な成功事例が全体のインパクトの大部分を占めるという見方に基づき、失敗リスクを受け入れながら大きな成果を狙う慈善戦略である^[17]。この考え方はベンチャーキャピタル的な投資哲学との類似を持ち、グリーン革命や経口避妊薬の開発といった歴史的事例がその具体例として挙げられる^[18]。

オープン・フィランソロピーの助成配分の方針として、カルノフスキーは「世界観の多様化（worldview diversification）」を導入した。これは、複数の相互に競合する倫理的・実証的「世界観」それぞれに対して有望な活動に資金を分配することで、特定の世界観への過度な依存を避けるアプローチである^[19]。カルノフスキーは厳格な功利主義的一元論ではなく、高い不確実性の下での複数の倫理的フレームワークの並立を支持している^[11]。

カルノフスキーは個人ブログ「Cold Takes」において「最も重要な世紀（The Most Important Century）」シリーズを展開し、21世紀が人類史上最も重要な世紀となる可能性を論じた^[20]。この議論の中核は、変革的AI（transformative AI）の開発が今世紀中に起こる可能性が高く、それが人類の軌跡を根本的に変えるという主張である。カルノフスキーは変革的AIが15年以内（2036年まで）に開発される確率を10%以上、40年以内（2060年まで）を約50%、今世紀中（2100年まで）を約3分の2と見積もっている^[21]。彼は2015年ごろからAIリスクをオープン・フィランソロピーの最重要課題として位置づけるよう組織をけん引し、その観点を大きく変化させた^[7]。

Anthropicに参加後、カルノフスキーはRSP v3.0の策定を主導した。同ポリシーは、AI能力が一定の閾値を超えた際に適用すべきセキュリティや安全対策の枠組みを定めるものであり、「集団行動問題」（他社が同等の対策をとらない場合、単独で行動コストを負うことの非合理性）に対する現実的な回答として設計されている^[22]。

Summarize Timeline Fact Check

カルノフスキーの思想内容の理解を助けるため、彼自身の発言をいくつか引用する。

彼の思想の中核には、「最も効果的な慈善活動は、単なる感情的動機ではなく厳密な証拠と論理的分析に基づくべきである」という信念がある。また近年は、AI安全・長期主義・世代間倫理の問題が彼の思索の焦点となっている。以下は、一次資料から確認できる代表的な発言を分野別に示したものである。

GiveWell設立の動機

「少ない資金でより多くの人々を助けたいと思っていました。でも、どうすればいいのか、まったく見当がつかなかったのです。」

（原文：“We wanted to help the most people with the least money. We found that we had a lot of trouble figuring out how to do this.”）^[14]

ヒットベース寄付の論理

「高リスク・高リターンの慈善活動は『ヒットビジネス』と呼べるものです。失敗プロジェクトの積み重ねをはるかに超えるような、ほんの一握りの大きな成功が、インパクト全体の大部分を占めるのです。」

（原文：“We think of high-risk, high-reward philanthropy as a ‘hits business,’ where a small number of enormous successes account for a large share of the total impact — and compensate for a large number of failed projects.”）^[23]

フィランソロピーの比較優位

「政府にはインセンティブがなく、企業にもインセンティブがありません——本当に低確率で、けれど超壊滅的な最悪シナリオを心配するような組織の仕組みが、どこにも存在しないのです。」

（原文：“Governments do not have the incentive, corporations do not have the incentive to worry about really low-likelihood, super-duper worst-case outcomes.”）^[24]

PASTAの定義と重要性

「今世紀、世界に永続的な影響を与える最大の出来事は、科学技術の進歩においてあらゆる人間の営みを代替できるAIシステムの開発だと、私は信じています。そのようなAIを、私はPASTA（科学技術の進歩を自動化するプロセス）といいます。」

（原文：“I do believe that the number one thing that’s most likely to happen this century in a way that matters forever or matters for the whole world is the development of advanced AI systems that can basically do everything that humans do to advance sciences and technology. I abbreviate that kind of AI as a process for automating scientific and technological advancement. So the acronym is PASTA.”）^[25]

AIが人間を凌駕しなくても危険である理由

「AIリスクについての議論全体を、AIが人間より賢くなることは一切ないという前提で展開できると思っています。人間と同等の能力を持ち、ただ膨大な数が存在する——なぜなら、人間と違ってコピーできるから。それだけで十分に恐ろしいことが起こりえます。人間はもはや世界を支配できなくなるかもしれない。」

（原文：“I believe you can make the entire case for being extremely concerned about AI, assuming that AI will never be smarter than a human. Instead, it will be as capable as the most capable humans, and there will be a tonne of them — because unlike humans, you can just copy them. That could really be enough that then humans wouldn’t be in control of the world anymore.”）^[11]

長期主義とAIリスクの接続

「未来には今よりはるかに多くの人々が存在します。もし将来の人々の助けになることが今日何か一つできるとしたら、それは最も少ない費用で最も多くの人々を助ける最良の方法の一つです。長期主義とは、未来に生きる莫大な数の人々を私たちが気にかけるべきだという哲学的な主張です。」

（原文：“Well, guess where there’s a lot of people: the future. There’s way, way, way more future people than present people. So if there’s anything you can do today that will be more likely to help people who live all the way in the future, that’s one of the best ways to help a ton of people for a little money. So longtermism is this kind of philosophical point that there’s an enormous number of people in the future that we should care about.”）^[26]

AI安全基準への関心

「AIリスクの軽減にとって安全基準が重要だと感じる理由の一つは、どんなリスクを懸念しているにしても、まずそのリスクを測定すること、そして十分な知識のもとで決断することなしに大きなリスクを抱えたAIシステムを展開しないこと、この考えには皆が賛同できるはずだと思うからです。そうすることで、さまざまなリスクを予測し、進みすぎる前に対処できる——その『進みすぎる』ということこそが、私の中心的な懸念です。」

（原文：“One of the reasons I’m so interested in AI safety standards is because kind of no matter what risk you’re worried about, I think you hopefully should be able to get on board with the idea that you should measure the risk, and not unwittingly deploy AI systems that are carrying a tonne of the risk, before you’ve at least made a deliberate informed decision to do so. ‘Too fast’ is the central theme for me.”）^[27]

政府規制の不可避性

「AIから本当に低レベルのリスクにたどり着くためには、政府の政策が重要な役割を果たさなければならないと、私が知る限り思っています。高リスクになりうるこれらのシステムと、それを安全にする未成熟な科学、そして実際に安全にできるかどうかさえわからない状況がある。本当に安全になるには、競争ダイナミクスから抜け出し、全員が同じルールに従わなければならない。」

（原文：“As far as I can tell, there’s no way to get to an actual low-level risk from AI without government policy playing an important role. We have these systems that could be very dangerous, and there’s this immature science of making them safer, and we have not really figured out how to make them safer. The only way to get really safe, to have high assurance, would be to get out of a race dynamic and to have it be that everyone has to comply with the same rules.”）^[28]

世界観の多様化と功利主義への懐疑

「彼らは『なぜ徹底的功利主義の立場を取らないのか』と感じるでしょう。私の答えはまず『証明する義務はあなた側にある』です。これは、強硬派だと自認する人々としばしば感じる緊張感の一つです。」

（原文：“The first thing I would say to them is just, ‘The burden’s on you.’ And this is kind of a tension I often have with people who consider themselves hardcore: they’ll just feel like, well, why wouldn’t you be a hardcore utilitarian?”）^[11]

フィランソロピーの議論の欠如

「私たちの社会では、政府が何をすべきかについて多くの議論があります。企業が何をすべきかについての議論もある。でも財団が何をすべきかについては、議論がほとんどないのです。」

（原文：“There’s a lot of debate in our society about what the government should do. There’s debate about what corporations should do. But there’s very little debate about what foundations should do.”）^[29]