集合知プロジェクト

CIPは2022年8月、マイクロソフト最高技術責任者室（Office of the CTO）出身の政治経済学者ディヴィヤ・シッダースと、Google DeepMind出身の研究エンジニア、サフラン・フアンによって共同設立された^[1]。ジャスミン・ワン（Jasmine Wang）も創設時の共同創設者として参加した^[3]。

設立の背景には、既存の民主主義制度や市場機構が、パンデミック、気候変動、技術リスクといった複雑な集合的課題に対して不十分であるという認識があった。CIPの創設者たちは、AIをはじめとする変革的テクノロジーのガバナンスに集合知の手法を適用することで、より公正で民主的な技術開発のあり方を模索しようとした^[2]。

2024年、シダースとファンはその活動が評価され、TIMEが選出する「2024年AIにおける最も影響力のある100人」（TIME 100 Most Influential People in AI 2024）に選ばれた^[4]。

CIPは非営利のR&D機関として運営されており、エグゼクティブ・ディレクターはディヴィヤ・シッダースが務める。サフラン・フアンは現在テクノロジー・アドバイザーを務め、Anthropicの研究科学者として在籍している^[5]。

ディヴィヤ・シッダース（Divya Siddarth）

共同創設者・エグゼクティブ・ディレクター。スタンフォード大学で計算意思決定分析の学士号（2018年）を取得。マイクロソフト最高技術責任者室、オックスフォード大学AI倫理研究所、オストロム・ワークショップ（Ostrom Workshop）などを経てCIPを設立。英国AI安全研究所（AI Safety Institute）でAIと民主主義の担当を務めた経歴も持つ^[6]。

サフラン・フアン（Saffron Huang）

共同創設者・テクノロジー・アドバイザー。DeepMindの研究エンジニアを経てCIPを共同設立。英国AI安全研究所の設立にも関与した後、Anthropic社会的影響チームの研究科学者に転じた^[5]。

オードリー・タン（Audrey Tang, 唐 鳳）

上席研究員（2024年～）。台湾初のデジタル担当大臣（2016〜2024年）。TIMEが選出する「2023年AIにおける最も影響力のある100人」にも選ばれた^[7]。

ザリナ・アグニュー（Zarinah Agnew）

リサーチ・ディレクター^[8]。

アライメント・アセンブリは、AIの開発と展開に際して一般市民が意見を反映させるための熟議民主主義プロセスである。CIPが2023年2月に開始し、Pol.is（計算民主主義プロジェクトが開発するオープンソースのオンライン熟議プラットフォーム）などのツールを活用して実施された^[9]。

Anthropicとの協働

約1,000名のアメリカ人代表者を対象にAIシステムの価値原則（「憲法」）を集合的に策定するプロセスを実施し、Collective Constitutional AI（CCAI）の研究につなげた^[10]。

台湾デジタル省（moda）との協働

生成AIのガバナンスに関するIdeasthonプロセスを適用し、AIに関する公衆のニーズとリスクについての社会的合意形成を目指した^[1]。

OpenAIとの協働

LLMのリスクと危害について米国市民が最も懸念する事項を順位付けするプロセスを実施し、モデル評価と規制に関する知見を提供した^[11]。

Creative Commonsとの協働

CC（クリエイティブ・コモンズ）ライセンス作品のAI学習への利用に関する方針策定に向けた公衆意見収集プロセスを実施した^[11]。

英国フロンティアAIタスクフォースとの連携

英国AI安全サミット（ブレッチリー・パーク、2023年11月）にも参加し、政府機関との協働を推進した^[12]。

2023年、CIPはAnthropicと共同で「Collective Constitutional AI（集合的憲法的AI、CCAI）」の実証実験を行った。この実験では、Pol.isプラットフォームを使用して約1,000名のアメリカ人からAIモデルの行動を規定する原則（「憲法」）を集合的に策定し、それに基づいてClaudeと同規模のモデルをファインチューニングした^[13]。この研究により、公衆由来の憲法で訓練されたモデルは、Anthropicが内部で策定した憲法で訓練したベースラインモデルと比較して、9つの社会的次元においてバイアスが低いことが示された^[14]。

この取り組みは知識の一般公衆がオンライン熟議プロセスを通じて大規模言語モデルの挙動を集合的に設計した世界初の事例の一つとして、学術的に評価されている^[13]。

グローバル・ダイアローグ（Global Dialogues）は、ProlificおよびRemeshとの協力のもと実施されている継続的なAIガバナンスのための国際的公衆対話プロジェクトである。70か国以上から参加者を集め、隔月でAIが社会に与える影響についての熟議を行う^[15]。

2025年には7回の対話ラウンドを通じて70か国以上から6,000人以上が参加し、その成果は「2025年グローバル・ダイアローグ・インデックス」として公開された^[16]。

コミュニティ・モデルズ（Community Models）は、AI対応の熟議ツールを用いて、任意のコミュニティが独自の「憲法」（価値原則の集合）を集合的に策定し、それに基づいてオープンソースの言語モデルをファインチューニングできるプラットフォームである。Anthropicとの共同研究CCAIを基礎として開発された^[17]。

2024年3月、CIPは「民主的AIのロードマップ（A Roadmap to Democratic AI）」を公表した。このロードマップは、AIエコシステムを民主化するために2024年に実施可能な具体的手順を、モデル訓練・評価・データサプライチェーン・企業統治・政府投資など多岐にわたる領域にわたって網羅的に提示したものである^[18]。

CIPはAI開発・ガバナンスに関わる多様な機関と連携している。

Anthropic

Collective Constitutional AIの共同研究を実施したほか、アライメント・アセンブリでの協働を継続している^[13]。

OpenAI

LLMリスクに関する公衆意見収集プロセスを共同で実施した^[11]。

台湾デジタル省（moda）

生成AIガバナンスに関する政策形成への市民参加プロセスを共同で推進した^[1]。

英国AI安全研究所

（旧英国フロンティアAIタスクフォース）

英国政府のAI安全政策への市民関与モデルの構築に貢献した^[12]。

Creative Commons

CC作品のAI学習利用に関する方針策定を目的としたアライメント・アセンブリを実施した^[11]。

オードリー・タン（台湾初デジタル大臣）

台湾のvTaiwan・Join等の参加型民主主義プラットフォームを通じた連携を深め、同氏は2024年にCIPの上席研究員に就任した^[7]。

1. Saffron Huang, Divya Siddarth, Liane Lovitt, Thomas I. Liao, Esin Durmus, Alex Tamkin, Deep Ganguli. “Collective Constitutional AI: Aligning a Language Model with Public Input”. ’‘Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency (FAccT ‘24)’’. June 2024. DOI: 10.1145/3630106.3658979
2. Divya Siddarth, Saffron Huang. “Generative AI and the Digital Commons”. 2022. (Working paper, CIP)
3. Divya Siddarth, Saffron Huang. “Collective Intelligence over Artificial Intelligence”. In ‘‘AI Morality’’. Oxford University Press. （寄稿章）
4. Divya Siddarth, Saffron Huang, Audrey Tang. “A Vision of Democratic AI”. ‘‘The Digitalist Papers’’. Stanford Digital Economy Lab.
5. Collective Intelligence Project. ‘‘A Roadmap to Democratic AI’’. Technical report, The Collective Intelligence Project, 2024. URL: CIP Roadmap PDF