AIセーフティ・インスティテュート

AIの安全性は、2023年に、特にAIの潜在的な存亡リスクに関する公開声明によって、顕著な注目を集めるようになった。2023年11月のAI安全性サミットにおいて、英国と米国はそれぞれ独自のAIセーフティ・インスティテュート（以下AISI）を設立した。日本は2024年2月14日にAISIを設立した^[2][3]。2024年5月のAIソウル・サミット（英語版）では、国際的なリーダーたちが、英国、米国、日本、フランス、ドイツ、イタリア、シンガポール、韓国、オーストラリア、カナダ、欧州連合の機関からなるAISIのネットワークを形成することに合意した^[4]。

2023年、英国のリシ・スナク首相は、「英国を世界のAI安全規制の知的拠点だけでなく、地理的な拠点にする」という意向を表明し、AI安全性サミットの計画を発表した^[5]。彼は、AI企業が「自分たちの宿題に自分でマルをつける」ことはできないとして、独立した安全評価の必要性を強調した^[6]。2023年11月のサミットにおいて、英国のAISIはフロンティアAIタスクフォースの発展形として正式に設立され^[7]、米国のAISIはNISTの一部として設立された。日本はこれに続き、2024年2月にAISIを設立した^[8]。

ポリティコは2024年4月に、多くのAI企業が、評価のために、開発前の最先端のAIモデルへのアクセスを共有していないと報じた。Meta社のグローバル担当社長であるニック・クレッグは、多くのAI企業が、英国と米国のAISIが共通の評価ルールと手順を策定するのを待っていると述べた^[9]。実際、2024年4月に英国と米国の間で、少なくとも1つの共同安全テストで協力するという合意が締結された^[10]。当初ロンドンに設立された英国のAISIは、2024年5月に、多くのAI企業が拠点を置くサンフランシスコにオフィスを開設すると発表した。これは、英国のテクノロジー大臣ミシェル・ドネラン（英語版）によれば、「AIの安全性に関する新たな国際基準を設定する」計画の一環である^[11][12]。

2024年5月のAIソウル・サミット（英語版）において、欧州連合とその他の国々は、独自のAISIを設立し、国際的なネットワークを形成することに合意した^[4]。