ヘレン・トナー

「OpenAIの取締役会は、普通の取締役会ではありませんでした。OpenAIは、普通の会社ではないのです。この取締役会は非営利法人として、会社の公益ミッションを——利益や投資家の利益といったものより——最優先にするために、明示的に設置されたものです。ところがサムは長年にわたって、情報を隠したり、社内での出来事を実際と違うように伝えたり、場合によっては取締役会に対して直接嘘をついたりすることで、取締役会がその役割を果たすことを非常に難しくしていたのです。」

（原文："The OpenAI board was not a normal board. It's not a normal company. The board is a nonprofit board that was set up explicitly for the purpose of making sure that the company's public good mission was primary, was coming first over profits, investor interests, and other things. But for years, Sam had made it really difficult for the board to actually do that job by withholding information, misrepresenting things that were happening at the company, in some cases outright lying to the board."）

— TED AIショー・ポッドキャスト（2024年5月28日）^[25]

「ChatGPTが2022年11月にリリースされたとき、取締役会は事前に何も知らされていませんでした。私たちは、ChatGPTのことをツイッターで知ったのです。」

（原文："When ChatGPT came out November 2022, the board was not informed in advance about that. We learned about ChatGPT on Twitter."）

— TED AIショー・ポッドキャスト（2024年5月28日）^[26]

「安全プロセスに関して不正確な情報を何度も伝えられていたため、取締役会はそれらのプロセスがどれほど機能しているのか、何を改善すべきなのか、まったく把握できない状態でした。取締役会として独立した監視の役割を担うためには、CEOの言葉を信じられないというのは、完全に手の施しようのない状況です。」

（原文："On multiple occasions, he gave us inaccurate information about the small number of formal safety processes that the company did have in place, meaning that it was basically impossible for the board to know how well those safety processes were working or what might need to change. Not trusting the word of the CEO, who is your main conduit to the company, your main source of information about the company — it's just totally, totally impossible."）

— TED AIショー・ポッドキャスト（2024年5月28日）^[27]

「論文の件そのものは問題ではありませんでした。問題は、論文が発表された後、サムが私を取締役会から追い出そうとして、他の取締役メンバーに嘘をつき始めたことです。それはまさに、私たちが彼を信頼できるかどうかを根本から損なうような出来事でした。」

（原文："It had nothing to do with the substance of this paper. The problem was that after the paper came out, Sam started lying to other board members in order to try and push me off the board. So it was another example that just really damaged our ability to trust him."）

— TED AIショー・ポッドキャスト（2024年5月28日）^[28]

「サムに反旗を翻すことを、どれほど多くの人が恐れているか——これは本当に軽視されてきた重要な点です。彼らはかつてサムが批判的な人々に報復するのを目の当たりにしており、自分に何が起きるか、本気で怖れていたのです。」

（原文："How scared people are to go against Sam — this is something that has really gone under reported. They had experienced him retaliating against people, retaliating against them for past instances of being critical. They were really afraid of what might happen to them."）

— TED AIショー・ポッドキャスト（2024年5月28日）^[29]

「長年にわたり、サムは情報を隠したり、社内の実態を誤って伝えたり、場合によっては取締役会に対してあからさまに嘘をついたりすることで、取締役会が本来の仕事をすることをひどく難しくしていました。」

（原文："For years, Sam had made it really difficult for the board to actually do that job by withholding information, misrepresenting things that were happening at the company, in some cases, outright lying to the board."）

— TED AIショー・ポッドキャスト（2024年5月28日）^[30]

「リスクが高まるにつれ、業界からのメッセージは明らかに変わってきました。以前は信頼できるAIの構築や政府による規制の重要性を訴えていたのに、今では未熟なプロダクトを競い合って送り出し、真剣な立法の試みをあらゆる手で阻もうと、数億ドルのロビー活動に費やしているのです。」

（原文："As the stakes have gone up, there's been a clear shift in what we've heard from industry. Where they used to tout the importance of building trustworthy AI and supporting government regulation, they're now racing to push out immature products and spending hundreds of millions on lobbying to undercut any attempt at serious lawmaking."）

— Fast Company（2024年）^[31]

「正しいことをしようとしている企業は今後も必ずあるでしょう。しかし私たちは、業界が直面するインセンティブを真剣に考えなければなりません。そのインセンティブは、先を争って突き進み投資家を感心させることであり、公共の利益を守ることではないのです。」

（原文："I'm sure there will continue to be some companies that try to do the right thing, but we have to take the incentives facing industry seriously. And those incentives are to race ahead and impress investors, not to look out for the interests of the public."）

— Fast Company（2024年）^[32]

「ChatGPTが登場してから2年間に私たちが目にしてきたものは、AIシステムがさらに高性能かつ強力になり続けるとすれば、これから来るものへのほんの序章に過ぎなかったと、いずれ振り返ることになるでしょう。」

（原文："I think what we've seen over the two years since ChatGPT was released will turn out to have been just a taste of what's to come, if AI systems keep becoming more capable and more powerful."）

— Fast Company（2024年）^[33]

「どれだけ善意があったとしても、外部からの監視なしでは、このような自主規制は最終的に実効性を持たないものになってしまいます——とりわけ莫大な利益という圧力のもとでは。」

（原文："Even with the best of intentions, without external oversight, this kind of self-regulation will end up unenforceable. Especially under the pressure of immense profit incentives."）

— タシャ・マッコーリーとの共著、The Economist（2024年5月）^[34]

「民主主義の実験室は、常に私にとって大きな価値を持つものでした。この技術をどのように統治するかという実験が、真に実験として扱われ、実践の中で学んで調整・改善され続けることを願っています。」

（原文："The laboratory of democracy has always seemed pretty valuable to me. I hope that these different experiments that are being run in how to govern this technology are treated as experiments, and can be adjusted and improved along the way."）

— TIME誌、AIの最も影響力ある100人（2024年）^[35]

「AI業界は今、規制を恐れるべきではなく、むしろ何かが起きてから制定されるような規制を、もっと恐れるべきではないでしょうか。インシデントが起きれば、議会は即座に法律を通してしまうかもしれません。その方がよほど重く、使い勝手の悪いものになる可能性があります。」

（原文："Some of the sort of smarter and more thoughtful actors that I've seen in this space are trying to say, 'okay, what are the pretty light touch, pretty common sense guardrails we can put in place'"）

— TechCrunch StrictlyVCイベント（2024年6月）^[36]

「規制を無視するか、できるだけ相手に何もさせまいとする対立的な戦いとして捉えるのは、あまり生産的ではありません。異なる専門知識を持つ人々が力を合わせ、自分の持つ知見を持ち寄るという発想で取り組むことが、本当に価値あることだと思います。」

（原文："I think thinking of it as a productive collaboration between different people with different kinds of expertise, and bringing the expertise that you have, is really valuable. I think thinking of it as either something to kind of ignore, or as sort of an adversarial fight where you have to be kind of trying to get the other side to do as little as possible, I think will be less productive."）

— TechCrunch StrictlyVCイベント（2024年6月）^[37]

「AIについて専門家ではない方々と話すと、よく『私にはAIが理解できない』という声を耳にします。でも面白いことに、専門家と話しても同じことが起きます。彼らも『私にはAIが理解できない、そして誰にも理解できない』と言うのです。これはずいぶん奇妙な状況です。」

（原文："When I talk to people about artificial intelligence, something I hear a lot from non-experts is 'I don't understand AI.' But when I talk to experts, a funny thing happens. They say, 'I don't understand AI, and neither does anyone else.' This is a pretty strange state of affairs."）

— TEDトーク "How to govern AI — even if it's hard to predict"（2024年）^[38]

「AIの内部がどのように動いているかを深く理解できなければ、次に何ができるようになるのか、あるいは今この瞬間に何ができているのかさえ、正確に知ることは非常に難しいのです。」

（原文："Without deeply understanding AI, it's really difficult for us to know what it will be able to do next, or even what it can do now."）

— TEDトーク "How to govern AI — even if it's hard to predict"（2024年）^[39]

「現在のAI安全対策——たとえばチャットボットが言うべきでないことを言わないようにする強化学習などは、根本的な解決策ではなく、いわば絆創膏に過ぎません。システムがより賢くなるにつれて、こうした対処療法は持ちこたえられなくなるでしょう。」

（原文："Current safety methods — such as using reinforcement learning to make chatbots less likely to say things they aren't supposed to say — are bandaids, not fundamental fixes, and are unlikely to hold up as the underlying systems get smarter."）

— 米国上院司法委員会への書面証言（2024年9月17日）^[40]

「これらの企業が構築している技術がどれほど重大な結果をもたらすかという内部的な認識と、AIシステムがどれほど安全でなければならないか、またその開発・利用をだれが決めるべきかという問題をどれほど真剣に考えているかとの乖離は、目を見張るものがあります。」

（原文："It is jarring to see the mismatch between 1) internal expectations of how consequential these companies think the technology they are building will be, and 2) how seriously they are approaching questions about how safe their AI systems need to be and who gets to decide how they are developed and used."）

— 米国上院司法委員会への書面証言（2024年9月17日）^[41]

「本日、OpenAI取締役を正式に辞任しました。私たちの決断が常にOpenAIのミッションへの責任感から来ていたと、公私両面で述べてくださった多くの友人、同僚、支援者の方々に、心より感謝申し上げます。」

（原文："Today, I officially resigned from the OpenAI board. Thank you to the many friends, colleagues, and supporters who have said publicly & privately that they know our decisions have always been driven by our commitment to OpenAI's mission."）

— X（旧Twitter）投稿（2023年11月29日）^[42]

「OpenAIの社員から、今の会社をどう見ているかとよく聞かれます。いつも簡単には答えられません。思考連鎖の監視やシステムカードの整備など、良い取り組みもあります。でも、政策活動における不誠実さや脅迫的な戦術は、本当に問題だと思います。」

（原文："Every so often, OpenAI employees ask me how I see the co now. It's always tough to give a simple answer. Some things they're doing, eg on CoT monitoring or building out system cards, are great. But the dishonesty & intimidation tactics in their policy work are really not."）

— X（旧Twitter）投稿（2025年10月10日）^[43]

Scholiaにはヘレン・トナーに関する著作家プロフィールがあります。

Georgetown Website Profile