人工知能の哲学

From Wikipedia, the free encyclopedia

人工知能の哲学（じんこうちのうのてつがく、英: philosophy of artificial intelligence）は、心の哲学と計算機科学の哲学[1]の一分野であり、人工知能と、知性、倫理学、意識、認識論、[2][3]自由意志についての知識・理解に対する人工知能の含意を探求する。[4][5]さらに、この技術は人工的な動物や人工的な人間（少なくとも人工的な生命体；人工生命参照）の創造に関わるため、この分野は哲学者にとっても重大な関心事である。[6]これらの要素が人工知能の哲学の出現に貢献した。

人工知能の哲学は、次のような問いに答えることを試みる。[7]

  • 機械は知的に行動できるか？人間が思考によって解くあらゆる問題を解けるか？
  • 人間の知性と機械の知性は同じものか？人間の脳は本質的にコンピュータなのか？
  • 機械は、人間と同じ意味で心・精神状態・意識を持てるか？「物事がどのように感じられるか」を経験できるか（すなわちクオリアを持つか）？

これらの問いは、人工知能研究者・認知科学者・哲学者それぞれの異なる関心を反映している。これらの問いへの科学的な答えは、「知性」と「意識」の定義、および議論の対象となる具体的な「機械」に依存する。

人工知能の哲学における重要な命題には以下のものがある。

機械の知性

AI研究において、「知性」についての問いは機械の振る舞いに関わるものであり、思考の概念そのものを一般に問題にするわけではない。[独自研究?][13]

知性の定義

チューリング・テスト

→詳細は「チューリング・テスト」を参照
チューリング・テストの「標準的解釈」[14]

1949年、計算機科学者アラン・チューリングは知性を定義する問題を、会話に関する単純な問いに還元した。彼は、機械が普通の人間と同じ言葉を使って問いかけられたあらゆる質問に答えられるなら、その機械を知的と呼んでよいと提案した。[15]現代的な実験デザインでは、オンラインのチャットルームを使い、参加者の一人が実在の人間で、もう一人がコンピュータプログラムとなる。どちらが人間かを誰も判断できなければ、そのプログラムはテストを通過する。[8]チューリングは、（哲学者を除いて）誰も「人間は考えられるか？」という問いを問わないことを指摘する。彼は「この点について議論し続けるのではなく、誰もが考えているという礼儀的慣習を持つのが通例だ」と書いている。[16]チューリングのテストはこの礼儀的慣習を機械にも拡張し、機械が人間と同じくらい知的に振る舞うなら、その機械は人間と同じくらい知的であると提案する。

チューリング・テストへの批判のひとつは、このテストが機械の振る舞いの「人間らしさ」を測るにすぎず、振る舞いの「知的さ」を測るものではないというものである。人間らしい振る舞いと知的な振る舞いはまったく同じではないため、このテストは知性を測ることに失敗している。スチュアート・ラッセルとピーター・ノーヴィグは「航空工学のテキストは、ハトを欺けるほどハトそっくりに飛ぶ機械を作ることをその分野の目標と定義しない」と書いている。[17]

目標達成としての知性

単純反射エージェント

21世紀のAI研究は、知性を目標志向的な行動の観点から定義する。この立場では、知性とは機械が解くことを期待される一連の問題として捉えられる——解ける問題が多く、解がより優れているほど、そのプログラムはより知的とみなされる。AI創設者のジョン・マッカーシーは知性を「世界において目標を達成する能力の計算的部分」と定義した。[18]

スチュアート・ラッセルとピーター・ノーヴィグは抽象的な知的エージェントを用いてこの定義を形式化した。「エージェント」とは環境を知覚し行動するものである。「性能尺度」とはエージェントにとっての成功が何を意味するかを定義するものである。[19]

  • 「エージェントが過去の経験と知識に基づいて性能尺度の期待値を最大化するように行動するなら、そのエージェントは知的である。」[20]

このような定義は知性の本質を捉えようとする。チューリング・テストとは異なり、タイプミスのような非知的な人間的特徴を測らないという利点がある。[21]一方で、「考えるもの」と「考えないもの」を区別できない欠点もある。この定義によれば、サーモスタットでさえ初歩的な知性を持つことになる。[22]

機械が一般的知性を示せるという論証

脳はシミュレートできる

→詳細は「人工脳」を参照
正常な成人の脳のMRIスキャン

ヒューバート・ドレイファスはこの論証を次のように説明する。「神経系が物理法則・化学法則に従うとすれば——そう考えるあらゆる根拠があるのだが——……われわれは……何らかの物理的装置で神経系の振る舞いを再現できるはずだ」。[23] 1943年に初めて提示され、[24] 1988年にハンス・モラヴェックによって鮮明に描写されたこの論証は、[25] 現在は未来学者レイ・カーツワイルと結びつけられており、彼は2029年までに完全な脳のシミュレーションを行うのに十分な計算能力が得られると推定している。[26]2005年には、ヒトの脳の大きさ（1011ニューロン）を持つ視床皮質モデルのリアルタイムでないシミュレーションが実行され、27プロセッサのクラスタ上で脳の1秒間のダイナミクスをシミュレートするのに50日かかった。[27]

AIの最も手厳しい批評家（ヒューバート・ドレイファスやジョン・サール）でさえ、脳のシミュレーションが理論上可能であることには同意している。[注釈 1]しかしサールは、原理上、あらゆるものがコンピュータによってシミュレートできると指摘する。したがって定義をその限界まで推し進めると、あらゆるプロセスが技術的に「計算」とみなせるという結論になる。「われわれが知りたかったのは、心をサーモスタットや肝臓から区別するものは何かだ」と彼は書く。[30]したがって、生きた脳の機能をシミュレートするだけでは、知性と心の本質に関する無知を認めることになり、航空工学の理論的理解なしに生きた鳥を羽一枚一枚まで精密に模倣してジェット機を作ろうとするようなものだ。[31]

人間の思考は記号処理である

→詳細は「物理記号システム」を参照

1963年、アレン・ニューウェルとハーバート・サイモンは「記号操作」が人間と機械の知性の本質であると提案した。彼らは次のように書いた。

  • 「物理記号システムは、一般的な知的行動のための必要十分な手段を持つ。」[10]

この主張は非常に強力である。それは、人間の思考が記号操作の一種であること（記号システムは知性にとって必要であるため）と、機械が知的になれること（記号システムは知性にとって十分であるため）の両方を含意する。[32]この立場の別のバージョンは哲学者ヒューバート・ドレイファスによって「心理的仮定」と呼ばれて説明された。

  • 「心は形式的規則に従って情報のビットを操作する装置として見ることができる。」[33]

ニューウェル、サイモン、ドレイファスが論じた「記号」は、<dog>や<tail>のように世界の対象に直接対応する単語的で高レベルの記号であった。1956年から1990年の間に書かれたほとんどのAIプログラムはこの種の記号を使用していた。統計と数学的最適化に基づく現代のAIは、ニューウェルとサイモンが議論した高レベルの「記号処理」を使用していない。

記号処理に反対する論証

これらの論証は、人間の思考が高レベルの記号操作（のみ）からは成り立たないことを示す。これらは人工知能が不可能だということを示すものではなく、記号処理以上のものが必要だということを示すにすぎない。

ゲーデル的反機械論の論証
→詳細は「機械論 (哲学): ゲーデル的論証」を参照

1931年、クルト・ゲーデルは不完全性定理により、論理の形式体系（高レベルの記号操作プログラムなど）が証明できない「ゲーデル命題」を常に構成できることを証明した。構成されたゲーデル命題は真であるにもかかわらず、与えられた体系の中では証明不可能である。（構成されたゲーデル命題の真性は与えられた体系の無矛盾性に依存する。微妙に矛盾した体系に同じプロセスを適用すると成功しているように見えるが、実際には偽の「ゲーデル命題」を生み出す。）[要出典]さらに推測的に、ゲーデルは人間の心は最終的に任意の正当な数学的命題（可能なゲーデル命題を含む）の真偽を正しく判定できると推測し、したがって人間の心の能力はメカニズムに還元できないと論じた。[34]哲学者ジョン・ルーカス（1961年以来）とロジャー・ペンローズ（1989年以来）はこの哲学的反機械論の論証を擁護してきた。[35]

ゲーデル的反機械論の論証は、人間の数学者からなるシステム（あるいは人間の数学者のある理想化）が無矛盾（完全に誤りがない）であり、かつ自身の無矛盾性を完全に信じている（自身の無矛盾性から論理的に帰結するすべての推論ができる、ゲーデル命題への確信を含む）という、一見無害な主張に依存する傾向がある。[要出典]これはチューリングマシンにとっておそらく不可能である（停止問題参照）。したがってゲーデル論者は、人間の推論はチューリングマシンには捉えられないほど強力であり、ひいては任意のデジタル機械装置にも捉えられないと結論する。

しかし、科学・数学のコミュニティにおける現代のコンセンサスは、実際の人間の推論は矛盾しているというものである。人間の推論の無矛盾な「理想化バージョン」Hは、論理的にHの無矛盾性についての健全だが直感に反したオープンマインドな懐疑主義を採用せざるをえない（さもなければHは証明上矛盾する）し、ゲーデルの定理は人間が機械では決して複製できない数学的推論能力を持つという有効な論証につながらない。[36][37][38]ゲーデル的反機械論の論証は必ず失敗するというこのコンセンサスは、Artificial Intelligence[要リンク修正]誌において強く示されている。「ゲーデルの不完全性の結果を利用して計算主義テーゼを攻撃しようとするいかなる試みも、これらの結果が計算主義テーゼと完全に両立するため、必然的に誤ったものとなる。」[39]

スチュアート・ラッセルとピーター・ノーヴィグは、ゲーデルの論証が現実世界の人間の推論の本質を考慮していないことに同意する。それは無限のメモリと時間が与えられたとき理論上何が証明できるかに適用される。実際には、実際の機械（人間を含む）は有限の資源を持ち、多くの定理を証明するのに困難を覚えるだろう。知的な人間であるためにすべてを証明できる必要はない。[40]

より非形式的には、ダグラス・ホフスタッターはピューリッツァー賞受賞作『ゲーデル、エッシャー、バッハ』の中で、これらの「ゲーデル命題」は常にシステム自身を参照しており、これをエピメニデスのパラドックスが「この文は偽だ」や「私は嘘をついている」のような自己参照的な文を使う方法と類比する。[41]しかしエピメニデスのパラドックスは、機械でも人間でも、ルーカス自身でさえも、命題を作るものすべてに当てはまる。

  • ルーカスはこの命題の真性を主張できない。[42]

この命題は真だが、ルーカスは主張できない。これはルーカス自身が機械について述べたのと同じ制限に服していることを示しており、すべての人間も同様である。したがってルーカスの論証は無意味である。[43]

人間の推論が非計算的であるという結論の後、ペンローズは物議をかもしながら、量子力学的状態の崩壊に関わる何らかの仮説的な非計算的プロセスが人間に既存のコンピュータに対する特別な優位を与えるという推測に進んだ。既存の量子コンピュータはチューリング計算可能なタスクの複雑さを軽減するだけで、依然としてチューリングマシンの範囲内のタスクに制限されている。[要出典]ペンローズとルーカスの論証によれば、量子コンピュータがチューリング計算可能なタスクのみを完了できるという事実は、量子コンピュータが人間の心を模倣するのに十分ではないことを意味する。[要出典]したがってペンローズは、波動関数の自発的量子崩壊を通じてプランク質量のスケールで新しい物理学を出現させる可能性がある量子重力などの、新しい物理学に関わる他のプロセスを求める。これらの状態は、ニューロン内部と複数のニューロンにまたがる両方で生じると彼は示唆した。[44]しかし他の科学者たちは、脳の中に量子計算を利用する説得力ある有機的メカニズムが存在しないこと、また量子デコヒーレンスのタイムスケールがニューロン発火に影響するには速すぎることを指摘する。[45]

ドレイファス：暗黙的技能の優位
→詳細は「ヒューバート・ドレイファスの人工知能観」を参照

ヒューバート・ドレイファスは、人間の知性と専門知識は主として段階的な記号操作ではなく速い直観的判断に依存していると論じ、これらの技能は形式的規則に決して捉えられないと主張した。[46]

ドレイファスの論証はチューリングが1950年の論文Computing machinery and intelligence（英語版）で先取りしており、チューリングはこれを「振る舞いの非形式性からの論証」と分類した。[47]チューリングはこれに対し、複雑な振る舞いを支配する規則を知らないからといって、そのような規則が存在しないということにはならないと論じた。彼は書いた。「振る舞いの完全な法則の不在を、われわれはそれほど容易に確信できない……そのような法則を見つける唯一の方法は科学的観察であり、われわれは『十分に探した。そのような法則は存在しない』と言える状況を知らない。」[48]

ラッセルとノーヴィグは、ドレイファスが批判を公表して以来、無意識の推論を支配する「規則」の発見に向けた進歩がなされていることを指摘する。[49]ロボット工学研究における状況運動は、知覚と注意における無意識の技能を捉えようとする。[50]ニューラルネット、進化的アルゴリズムなどの計算知能パラダイムは、主として無意識的推論と学習のシミュレーションを目指す。AIへの統計的アプローチは人間の直観的推測の精度に近づく予測を行える。常識知識の研究は知識の「背景」または文脈の再現に焦点を当ててきた。事実、AI研究は全体として高レベルの記号操作から離れ、より多くの直観的推論を捉えることを目的とした新しいモデルへと移行している。[49]

認知科学と心理学は最終的にドレイファスの人間の専門知識の描写に同意するようになった。ダニエル・カーネマンらは同様の理論を発展させ、人間が問題解決に使う2つの「システム」を「システム1」（速い直観的判断）と「システム2」（遅い意識的な段階的思考）と呼んで識別した。[51]

ドレイファスの見解は多くの点で正当化されたが、認知科学とAIでの研究はそれぞれの分野における特定の問題への応答であり、ドレイファスに直接影響されたわけではなかった。歴史家でありAI研究者でもあるダニエル・クレヴィエは「時代はドレイファスのコメントのいくつかの正確さと洞察力を証明した。より穏やかに表現されていれば、それらが示唆する建設的な行動がずっと早く取られていたかもしれない」と書いた。[52]

機械は心・意識・精神状態を持てるか？

これは他者の心の問題と意識のハード・プロブレムに関連する哲学的問題である。問いはジョン・サールが「強いAI」と定義した立場を軸に展開する。

  • 物理記号システムは心と精神状態を持てる。[11]

サールはこの立場を「弱いAI」と呼ぶものと区別した。

  • 物理記号システムは知的に振る舞える。[11]

サールはこれらの用語を導入して強いAIを弱いAIから分離し、より興味深く議論の余地があると彼が考えた問題に焦点を当てた。彼は、たとえ人間の心とまったく同じように振る舞うコンピュータプログラムがあったとしても、依然として答えなければならない困難な哲学的問いが残ると論じた。[11]

サールの2つの立場のどちらもAI研究にとって大きな関心事ではない。なぜなら、それらは「機械は一般的知性を示せるか？」という問いに直接答えないからである（意識が知性にとって必要であることが示せない限り）。チューリングは書いた。「意識について謎がないという印象を与えたくはない……しかしこれらの謎は、（機械が考えられるかどうかという）問いに答える前に解決される必要は必ずしもないと思う。」[53]ラッセルとノーヴィグも同意する。「ほとんどのAI研究者は弱いAI仮説を当然のこととして受け入れており、強いAI仮説を気にしない。」[54]

イーゴル・アレクサンダー、スタン・フランクリン、ロン・サン、ペンティ・ハイコネンなど、意識が知性の本質的な要素だと考える研究者も少数いるが、彼らの「意識」の定義は「知性」に非常に近い。（人工意識参照。）

この問いに答えるには、「心」「精神状態」「意識」が何を意味するかを明確にしなければならない。

意識・心・精神状態・意味

「心」と「意識」という言葉は、異なるコミュニティによって異なる使い方をされる。一部のニューエイジ思想家は、例えば「意識」という言葉をベルクソンの「エラン・ヴィタール」に似たもの——生命と特に心に浸透する不可視のエネルギー的流体——を表すために使う。SF作家はこの言葉を、われわれを人間にする本質的な特性を表すために使う。「意識」を持つ機械や宇宙人は、知性・欲望・意志・洞察・誇りなどを持つ完全な人間キャラクターとして描かれる。（SF作家はまた、この本質的な人間的特性を表すために「感覚」「知性」「自己意識」や「ゴースト」——マンガ・アニメ『攻殻機動隊』のように——という言葉を使う。）その他の人々にとって[誰?]、「心」や「意識」という言葉は魂の世俗的な同義語として使われる。

哲学者・神経科学者・認知科学者にとって、これらの言葉はより精密で、より平凡な意味で使われる。すなわち、知覚・夢・意図・計画のように「頭の中に思考がある」という日常的・身近な経験、また何かを見る・知る・意味する・理解する方法を指す。[55]「意識の常識的な定義を与えるのは難しくない」とサールは観察する。[56]謎めいて魅力的なのは何であるかではなく、どのようにそうなのかである。脂肪組織と電気の塊が、知覚・意味・思考というこの（身近な）経験をどのようにして生み出すのか？

哲学者はこれを意識のハード・プロブレムと呼ぶ。これは心の哲学における「心身問題」と呼ばれる古典的問題の最新バージョンである。[57]関連する問題として、意味や理解の問題（哲学者が「志向性」と呼ぶもの）がある。すなわち、われわれの思考と思考している対象（世界の対象と状況）の間の関係は何か？第三の問題は経験（または「現象論」）の問題である。2人の人が同じものを見るとき、彼らは同じ経験をするか？あるいは「頭の中に」（「クオリア」と呼ばれる）人によって異なりうるものがあるか？[58]

神経生物学者は、意識の神経相関を特定し始めるにつれて、これらの問題すべてが解決されると考える。AIの最も手厳しい批評家のいくつかは、脳はただの機械であり、意識と知性は脳の物理的プロセスの結果だということに同意している。[59]困難な哲学的問いはこうである。ゼロと一のバイナリ数字を操作するデジタル機械上で動くコンピュータプログラムは、はたして精神状態（理解や知覚など）を持つ心、そして究極的には意識の経験を作り出すニューロンの能力を複製できるのだろうか？

コンピュータが心と精神状態を持てないとする論証

サールの中国語の部屋

→詳細は「中国語の部屋」を参照

ジョン・サールは思考実験を考えるよう求める。チューリング・テストを通過し一般的な知的行動を示すコンピュータプログラムを書いたとする。具体的には、流暢な中国語で会話できるとする。そのプログラムを3×5のカードに書き、中国語を話せない普通の人に渡す。その人を部屋に閉じ込め、カードの指示に従わせる。彼は漢字を書き写し、スロットを通して部屋の内外に渡す。外から見れば、中国語の部屋には中国語を話す完全に知的な人物がいるように見える。問いはこうである。部屋の中に中国語を理解しているもの（または誰か）がいるか？すなわち、理解という精神状態を持つか、中国語で議論されていることへの意識的な気づきがあるか？男性は明らかに気づいていない。部屋は気づきえない。カードは確かに気づいていない。サールは、中国語の部屋、またはいかなる他の物理記号システムも、心を持てないと結論する。[60]

サールはさらに、実際の精神状態と意識は（いまだ記述されていない）「実際の人間の脳の実際の物理化学的特性」を必要とすると論じる。[61]彼は脳とニューロンには心を生み出す特別な「因果的特性」があると論じる。彼の言葉では「脳は心を生み出す」。[62]

関連する論証：ライプニッツの磨粉機、デイヴィスの電話交換機、ブロックの中国国民とブロックヘッド

ゴットフリート・ライプニッツは1714年に、脳を磨粉機の大きさに拡張する思考実験を用いて、サールと本質的に同じ論証を展開した。[63]1974年、ローレンス・デイヴィスは電話線と人が働くオフィスを使って脳を複製することを想像し、1978年にネッド・ブロックは中国全人口がそのような脳のシミュレーションに関与することを想像した。この思考実験は「中国国民」または「中国体育館」と呼ばれる。[64]ネッド・ブロックはまたブロックヘッド論証を提案した。これはプログラムが「これを見たらこうする」という形の単純な規則集にリファクタリングされてプログラムからあらゆる謎が取り除かれた中国語の部屋の一バージョンである。

中国語の部屋への反論

中国語の部屋への反論はいくつかの異なる点を強調する。

  • システムへの反論と仮想的な心への反論：[65]この反論は、男性・プログラム・部屋・カードを含むシステムが中国語を理解するものだと論じる。サールは部屋の男性のみが「心を持つ」または「理解する」可能性があると主張するが、コンピュータが同時に物理的（Macintoshなど）と「仮想的」（ワードプロセッサなど）という2つの機械を同時に「あること」ができるように、同じ物理的場所に2つの心が存在することが可能だと異論を唱える者もいる。
  • 速度・能力・複雑さへの反論：[66]部屋の男性は単純な質問に答えるのに数百万年かかり、天文学的な規模の「ファイルキャビネット」を必要とするだろうという批評家が複数いる。これはサールの直観の明確さを疑わしくする。
  • ロボットへの反論：[67]本当に理解するためには、中国語の部屋は目と手が必要だという者もいる。ハンス・モラヴェックは書く。「ロボットを推論プログラムに移植できれば、意味を与えるためにもはや人間は必要ない。意味は物理的世界から来るだろう。」[68]
  • 脳シミュレーターへの反論：[69]もしプログラムが実際の中国語話者の実際の脳のシナプスにおける神経発火の連続をシミュレートしたら？部屋の男性は実際の脳をシミュレートすることになる。これは「システムへの反論」のバリエーションで、「システム」が明らかに人間の脳のように作動するため、部屋の男性以外に中国語を理解できるものがあるという直観が強まる点でより説得力があるように見える。
  • 他者の心への反論とエピ現象への反論：[70]サールの論証はただ他者の心の問題を機械に適用したものにすぎないと指摘する者が複数いる。人間が「実際に」考えているかどうかを判断するのが難しいのだから、機械について同じ問いに答えるのが難しいことに驚くべきではない。
関連する問いは、（サールが理解するような）「意識」が存在するかどうかである。サールは意識の経験は機械・人間・他のいかなる動物の振る舞いを調べることによっても検出できないと論じる。ダニエル・デネットは自然選択は動物の振る舞いに何ら影響を与えない動物の特徴を維持できないと指摘し、したがって（サールが理解するような）意識は自然選択によって生み出されえない。したがって、自然選択は意識を生み出さなかったか、または「強いAI」がすることができると主張するように、意識は適切に設計されたチューリング・テストによって検出できるかのどちらかである。

思考は計算の一種か？

→詳細は「心の計算理論」を参照

心の計算理論または「計算主義」は、心と脳の関係が実行中のプログラム（ソフトウェア）とコンピュータ（ハードウェア）の関係に類似している（同一ではないとしても）と主張する。このアイデアはホッブズ（推論は「計算にすぎない」と主張した）、ライプニッツ（すべての人間の考えの論理的計算を作ろうとした）、ヒューム（知覚は「原子的印象」に還元できると考えた）、さらにはカント（すべての経験を形式的規則によって制御されるものとして分析した）に哲学的ルーツを持つ。[71]最新のバージョンは哲学者ヒラリー・パトナムとジェリー・フォーダーと結びついている。[72]

この問いは先の問いに関わる。人間の脳がある種のコンピュータなら、コンピュータは知的かつ意識的になれ、AIの実践的・哲学的問い両方に答えることになる。AIの実践的問い（「機械は一般的知性を示せるか？」）の観点からは、計算主義のいくつかのバージョンは（ホッブズが書いたように）次の主張をする。

  • 推論は計算にすぎない。[12]

言い換えると、われわれの知性は算術に似た計算の形式に由来する。これは上述の物理記号システム仮説であり、人工知能が可能であることを含意する。AIの哲学的問い（「機械は心・精神状態・意識を持てるか？」）の観点からは、計算主義のほとんどのバージョンは（ステヴァン・ハーナードが特徴づけるように）次を主張する。

  • 精神状態は（適切な）コンピュータプログラムの実装にすぎない。[73]

これはサールの「強いAI」であり、（ハーナードによれば）中国語の部屋論証の真の標的である。[73]

その他の関連する問い

機械は感情を持てるか？

「感情」が振る舞いに対する影響または生物の内部での機能の仕方のみによって定義されるなら、感情は知的エージェントが行動の効用を最大化するために使うメカニズムとして見ることができる。この感情の定義から、ハンス・モラヴェックはロボットは「一般的に良い人になることについてかなり感情的だろう」と考える。[74]恐怖は緊急性の源である。共感は良好なヒューマンコンピュータインタラクションの必要条件である。彼はロボットは「この正の強化からスリルを得るため、表面上は利他的な方法であなたを喜ばせようとするだろう。これを愛の一種と解釈できる」と言う。[74]ダニエル・クレヴィエは「モラヴェックの主張は、感情とは単に自身の種の生存に有益な方向へ振る舞いを向ける装置にすぎないということだ」と書く。[75]

機械は自己意識を持てるか？

「自己意識」は、上述のように、SF作家によってキャラクターを完全な人間にする本質的な人間的特性の名前として使われることがある。チューリングは人間の他のすべての特性を取り除き、問いを「機械は自分自身の思考の対象になれるか？」に還元する。つまり、自分自身について考えることができるか？このように見れば、デバッガのように自身の内部状態を報告できるプログラムを書くことができる。[76]

機械は独創的または創造的になれるか？

チューリングはこれを機械が「われわれを驚かせ」られるかという問いに還元し、プログラマーなら誰でも証言できるようにこれは明らかに真だと論じる。[77]彼は十分な記憶容量があれば、コンピュータは天文学的な数の異なる方法で振る舞えると指摘する。[78]アイデアを表現できるコンピュータが新しい方法でそれらを組み合わせることは可能なはずで、さらには自明なことでさえある。（ダグラス・レナットの自動数学者は、例として、アイデアを組み合わせて新しい数学的真理を発見した。）カプランとヘーンラインは、機械は科学的創造性を示せると示唆し、芸術的創造性の分野では人間が優位に立ちそうだと述べる。[79]

2009年、ウェールズのアバリストウィス大学とイギリスのケンブリッジ大学の科学者たちは、独自に新しい科学的発見をした最初の機械だと考えられるアダムというロボットを設計した。[80]また2009年、コーネル大学の研究者たちは、振り子の動きから運動の法則を求めるなど、入力されたデータに合う式を外挿するコンピュータプログラムEureqa（英語版）を開発した。

機械は善意的または敵対的になれるか？

→詳細は「人工知能の倫理」を参照

この問い（人工知能の哲学における多くの他の問いと同様）は2つの形で提示できる。「敵対性」は機能または振る舞いの観点で定義でき、その場合「敵対的」は「危険」と同義になる。あるいは意図の観点で定義できる。機械は「意図的に」危害を与えようとすることができるか？後者は「機械は（意図のような）意識的状態を持てるか？」という別の形の問いである。[53]

高度に知的で完全に自律した機械が危険かどうかという問いは、未来学者（機械知能研究所など）によって詳細に検討されてきた。ドラマとしての明らかな要素があるため、このテーマはSFでも人気があり、知的機械が人類に対する脅威となるさまざまな可能なシナリオが検討されてきた。フィクションにおける人工知能参照。

ひとつの問題は、機械が危険になるのに必要な自律性と知性を非常に急速に獲得するかもしれないということである。ヴァーナー・ヴィンジは数年のうちにコンピュータが突然人間より何千倍または何百万倍も知的になると示唆した。彼はこれを「シンギュラリティ」と呼ぶ。[81]彼はそれが人間にとってある程度、あるいは非常に危険かもしれないと示唆する。[82]これはシンギュラリタリアニズムと呼ばれる哲学によって議論される。

2009年、学者と技術専門家がロボットとコンピュータの潜在的影響、および自足してコンピュータが自律的な意思決定を行えるようになるという仮説的可能性の影響を議論する会議に出席した。彼らは、コンピュータとロボットがいかなるレベルの自律性を取得できるか、その能力をいかなる危険や危害を引き起こすのに使いうるかの可能性と程度を議論した。彼らは一部の機械が独自に電源を見つけ、武器で攻撃する標的を独立して選択できるなど、さまざまな形の半自律性を取得したことを指摘した。またコンピュータウイルスの一部が排除を免れ「ゴキブリ並みの知性」を達成したことも指摘した。SF的な自己意識はおそらくあり得ないが、他の潜在的危険や落とし穴があるとも指摘した。[81]

一部の専門家と学者は、特にそのようなロボットがある程度の自律的機能を与えられた場合、軍事戦闘でのロボット使用に疑問を呈している。[83]米海軍は、軍事ロボットが複雑化するにつれて、自律的な意思決定能力の含意により大きな注意を払うべきだと示す報告書に資金を提供した。[84][85]

人工知能振興協会の会長はこの問題を検討する研究を委託した。[86]

一部の研究者は「フレンドリーAI」——エリエゼル・ユドコウスキーが作った用語——の必要性を示唆した。これはAIとともに既に起きている進歩が、AIを本質的にフレンドリーで人道的にする努力も含むべきだということを意味する。[87]

機械はすべての人間的特性を模倣できるか？

チューリングは言った。「『ある非常に人間的な特徴は機械では決して模倣できない』という形の慰めを提供するのが慣例だ……私にはそのような慰めを提供できない。なぜならそのような限界は設けられないと思うからだ。」[88]

チューリングは「機械は決してXできない」という形の多くの論証があることを指摘した。Xとは例えば以下のようなものである。

親切であること、機転が利くこと、美しいこと、親しみやすいこと、主導権を持つこと、ユーモアのセンスを持つこと、善悪を区別すること、ミスをすること、恋をすること、苺とクリームを楽しむこと、誰かを恋させること、経験から学ぶこと、言葉を正しく使うこと、自分自身の思考の対象になること、人間と同じくらい多様な振る舞いをすること、本当に新しいことをすること。[76]

チューリングは、これらの反論はしばしば機械の汎用性についての素朴な仮定に基づいているか、「意識からの論証の偽装された形態」だと論じる。これらの振る舞いのひとつを示すプログラムを書くことは「大きな印象を与えないだろう」。[76]これらの論証はすべて、その特性のひとつが一般的知性にとって本質的であることが示されない限り、AIの基本前提から外れている。

神学的論証

チューリングによれば、「思考は人間の不死の魂の機能だ」という論証が「神学的反論」である。彼は書く。

そのような機械を構築しようとするとき、われわれは子供の誕生以上に冒涜的に魂を創造する神の力を簒奪していない。どちらの場合も、われわれは神が創造する魂のための住処を提供する神の意思の道具である。[89]

哲学の役割についての見解

『スタンフォード哲学百科事典』では、一部の学者がAIにおける哲学の役割が過小評価されていると論じており、[6]AIコミュニティの哲学の排除が自分たちの分野にさえ有害だと論じる者もいる。物理学者デイヴィッド・ドイチュは哲学やその概念の理解なしには、AI開発は進歩の欠如に苦しむだろうと論じる。[90]

学会と文献

この問題に関する主要な学会シリーズはヴィンセント・C・ミュラーが主催する "Philosophy and Theory of AI" (PT-AI) である。

この主題に関する主要な文献目録（複数のサブセクションを含む）は PhilPapers にある。

Philosophy of AI の最新のサーベイはMüller (2025)である。[5]

脚注

関連項目

Related Articles

Wikiwand AI