ジュリア集合

C を複素平面、ˆC = C ∪ ∞ をリーマン球面とする。標準的には、ジュリア集合は正規族の概念で定義される^[1]。一般に、領域 D ⊂ ˆC または D ⊂ C で定義された有理型函数から成る族 F が正規族であるとは、F から任意に選んだ函数列が D 上で広義一様収束する部分列を含むことをいう^[2][3]。

正規族の概念は同程度連続性に結び付く^[2]。アスコリ・アルツェラの定理より、一般に、有理型函数族 F : D → ˆC が D 上で正規族であることは、F が D 上の各点で同程度連続であることと同値となっている^[4][5]。同程度連続性により、複素力学系の漸近的な振る舞いを特徴付けできる^[2]。

まず、正規族でファトゥ集合（英: Fatou set）を定義する。f を正則函数 f : ˆC → ˆC（または f : C → C ）とする。ある点 z ∈ ˆC にf の n 回反復合成を行って得られる値を f ⁿ(z) で表すとする。点 z ∈ ˆC のある近傍 U(z) ⊂ ˆC 上で、族 {f ⁿ|_U}∞
n=1 が正規族となるとき、このような点全体の集合をファトゥ集合と呼ぶ^[6]。f のファトゥ集合は F_f や F(f) などと表される^[7][8]。

ジュリア集合は、ファトゥ集合の補集合として定義される。函数 f のジュリア集合は J_f や J(f) などと表す^[7][8]。すなわち、

${\displaystyle J_{f}={\hat {\mathbf {C} }}\setminus F_{f}}$ または ${\displaystyle J_{f}=\mathbf {C} \setminus F_{f}}$

としてジュリア集合が定まる^[9][3]。ジュリア集合の名称は、20世紀初頭に複素有理函数の反復を研究したガストン・ジュリアに因む^[10]。

一般に、1つの点 z₀ に f の反復合成を適用したときに定まる

${\displaystyle O^{+}(z_{0})=\{f^{k}(z_{0})\}_{k=0}^{\infty }=\{z_{0},\ f(z_{0}),\ f^{2}(z_{0}),\ \ldots \}}$

という点列を z₀ の前方軌道（または単に軌道）という^[11][7]。z₀ は初期値などと呼ばれる^[12]。反復合成から成る函数族が同程度連続であるとは、初期値 z₀ が近い場合は函数の値も一様に近いということを意味し、初期値の安定性を表す^[13]。正規族はある初期値の軌道が安定しているか否かを表現可能にする道具であり、これによって軌道が安定な部分と不安定な部分に函数の定義域を分割する^[14]。言い換えると、ファトゥ集合 は O⁺(z₀) がある意味でおとなしいような z₀ の集まりであり、ジュリア集合は O⁺(z₀) がある意味でカオス的な z₀ の集まりである^[12][15]。

正規族の概念を使ったジュリア集合の定義は抽象的で幾何学的意味が分かりづらいが^[2]、正規族にもとづくことで複素函数論の技術的道具が使いやすくなり、有理函数や有理型函数などの広い範囲の複素函数まで理論を展開できる^[16]。他方、反復する複素函数を多項式に限る議論などでは、次のように正規族の概念を使わずにジュリア集合を定義することもある。

上図が P(z) = z² − 0.123 − 0.745i の充填ジュリア集合で、下図がその境界すなわちジュリア集合

P を2次以上の複素多項式 P(z) = a_nzⁿ + a_n−1zⁿ⁻¹ + … + a₀ とする。係数 a_n, a_n−1 … a₀ も複素数である。まず、複素平面 C からそれ自身への多項式函数 P : C → C の充填ジュリア集合（英: filled Julia set）を K_P で表し、

${\displaystyle K_{P}=\left\{z\in \mathbf {C} |\lim _{n\rightarrow \infty }P^{n}(z)\nrightarrow \infty \right\}}$

と定義する^[17][18]。つまり、軌道が無限遠へ行かないような点の集まりが充填ジュリア集合である^[19]。

ジュリア集合は、充填ジュリア集合の境界として定義される。すなわち、P のジュリア集合を J_P と表せば

${\displaystyle J_{P}=\partial K_{P}}$

である^[20][18]。この定義のジュリア集合は、軌道が無限遠へ行かないような点の集まりと軌道が無限遠へ行く点の集まりの境目になる^[19]。扱う函数が多項式のときは、この定義のジュリア集合と、上記の正規族を使った定義のジュリア集合とは同値である^[21]。

ジュリア集合の最も簡単な例として P(z) = z² という複素函数が挙げられる^[22]。 これは与えられた z を2乗するだけの函数で、図形的には複素平面上で z の絶対値を2乗し、 z の偏角を2倍にする^[23]。複素数を極形式で表すと z = |z|e^iθ であるから、この場合の P の k 回反復は

${\displaystyle P^{k}(z)=\vert z\vert ^{2^{k}}e^{i(2^{k}\theta )}}$

と表すことができる^[24]。よって、|z| < 1 ならば、k → ∞ のとき P ^k(z) → 0 であり、|z| > 1 ならば、k → ∞ のとき P ^k(z) → ∞ である^[22][25]。例えば、絶対値 2.236… である z = 1 + 2i を初期値にして反復を繰り返すと

z = 1 + 2i

P (z) = −3 + 4i

P ²(z) = −7 − 24i

P ³(z) = −527 + 336i

P ⁴(z) = 164833 − 354144i

⋮

となって値は ∞ へ近づく^[26]。他方、絶対値 0.583… である z = 0.5 + 0.3i を初期値にして反復を繰り返すと

z = 0.5 + 0.3i

P (z) = 0.16 + 0.3i

P ²(z) = −0.0644 + 0.096i

P ³(z) = −0.00507 − 0.01236i

P ⁴(z) = −0.00013 + 0.00013i

⋮

となって値は原点 0 = 0 + 0i へ近づく^[26]。

他方で、|z| = 1 すなわち z が単位円 {z ∈ C  |  |z| = 1} 上の点であるときは、|P(z)| = 1 であるから P の像もまた単位円上の点となる^[27]。よって、|z| = 1 ならば、すべての k について P ^k(z) は単位円上に留まる^[22]。

以上より、P(z) = z² の充填ジュリア集合 K_P は単位円板 {|z| ≤ 1} で、ジュリア集合 J_P はその境界の単位円 {|z| = 1} である^[22]。また、ファトゥ集合 F_P は単位円以外の箇所全て {|z| < 1} ∪ {|z| > 1} である^[28]。

定義よりファトゥ集合は開集合なので、ジュリア集合は閉集合である^[9][8]。以下、断りない限り函数 f を超越整函数または2次以上の有理函数とする。これらの函数においては、ジュリア集合 J_f は空集合ではない。すなわち必ず存在する^[29]。また、J_f は完全集合である。すなわち J_f は孤立点を含まない^[29]。例えば、もし f が f(z) = az + b のような1次函数だと、ジュリア集合が存在しないこともあり、存在しても完全集合ではない^[30]。

J_f が C または ˆC と一致しなければ、J_f は内点を持たない。言い換えると J_f が内点を含むときは J_f = C または J_f = ˆC である^[31]。もし f が多項式函数のときは、J_f は常に内点を持たない^[32]。また、ジュリア集合 は充填ジュリア集合の境界だが、充填ジュリア集合が内点を含まないこともあり得る^[33]。その場合はジュリア集合と充填ジュリア集合が一致する^[33]。

f が多項式函数であれば、J_f は C 内のコンパクト集合である^[34]。f が超越整函数のときは、J_f は C 内の非有界集合になる^[34]。

ジュリア集合は完全不変な集合となっている。すなわち f (J) ⊂ J かつ f ⁻¹(J) = {z | f (z) ∈ J} = J が成り立つ^[35][3]。もし f が有理函数であれば、f (J) = f ⁻¹(J) = J が成り立つ^[35][8]。f : ˆC → ˆC におけるジュリア集合のある点 z ∈ J (f) の近傍を U とする。モンテルの定理より、任意の z, U に対して集合

${\displaystyle E_{U}={\hat {\mathbf {C} }}\setminus \bigcup _{n=1}^{\infty }f^{n}(U)}$

は2点以下であることが分かる^[36][37]。E_U に属する点は例外点と呼ばれ、例えば ˆC 上で考える多項式では ∞ が例外点である^[36]。同様にモンテルの定理から、3点以上を含んでなおかつ f に関して完全不変な閉集合の中で最小の集合が、ジュリア集合である^[38][21]。

ある初期値 z₀ の後方軌道は、一般に f の逆写像が多価函数となるため逆像に属する点全てを集めて、

${\displaystyle O^{-}(z_{0})=\bigcup _{n=0}^{\infty }\{z\mid f^{n}(z)=z_{0}\}}$

と定義される^[12][7]。初期値 z₀ がジュリア集合に属し、z₀ が例外点でなければ、

${\displaystyle J_{f}={\overline {O^{-}(z_{0})}}}$

が成り立つ^[21]。しかし、ある点がジュリア集合に属するかを判別することは一般的に困難である^[39]。一方、z が周期点（または不動点）であれば次のようなことが分かる。z₀ を n 周期点とする。このとき、

${\displaystyle \lambda ={\frac {df^{n}}{dz}}(z_{0})}$

で定義される λ が

• |λ| > 1 であるとき、z₀ を反発周期点と呼ぶ^[39]。
• |λ| < 1 であるとき、z₀ を吸引周期点と呼ぶ^[39]。
• |λ| = 1 であり、かつ λ^m = 1を充たす自然数 m が存在するとき、z₀ を有理的中立周期点と呼ぶ^[39]。

もし z₀ が反発周期点または有理的中立周期点であれば、z はジュリア集合に含まれる^[40]。一方、吸引周期点はファトゥ集合に含まれ、ジュリア集合には含まれない^[40]。

反発周期点については、さらに強いことが言える。f を超越整函数または2次以上の有理函数とする。このとき、f の反発周期点全体から成る集合は J_f において稠密である^[29]。非標準ながら f が多項式函数のときには、f の反発周期点全体の閉包をジュリア集合と定義する例もある^[41][42]。

吸引周期点が存在する場合は、その吸引域の境界にジュリア集合は一致する^[43]。f を有理函数とする。z₀ が吸引周期点であるとき、この吸引域を A(z₀) と表す^[43][44]。このとき、

${\displaystyle J_{f}=\partial A(z_{0})}$

である^[43][44]。無限遠点が吸引不動点である場合も、J_f = ∂A(∞) として成り立つ^[45]。

さらには、ジュリア集合 J_f 上の点は f によってカオス的に振る舞うことも分かる^[46]。リーマン球面上の部分集合 E から E への連続写像 f が、周期点の稠密性、位相的推移性、初期値鋭敏性を持つとき、f は E 上で（デバニーの意味で）カオス的であるという^[47]。 周期点の稠密性とは、f の周期点が E 上に稠密に存在することだが、上記のように f の反発周期点全体から成る集合が J_f において稠密であることが分かっているので、周期点の稠密性も成り立つ^[48]。位相的推移性とは、空ではない任意の部分開集合 U, V ⊂ E に対し、f ^k(U) ∩ V ≠ ∅ を満たす k > 0 が存在することで。初期値鋭敏性とは、ある δ > 0 が存在し、任意の z ∈ E と近傍 N(z) ⊂ E において |f ^k(z) − f ^k(w)| > δ を満たす w ∈ N と k > 0 が存在することである^[48]。

f を2次以上の有理函数とすると、 常に f は J_f 上で（デバニーの意味で）カオス的である^[47]。言い換えれば、f のカオス的振る舞いを起こす集合が f のジュリア集合ともいえる^[49][50]。

#最も簡単な例のジュリア集合は単純なものだったが、通常、ジュリア集合は幾何的にもっとはるかに複雑な集合となる^[51]。たいていの場合で、ジュリア集合はフラクタルと呼ばれる図形になる^[52][22]。そのフラクタル図形は「神秘的」や「美しい」と評される^[17][53]。ジュリア集合の図形には以下のような例がある。

• 円周。P (z) = az^d (a ≠ 0, d ≥ 2) の場合の J_P などがこれに該当する^[30]。
• 線分。多項式函数 P がチェビシェフ多項式に共役な場合の J_P がこれに該当し^[30]、P (z) = z² − 2 に対する J_P は [−2, 2] という実軸上の線分である^[54]。
• 擬円（英: quasi-circle）。ここで J_f が擬円とは、J_f が擬等角写像による円周の像として得られることである^[55]。後述の#2次函数の例で示すように、P(z) = z² + c で c がマンデルブロ集合の大きなハート形領域内部のときの J_P などがこれに該当し^[55]、P (z) = z² − 0.5 + 0.5i がその一例である^[56]。
• カントール集合（英: Cantor set）。ここで J_f がカントール集合であるとは、J_f がコンパクト、全不連結、孤立点を持たない場合をいう^[57]。全不連結なジュリア集合はファトゥ塵（英: Fatou dust）などとも呼ばれる^[58]。後述の#2次函数の例で示すように、P(z) = z² + c で c がマンデルブロ集合の外にあるときの J_P などがこれに該当し、P (z) = z² + 0.11031 − 0.67037i がその一例である^[59]。
• 互いに接する無限個の単純閉曲線の閉包。後述の#2次函数の例で示すように、P_c = z² + c が吸引周期点を持つときの J_P などがこれに該当し、P (z) = z² − 1 がその一例である^[60][61]。
• 樹形突起（デンドライト、英: dendrite）。ここで J_f が樹形突起であるとは、 J_f がコンパクト、連結かつ局所連結で内点を持たず、さらに C ∖ J_f が連結であることをいう。P(z) = z + i に対する J_P などがその一例である^[57]。
• シェルピンスキーのカーペット（英: Sierpiński carpet）。ここで J_f がシェルピンスキーのカーペットであるとは、 J_f が連結、局所連結、疎で、J_f の補集合の各連結成分の境界が互いに素な単純閉曲線であることをいう。有理関数 R(z) = 27z²(z − 1)/(3z − 2)²(3z + 1) に対する J_R などがその一例である^[62]。
• カントールの花束（英: Cantor bouquet）。ここで J_f がカントールの花束であるとは、J_f が、t → ∞ で h(t) → ∞ となる C^∞ 級曲線 h(t) : [0, ∞) → C の非可算個の和集合であることをいう。指数関数 E(z) = 0.3e^z に対する J_E などがその一例である^[63]。
• 複素平面 C 全体。指数関数 E(z) = e^z に対する J_E などがその一例である^[64]。

定数 c ∈ C を持つ2次函数

${\displaystyle P_{c}(z)=z^{2}+c}$

は簡単な多項式の族だが、とても複雑なジュリア集合を生み出す^[33]。#最も簡単な例のように c = 0 ではジュリア集合は単位円だったが、c に 0 ではない値、例えば c = −0.12375 + 0.56508i、を与えると、ジュリア集合はもはや滑らかなではなくなり、一部を拡大し続けてもずっとギザギザなフラクタル図形となる^[65]。このジュリア集合 J_P は c の値に依存して著しく変化し、アドリアン・ドゥアディ（フランス語版）は、現れる J_f の見た目を「広がった雲のようなもの」「骨と皮ばかりの荊の枝」「花火が上がったあと空中に漂う残り火」「ウサギの形をしたもの」「タツノオトシゴの尻尾をもつもの」と形容している^[33]。

P_c = z² + c は一見狭い範囲の形に限定しているようだが、P_c は任意の2次函数と共役の関係にある^[66][67]。そのため、P_c のジュリア集合は任意の2次函数のジュリア集合と幾何学的に相似であり、f_c のジュリア集合を調べれば2次函数全体のジュリア集合の性質を知ることができる^[66][67]。また、P_c は、複素力学系で重要な役割を果たす臨界点（dP/dz(z₀) = 0 を充たす z₀）が原点 0 = 0 + 0i にあるため扱いやすい利点も持つ^[68]。

大きく分けると J_P は連結集合またはカントール集合のいずれかになる^[67]。臨界点 0 から出発する前方軌道 {P ^k(0)}_{k ≥ 1} が有界であれば、言い換えれば k → ∞ のとき P ^k(0) ↛ ∞ であれば、 J_P は連結集合である^[69]。0 から出発する軌道が無限遠点に逃げ出す場合、すなわち k → ∞ のとき P ^k(0) → ∞ であれば、J_P はカントール集合である^[70]。これらと対応し、ジュリア集合の全体像を与えるのが P_c の定数 c の集まりから定義されるマンデルブロ集合 M_P ⊂ C で、c が M_P 上にあれば J_P は連結で、c が M_P から外れると J_P は全不連結となる^[71]。

まず、原点 0 を出発する軌道が有界の場合で、不動点に吸引される場合を考える。c = 0 のときは、上述のように J_P は単位円で、原点 0 が吸引的不動点である^[72]。c ≠ 0 のときは、c が小さければ原点近くに吸引的不動点が存在し、J_P も単純閉曲線だが、曲線はフラクタルとなる^[73]。言い換えると、c ≠ 0 での原点 0 を出発する軌道が不動点に吸引されるとき、 J_P は微分不可能な単純閉曲線である^[58]。これらのジュリア集合はマンデルブロ集合上では大きなハート形領域に対応する^[74]。このハート形の領域は、カージオイド c = 1/2e^iθ − 1/4e^2iθ で与えられる^[75]。この領域内部にある c では、P_c は吸引的不動点を持ち、J_P は単純閉曲線である^[75][76]。

次に、原点 0 を出発する軌道が有界の場合で、周期点に吸引される場合を考える。このときの J_P も連結だが、複雑な集合となる^[58]。この場合の J_P は無限個の単純閉曲線を含み得るようになり、さらに、それら単純閉曲線は互いに接し合う^[77][61]。例えば、0 を出発する軌道が 2 周期点に吸引される場合の J_P は、c が |c +1| < 1/4 を満たすときに存在する^[75][61]。これは、マンデルブロ集合上でハート形領域に左隣で接するもっとも大きな円の領域に相当する^[75][61]。周期 k > 2 の場合は次数が増えて具体的な領域の計算は困難となるが、その場合も同様にマンデルブロ集合上に単位円板と同相な領域として存在している^[78]。

また、原点 0 を出発する軌道が、ある反復から先は周期軌道になる場合もある^[79]。すなわち、ある自然数 m, n が存在し、P_c^m(0) = P_c^{m + n}(0) が満たされる^[80]。 このように、それ自体は周期点ではないが、ある反復から先は周期点になる点を前周期点などという^[81]。0 が前周期点のとき、J_P は植物の枝のような見た目をした樹形突起（デンドライト）となる^[79][82]。このときの c はミシュレヴィチ点と呼ばれ、マンデルブロ集合の境界、糸状の部分に存在する^[83][84]。

そして、原点 0 を出発する軌道が無限遠点 ∞ に吸引される場合、すなわち c がマンデルブロ集合 M_P から外れた値のとき、J_P はカントール集合（ファトゥ塵）となる^[58][79][85]。カントール集合となった J_P は塵や雲のような見た目の点の集まりだが、c が M_P から離れるほど J_P はよりまばらな塵になっていく^[85]。具体的な c の範囲としては |c| > 2 のとき、k → ∞ のとき P ^k(0) → ∞ で、J_P はカントール集合であることが分かる^[86]。言い換えると M_P は {|c| ≤ 2} 内のコンパクト集合である^[87]。

• 2次函数のジュリア集合の例
• 
  c = −0.1 + 0.1i 、1つの単純閉曲線、擬円
• 
  c = −0.75 、吸引2周期点を持つ場合
• 
  c = −1 、吸引2周期点を持つ場合
• 
  c = −0.123 + 0.745i 、吸引3周期点を持つ場合、ドゥアディのウサギ^[88]
• 
  c = i 、樹形突起（デンドライト）
• 
  c = 0.4 + 0.3i 、カントール集合（ファトゥ塵）
• 
  c = −0.74543 + 0.11301i 、マンデルブロ集合の外側だが境界に近い場合^[89]

ジュリア集合は、ガストン・ジュリアとピエール・ファトゥによって第一次世界大戦中に研究されていたが、当時はそれを描写できるコンピュータグラフィックスが無かったこともあり、研究が広がりを見せることはなかった^[90]。その後、強力な計算機が使えるようになってジュリア集合やマンデルブロ集合の形が見えてくるようになると、その複雑な形の構造を解明することに数学者らの目を向けさせ、複素力学系の研究が再興した^[91]。

ジュリア集合の描写には、ジュリア集合の性質を利用して以下のような2種類の方法がある^[92][93]。ただし、どちらの方法でもうまく描写できないこともある^[92][94]。満足のいく描写を得ることが困難なジュリア集合も数多い^[92]。描写のプログラムには、対象の複素力学系の性質に応じた工夫も必要となる^[95]。

ジュリア集合を描写する1つ目の方法は、例外点を除く点を初期値とし、その後方軌道を計算する手法がある^[96]。初期点は、実質的にはほとんど勝手に選んでよい^[97]。この後方軌道はジュリア集合に近づいていくので、初めの数回の反復を除いて後方軌道はジュリア集合と区別がつかないような点を通る^[97]。この手法は、上記の

${\displaystyle E_{U}={\hat {\mathbf {C} }}\setminus \bigcup _{n=1}^{\infty }f^{n}(U)}$

というジュリア集合の性質を、または、ジュリア集合は反発的周期点を稠密に含むという性質を利用したものである^[96][97]。2次函数 P(z) = z² + c であれば、初期値 z₀ に対して逆像は √z₀ − c または −√z₀ − c なので、この2つからランダムに選び、また逆像を計算し…という繰り返しで得た点を描写することでジュリア集合が描写できる^[96][97]。

あるいは、反発周期点のようなジュリア集合上の点を初期値として選び、その後方軌道を計算してもよい^[93][98]。これは、上記の

${\displaystyle J_{f}={\overline {O^{-}(z_{0})}}}$

というジュリア集合の性質を利用したものである^[93][98]。

ただし、ジュリア集合上の後方軌道は分布が一般的に偏っているため、これらの方法では、反復回数を非常に多くしたとしても描写は本来のジュリア集合が部分的に欠けたものとなってしまう欠点がある^[99][93]。対策としては、複素平面上に小さなメッシュを考え、あるメッシュに入った軌道の点が一定数以上になったら、そのメッシュ内の点は逆像の計算に使わないというものがある^[100][94]。これにより、得られる点の分布を一様にし、計算量も減る^[94]。

ジュリア集合を描写する2つ目の方法は、ジュリア集合が

${\displaystyle J_{f}=\partial A(z_{0})}$

というように吸引域の境界となることを利用する方法である^[100][94]。 複素函数が2つ以上の吸引的不動点を持つとき、ジュリア集合はそれぞれの吸引域の境界となる^[100][94]。よって、複素平面上に小さな四角形格子を考えたとき、四隅の点が同一の点に吸収されれば格子はジュリア集合を含まず、四隅の点が異なる点に吸収されれば格子はジュリア集合を含んでいることが分かる^[101][94]。このように複素平面の候補となる範囲を格子状に分けて、上記の判定に基づいて各格子を色分けるすることでジュリア集合が描写できる^[102][94]。