ユニタリ行列とは， UU^* =U^* U= I_n となる正方行列 U を指します。ただし， U^* は随伴行列(共役転置)です。これについて，定義と性質とその証明を行いましょう。
ユニタリ行列の定義
定義（ユニタリ行列）
n 次正方行列 U がユニタリ行列 (unitary matrix) であるとは，
\large\color{red} UU^* =U^* U = I_n
が成り立つことをいう。ただし， U^* は随伴行列(共役転置)， I_n は n 次単位行列である。
上の定義は， \color{red}U^{-1}=U^* すなわち逆行列が随伴行列(共役転置)になると言っても同じことです。これを定義にしても構いません。特に，ユニタリ行列は正則行列(可逆行列)です。
実行列のときは，ユニタリ行列の定義は直交行列の定義と同じです。「直交行列の複素数版」といえるでしょう。直交行列は， AA^\top=A^\top A=I_n で定義されます。詳しくは，直交行列の定義と性質10個とその証明で解説しています。
また，定義は UU^* =I_n だけでも， U^* U=I_n だけでも構いません。 これは，片方だけから， \det U \ne 0 が従う(→下の性質1.)ため，逆行列が存在することが分かり， UU^* =I_n なら左から， A^* U=I_n なら右から U^{-1} をかけることで， U^\top =U^{-1} が得られるためです。
なお， AA^* = A^*A が成り立つとき，これを正規行列 (normal matrix) といいます。ユニタリ行列は正規行列です。
ユニタリ行列の具体例
ユニタリ行列の例を挙げましょう。実行列のときは直交行列に一致しますが，実直交行列でない例を中心に挙げます。
ユニタリ行列の具体例
ユニタリ行列の性質10個
定理（ユニタリ行列の性質）
U,V を n 次ユニタリ行列とする。このとき，
1. |\det U|= 1 (行列式)
2. UV もユニタリ行列である。
3. U^{-1} もユニタリ行列である。
4. U^* もユニタリ行列である。
5. U はユニタリ行列により対角化可能である。
6. U の各列ベクトルは \mathbb{C}^n における正規直交基底になっている。
7. U の各行ベクトルは \mathbb{C}^n における正規直交基底になっている。
8. \lVert U\boldsymbol{x} \rVert= \lVert \boldsymbol{x} \rVert \quad(\boldsymbol{x}\in \mathbb{C}^n) ただし，\boldsymbol{x} は列ベクトルとする。(等長性)
9. \langle U\boldsymbol{x},U\boldsymbol{y}\rangle = \langle \boldsymbol{x}, \boldsymbol{y}\rangle\quad(\boldsymbol{x},\boldsymbol{y}\in \mathbb{C}^n) ただし，\boldsymbol{x},\boldsymbol{y} は列ベクトルとする。(内積を保つ)
10. U の全ての固有値 \lambda \in \mathbb{C} は |\lambda |=1 をみたす。
また，逆に6-9.のいずれかが成り立つとき， U はユニタリ行列である。
「ユニタリ」というのは要するに「単位的」なニュアンスですから，8-9.の成立はユニタリ行列の基本的なものと言えます。
複素ベクトルに対して，内積は \boldsymbol{x}=\begin{pmatrix} x_1\\ \vdots \\ x_n\end{pmatrix} , \boldsymbol{y} = \begin{pmatrix} y_1\\ \vdots \\ y_n \end{pmatrix} \in \mathbb{C}^n に対し，
\langle \boldsymbol{x},\boldsymbol{y}\rangle = \sum_{k=1}^n x_k\overline{y}_k
と定義されます。また，
です(→数ベクトルの定義と数ベクトルにおけるノルム・内積)。これを踏まえて，1-10.を順番に証明していきましょう。
1. |det U| = 1
証明
A,B を正方行列としたとき， \det AB = \det A \det B,\; \det A^* = \overline{\det A} であることに注意する(→行列式の性質6つの証明(列,行の線形性,置換,積,転置など))。
\det I_n = \det (UU^*) = \det U \det U^* = |\det U|^2
より， |\det U| = 1 である。
証明終
2. A,Bがユニタリ行列⇒ABがユニタリ行列
証明
一般に A,B が正方行列のとき， (AB)^* = B^* A^* であることに注意する(→随伴行列(エルミート転置,共役転置)の定義と性質10個)。
\begin{aligned} UV(UV)^* &= UV (V^* U^*) =U(VV^*)U^*\\&= UU^* =I_n ,\\ (UV)^*UV&= (V^*U^*)UV = V^*(U^*U) V\\ &= V^*V = I_n \end{aligned}
であるから， UV はユニタリ行列である。
証明終
3. 逆行列も直交行列
証明
一般に (A^{-1})^*=(A^*)^{-1} に注意する(→随伴行列(エルミート転置,共役転置)の定義と性質10個)。
\begin{aligned}U^{-1} (U^{-1})^* &= U^{-1} (U^*)^{-1} =(U^* U)^{-1} = I_n, \\ (U^{-1})^* U^{-1}&= (U^*)^{-1} U^{-1} =(UU^*)^{-1}=I_n \end{aligned}
より， U^{-1} も直交行列である。
証明終
4. U^*もユニタリ行列
これは U^{**} = U ですから明らかでしょう。
5. ユニタリ行列は多角化可能
U は UU^* = U^*U なので正規行列であり，正規行列は対角化可能なので，対角化可能です。正規行列が対角化可能であることは以下で解説しています。
6-7. Uの各列ベクトル・行ベクトルは正規直交基底
証明
U= (\boldsymbol{x_1},\dots, \boldsymbol{x_n}) と列ベクトルに分解する。 すると，
U^* U =\begin{pmatrix}\langle \boldsymbol{x_1},\boldsymbol{x_1}\rangle & \dots & \langle \boldsymbol{x_n},\boldsymbol{x_1}\rangle \\ \vdots & \ddots &\vdots \\ \langle \boldsymbol{x_1},\boldsymbol{x_n}\rangle &\dots & \langle \boldsymbol{x_n},\boldsymbol{x_n}\rangle \end{pmatrix}
であるから，\langle \boldsymbol{x_i},\boldsymbol{x_j}\rangle = \delta_{ij} となる(右辺はクロネッカーのデルタ)。従って， \boldsymbol{x_1},\dots, \boldsymbol{x_n} は \mathbb{C}^n における正規直交基底である。
U= \begin{pmatrix} \boldsymbol{y_1}\\ \vdots \\ \boldsymbol{y_n}\end{pmatrix} と行ベクトルに分解する。すると，
UU^* = \begin{pmatrix}\langle \boldsymbol{y_1},\boldsymbol{y_1}\rangle & \dots & \langle \boldsymbol{y_1},\boldsymbol{y_n}\rangle \\ \vdots & \ddots &\vdots \\ \langle \boldsymbol{y_n},\boldsymbol{y_1}\rangle &\dots & \langle \boldsymbol{y_n},\boldsymbol{y_n}\rangle \end{pmatrix}
であるから， \langle \boldsymbol{y_i},\boldsymbol{y_j}\rangle = \delta_{ij} となる(右辺はクロネッカーのデルタ)。従って， \boldsymbol{y_1},\dots, \boldsymbol{y_n} は \mathbb{C}^n における正規直交基底である。
証明終
逆の証明
U の列ベクトルが正規直交基底ならば，上より U^* U = I_n であり，ユニタリ行列になる。
U の行ベクトルが正規直交基底ならば，上より UU^* =I_n であり，ユニタリ行列になる。
証明終
8-9. ||Ux|| = ||x||, <Ux, Uy> = <x, y>
8.が \lVert U\boldsymbol{x}\rVert = \lVert \boldsymbol{x}\rVert，9.が \langle U\boldsymbol{x},U\boldsymbol{y}\rangle = \langle \boldsymbol{x}, \boldsymbol{y}\rangle です。
証明
一般に正方行列 A に対して， \langle A\boldsymbol{x},\boldsymbol{y}\rangle = \langle \boldsymbol{x}, A^* \boldsymbol{y}\rangle が成り立つことに注意する(→随伴行列(エルミート転置,共役転置)の定義と性質10個)。これより，
\langle U\boldsymbol{x}, U\boldsymbol{y} \rangle= \langle \boldsymbol{x}, U^* U\boldsymbol{y} \rangle = \langle \boldsymbol{x}, \boldsymbol{y} \rangle
であるから，9.が示せた。これより，
となり，8.も示せた。
証明終
逆の証明
9.のとき，
\langle \boldsymbol{x}, \boldsymbol{y} \rangle =\langle U\boldsymbol{x}, U\boldsymbol{y} \rangle = \langle \boldsymbol{x}, U^* U\boldsymbol{y} \rangle
が任意の列ベクトル \boldsymbol{x},\boldsymbol{y}\in\mathbb{C}^n で成立するので， U^* U=I_n である。
8.のとき，polarization identity
\begin{aligned}\langle \boldsymbol{x}, \boldsymbol{y} \rangle &=\frac{1}{4} ( \lVert \boldsymbol{x}+\boldsymbol{y}\rVert^2 - \lVert \boldsymbol{x}-\boldsymbol{y}\rVert^2 \\ &+i\lVert \boldsymbol{x}-i\boldsymbol{y}\rVert^2 -i\lVert \boldsymbol{x}+i\boldsymbol{y}\rVert^2 )\end{aligned}
を考えることで，9.が成立するため，上に帰着する。
証明終
10. 固有値をλとすると，|λ| = 1
8. で \lVert U\boldsymbol{x} \rVert = \lVert \boldsymbol{x}\rVert を証明しました。これを用いて10.を証明しましょう。
証明
\lambda \in\mathbb{C} を固有値， \boldsymbol{x}\in\mathbb{C}^n \setminus\{\boldsymbol{0}\} (列ベクトル)を固有ベクトルとする。すると， U\boldsymbol{x}=\lambda \boldsymbol{x} である。両辺ノルムを取ると
\lVert U\boldsymbol{x}\rVert = |\lambda| \lVert \boldsymbol{x}\rVert
である。一方で，8.より \lVert U\boldsymbol{x}\rVert = \lVert \boldsymbol{x}\rVert なので， \lVert \boldsymbol{x}\rVert = |\lambda| \lVert \boldsymbol{x}\rVert . したがって， |\lambda |=1 である。
証明終
