Задача 3

Условие задачи

Квадратные матрицы $A$ и $B$ коммутируют т.е. $AB = BA$. Докажите, что если $A^k = 0$ и $B^l = 0$ для каких-то натуральных чисел $k$ и $l$, то $\left(A + B\right)^{k+l} = 0$. Покажите, что утверждение теряет силу, если $AB \ne BA$.

Решение задачи

Так как $A$ и $B$ коммутируют, для них справедлива биномиальная формула (бином Ньютона) $\left(A + B\right)^{k+l} = \sum\limits_{i = 0}^{k+ l} C_{k+l}^i A^{k + l - i} B^i$.

Коммутация нужна потому, что биномальная формула $\left(A + B\right)^n = \sum\limits_{i = 0}^n C_n^i A^{n - i} B^i$ справедлива только тогда, когда множители $A$ и $B$ можно переставлять.

При раскрытии степени $\left(A + B\right)^n$ возникают все возможные произведения длины $n$, составленные из $A$ и $B$, например, $ABAB, \, BAAB, \, BABA, \, \ldots$

Если $AB = BA$, то любой такой множитель можно перестановками привести к виду $A^{n - i} B^i$.

Тогда одинаковые степени собираются, и получается обычная биномиальная формула с коэффициентами $C_n^i$.

Если же $AB \ne BA$, то различные порядки множителей вообще говоря различны, поэтому собрать все слагаемые в выражения вида $A^{n - i} B^i$ нельзя. Следовательно, биномиальная формула перестаёт быть верной.

Рассмотрим два возможных случая:

Случай 1: $i \geqslant l$. Тогда $B^i = 0$, поскольку $B^l = 0$ и большие степени тоже равны $0$ (т.к. $B^i = B^l B^{i - l} = 0$). Соответствующее слагаемое $C_{k + l}^i A^{k + l - i} B^i = 0$.

Случай 2: $i \leqslant l - 1$. Тогда $k + l - i \geqslant k + l - \left(l - 1\right) = k + 1$, поэтому $A^{k + l - i} = 0$, поскольку $A^k = 0$ и все большие степени тоже равны $0$ (т.к. $A^{k + l - i} = A^k A^{l - i} = 0$). Соответствующее слагаемое равно нулю.

Таким образом, $\left(A + B\right)^{k + l} = 0$ при коммутирующих $A$ и $B$. $\square$

Покажем, что при $AB \ne BA$ утверждение теряет силу.

Приведём контрпример: $A = \begin{bmatrix}0 & 1 \\ 0 & 0\end{bmatrix}$, B = $\begin{bmatrix}0 & 0 \\ 1 & 0\end{bmatrix}$.

Тогда $A^2 = B^2 = 0$, но $A + B = \begin{bmatrix}0 & 1 \\ 1 & 0\end{bmatrix}$ и $\left(A + B\right)^2 = \begin{bmatrix}1 & 0 \\ 0 & 1\end{bmatrix} = I$.

Следовательно, никакая степень $A + B$ не равна нулю, т.е. $A + B$ не нильпотентна. При этом $AB \ne BA$.