Ортогональная матрица порядка n матрица

,

произведение которой на транспонированную матрицу А' даёт единичную матрицу, то есть АА' = Е (а следовательно, и A'A = Е). Элементы О. м. удовлетворяют соотношениям:

или эквивалентным соотношениям:

  Определитель |A| О. м. равен +1 или —1. При перемножении двух О. м. снова получается О. м. Все О. м. порядка n относительно операции умножения образуют группу, называемую ортогональной. При переходе от одной прямоугольной системы координат к другой коэффициенты a_ij в формулах преобразования координат

  образуют О. м. См. также Унитарная матрица.