привести квадратичную форму к каноническому виду методом Лагранжа:
x1^2+4x1x2+4x2x3+x3^2

Примерно так
x1^2 + 4* x1*x3 + 4* x3^2 - x2^2 – 2*x2*x3 =
(x1 + x3)^2 - x2^2 – 2*x2*x3 = Y1^2 – (x2^2 + 2*x2*x3 + x3^2) + x3^2 =
= Y1^2 – Y2^2 + Y3^2