Представьте выражение в виде разности квадратов и разложите на множители
y^2+20y+100+9x^2

у тебя ошибка в условии ,перед 9 должен быть " минус", поэтому твой пример надо решать

y^2+20y+100 -9x^2=(y+10)^2-(3x)^2= ( y+10-3x)(y+10+3x)