25х^2-4а^2+12ав-9в^2.
Разложить на умножаемые.

1) - 4a^2 + 12aв - 9в^2 = - ( 2а - 3в )^2
2) 25х^2 = ( 5х )^2
3) ( 5х )^2 - ( 2а - 3в )^2 = ( 5х + 2а - 3в )( 5х - 2а + 3в )