разложите на множители:
х^2+my-у^2-mх

Х^2 + my - y^2 - mx = ( x^2 - y^2 ) + ( my - mx ) = ( x - y )( x + y ) + m( y - x ) = ( x - y )( x + y - m )