Сократить дробь
(a^2+2ab-3b^2)/(a^2-3ab+2b^2)

в числителе раскладываем 3b^2 = b^2 + 2b^2
в знаменателе 3ab = ab + 2ab, получаем:
[(a^2 - b^2) + (2ab - 2b^2)] / [(a^2 - ab) + (2b^2 - 2ab)] = [(a-b)(a+b) + 2b(a-b)] / [a(a-b) + 2b(b-a)] = [в знаменателе во второй скобке меняем местами переменные и перед скобкой меняем знак на противоположный] = [(a-b)(a+b+2b)] / [a(a-b) - 2b(a-b)] = [(a-b)(a+b+2b)] / [(a-b)(a-2b)] = (a+b+2b) / (a-2b)