3 корней из 2 делить на корень из 5 минус корень из 2

Нет. Их нельзя вычесть. Можно вычитать или складывать, если под корнем одинаковое число. Например:
3 корня из 7 минус корень из 7 = 2 корня из 7
5 корней из 3 плюс 6 корней из 3 = 11 корней из 3

Нужно избавиться от иррациональности в знаменателе

отредоктируй запись чтоб было легче понять