не совсем понимаю, как найти нули, если число в квадрате...

В числителе множитель при любых значениях х.На знак дроби не влияет.Найдём нули всех множителей:

Так как знаменатель , то 
Вычислим знаки дроби в интервалах, на которые разбивают числовую ось числа -1,0,3.        -  -  -       + + +    - - - -    + + + +                            
               -----------(-1)--------[0]--------(3)----------->x
 .
2)                           
    при любых х --> на знак не влияет.
   -  -  -  -  -         + + +        + + +                                                                     
 -----------------[4]--------------[8]--------------> 

Замечание. При вычислении знака в интервале, надо взять любое числовое значение из этого интервала и подставить его вместо переменной в заданное выражение, подсчитать число и определить знак этого числа ( "+" или "-" ).Это и будет знак ф-ции в интервале, т.к. ф-ция сохраняет знак в интервалах между нулями ф-ции. Например, в примере №2 подсчитаем знак в интервале (4,8).Возьмем число х=5, получим , значит на этом интервале всюду ф-ция положительна.
Полезно иметь в виду то, что если скобка (х-а) в чётной степени, то при переходе через точку х=а, знак ф-ции не будет меняться.Во втором примере в интервалах, расположенных  правее и левее точки х=8, знак не меняется.