5√3, надо возвести в квадрат!

( 5√3 )² 
Возводим поочередно каждый множитель
5²=25
(√3)²=3
25*3=75
Это даже можно проверить и на калькуляторе

(5 корень 3)^2=25*3=75