помогите решить 
2cos^2(x-π/2)-sqrt3sin(2x)=0 

2sin²x-2√3sincosx=0 /2cos²x≠0
tg²x-√3tgx=0
tgx(tgx-√3)=0
tgx=0⇒x=πn
tgx=√3⇒x=π/3+πn

это же не однородное уравнение второй степени. Почему вы делите на cos²x

Неполное однородное 2 степени.

2cos^2(x-π/2)-sqrt3sin(2x)=0 
2sin^2x - 2*sqrt3*sinx*cosx=0
sinx(2sinx - 2*sqrt3*cosx)=0
sinx=0 или 2sinx - 2*sqrt3*cosx=0
1) sinx=0
x= пn, где n принадлежит Z
2) 2sinx - 2*sqrt3*cosx=0
делим  каждую часть на cosx и получаем
2tgx - 2*sqrt3=0
2tgx=2*sqrt3
tgx=sqrt3
x= п/3+ пn, где n принадлежит Z