решите систему способом подстановки x^2+y^2=12
xy=-6

Из 2-го уравнения имеем
х = 1+у
и подставляем в 1-е уравнение
(1+y)^2 - (1+y)*y + y^2 = 7
1 + 2y + y^2 - y - y^2 + y^2 - 7 = 0
y^2 + y - 6 = 0
y1 = 2; х1 = 3
у2 = -3; х2 = -2