из системы уравнений x^2+2xy+2y^2=10 x+y=3

x^2+2xy+2y^2=10
x+y=3
____________
x^2+2xy+2y^2=x^2+2xy+y^2+y^2=(x+y)^2+y^2
(x+y)^2+y^2=10
Подставим вместо x+y второе уравнение:
3^2+y^2=10
y^2=1
Из второго уравнения: x=3-y
1) y=1 => x=3-1=2
2) y=-1 => x=3-(-1)=4
Ответ: (2;1), (4;-1).