решить систему уравнения 
 х+у=3 
х2+2ху+2у2=18

х+у=3 
х2+2ху+2у2=18
второе уравнение посмотрим
x2+2xy+y2+y2=18
(x+y)2+y2=18
9+y2=18 из первого уравнения x+y=3
y2=9
y=3 x=0
y=-3 x=6