x+2y=7
xy=3
сестема уравнения

x+2y=7
xy=3

x+2y=7
y=3/x

x+6/x = 7
y=3/x 

x^2 - 7x + 6 = 0 
(x  - 1  ) ( x - 6 ) = 0 
x = 1 
x = 6 

x = 1
y = 3/1 = 3

x = 6
y = 3/6 = 1/2

ОТВЕТ: 
( 1; 3)
( 6; 1/2)

Надо выразить одно неивестное через второе из одного уравнения и подставить его во второе уравнение.
x+2y=7    х = 7 - 2у
xy=3      (7 - 2у)*у = 3      7у -2у² - 3 = 0.
Решаем квадратное уравнение - D = 25   y₁ = 0,5    y₂ = 3
x₁ = 7 - 2*0,5 = 6      x₂ = 7 - 2 *3 = 1