Найдите ab, если a+b=7 и a^2+b^2=25

из первого выразим a, a=7 - b
подставим во второе
(7-b)^2 + b^2 = 25
49 - 14b + 2b^2=25
b^2 - 7b +12=0
D=1
b1=4, b2=3
находим a
a1=3, a2=4
выбираем любую пару например a=4, b=3
тогда a*b=12