при каких значениях параметра a и b в записе многочлена (x^3+ax^2+2x+1)(x^2-b) в стандартном виде коэфиценты при одночленах x^3 и x^2 равны нулю

При раскрытии скобок коэффициенты при данных одночленах будут:
x^3*(2-b)
x^2*(1-ab)
Значит:
2-b=0
1-ab=0 - это система
Получаем ответ: b = 2, a = 0.5