Для каждого значения параметра a решите уравнение
sin²x + sin²2x + sin²3x - 2a(sinx + sin2x + sin3x) + cosx - cos3x + 2a² = 0

antonovm: ой, перемудрил я ночью , вторую часть можно значительно упростить , а исправить уже нельзя , попробую сделать это здесь : ( pi n;0) и ( (2pi m)/3;0)-решения системы (других нет, просто подставьте pin и (2pim)/3 в каждое уравнение системы ), поэтому это и будет ответом , если построите точки на окружности , то убедитесь, что это множество совпадает с ответом , решать систему вторично (при а=0) не надо