Телескоп производит съемку звездного неба и отправляет на компьютер данные, которые представляют собой набор координат звезд на плоскости. Астрономам необходимо вычислить площадь звездного скопления. Предложите алгоритм решения этой задачи.

Очень интересный вопрос, для начала уточним что координаты звёзд являются Декартовыми координатами на плоскости,
а площадь созвездия это выпуклая оболочка, итак у нас есть множество координат точек и для начала нам нужно построить выпуклую оболочку, как это сделать написано тут https://m.habrahabr.ru/post/144921/
после того как мы получим фигуру( с координатами вершин ), задача сводится к нахождению площади этой фигуры по координатам вершин, для этого применим формулу площади Гаусса
Как нею пользоваться тут https://youtu.be/0KjG8Pg6LGk