m = 5кг
h = S = 3м
A = 30Дж
F - ? какую формулу использовать?

Формула такова:
F=mg.

Если бы прочла условие задачи, то могла бы написать решение, а так написано просто дано.