-7,24-5,23=-12,47
-7,24-5,23=12,47
Как правильно?

Правильно будет первый вариант :
- 7,24 - 5,23 = - 12,47
(Отрицательные числа суммируем, не забываем про минус).