Для того чтобы выполнить умножение смешанных чисел, надо

... перевратить смешаные числа в неправильные дроби и умножить числитель на числитель, знаменатель на знаменатель.