В треугольнике ABC AB=3, BC=5, cos B=-1/15. Найдите АС. 

Пусть АН перпендикуляр к ВС. Тогда треугольник АВН прямоугольный с прямым углом Н. Так как cos<0, значит угол в тупой. АН опустится на продолжении ВС.
cosB=cos(180-ABH)=-cos ABH
cos ABH=1/15
cos ABH=BH/AB
BH/AB=1/15
BH/3=1/15
BH=0.2
По теореме Пифагора  AB^2=BH^2+AH^2
9=0.04+AH^2
AH^2=8.96
AC^2=AH^2+HC^2
HC=BC+HB
HC=5+0.2=5.2
AC^2=8.96+27.04=36
AC=6
Ответ: 6